trusted-ai/adversarial-robustness-toolbox は Adversarial Robustness Toolbox (ART)、機械学習セキュリティ(Machine Learning Security)向けの Python ライブラリである。最新リリースは 1.20.1。回避(evasion)、汚染(poisoning)、抽出(extraction)、推論(inference)の 4 つの脅威に対する攻撃と防御を実装し、機械学習モデルやアプリケーションの敵対的頑健性を検証し、防御を評価できる。
ART は Linux Foundation AI & Data Foundation がホストしている。TensorFlow、PyTorch、scikit-learn などの複数の機械学習フレームワークに対応し、画像・表・音声・映像のデータと、分類、物体検出、音声認識のタスクを扱う。実装言語は Python、ライセンスは MIT で、スターは 6282 個集まった。2018 年 3 月 15 日に作成されたプロジェクトで、1 つのライブラリの中でレッドチームとブルーチーム双方の視点からの攻撃と防御を扱える範囲の広さが特徴だ。
ただし、1.20.1 で何が変更されたかは提示された資料には記されていない。変更リストがないため、このリリースが前一バージョンより改善されたかどうかは判断できない。評価スコアも乏しく、10 点満点中のモメンタムスコアは 1.6 と低く、新鮮さや技術力、品質のスコアは示されていない。MIT ライセンスなので取り込みやすく、攻撃・防御のシナリオも構成できる。他のツールと比較したベンチマークはなく、特定のタスクで優位性があるかは分からない。