github.devotd.
新着セキュリティ

trusted-ai/adversarial-robustness-toolbox 1.20.1 — 敵対的攻撃と防御

Adversarial Robustness Toolbox (ART) 1.20.1 が実装する敵対的機械学習の攻撃・防御の範囲と、課題となるリリース変更記録の欠如と比較ベンチマークの不在を扱う。

リポジトリ情報trusted-ai/adversarial-robustness-toolbox ↗

Adversarial Robustness Toolbox (ART) 1.20.1 が実装する敵対的機械学習の攻撃・防御の範囲と、課題となるリリース変更記録の欠如と比較ベンチマークの不在を扱う。

GitHub の説明: Adversarial Robustness Toolbox (ART) - Python Library for Machine Learning Security - Evasion, Poisoning, Extraction, Inference - Red and Blue Teams

スター
★ 6.3K
フォーク
1.3K
言語
Python
ライセンス
MIT
最新リリース
1.20.1
原文を見る ↗GitHub で見る ↗

trusted-ai/adversarial-robustness-toolbox は Adversarial Robustness Toolbox (ART)、機械学習セキュリティ(Machine Learning Security)向けの Python ライブラリである。最新リリースは 1.20.1。回避(evasion)、汚染(poisoning)、抽出(extraction)、推論(inference)の 4 つの脅威に対する攻撃と防御を実装し、機械学習モデルやアプリケーションの敵対的頑健性を検証し、防御を評価できる。

ART は Linux Foundation AI & Data Foundation がホストしている。TensorFlow、PyTorch、scikit-learn などの複数の機械学習フレームワークに対応し、画像・表・音声・映像のデータと、分類、物体検出、音声認識のタスクを扱う。実装言語は Python、ライセンスは MIT で、スターは 6282 個集まった。2018 年 3 月 15 日に作成されたプロジェクトで、1 つのライブラリの中でレッドチームとブルーチーム双方の視点からの攻撃と防御を扱える範囲の広さが特徴だ。

ただし、1.20.1 で何が変更されたかは提示された資料には記されていない。変更リストがないため、このリリースが前一バージョンより改善されたかどうかは判断できない。評価スコアも乏しく、10 点満点中のモメンタムスコアは 1.6 と低く、新鮮さや技術力、品質のスコアは示されていない。MIT ライセンスなので取り込みやすく、攻撃・防御のシナリオも構成できる。他のツールと比較したベンチマークはなく、特定のタスクで優位性があるかは分からない。