github.devotd.
新着評価

whitecircle/rise — テキストから画像を作るモデルへのレッドチーム戦略の探索

NeurIPS 2026 論文 RISE の研究実装である whitecircle/rise が、テキスト-画像モデルのレッドチーム攻撃戦略を探索するパイプラインを公開した。

リポジトリ情報whitecircle/rise ↗

NeurIPS 2026 論文 RISE の研究実装である whitecircle/rise が、テキスト-画像モデルのレッドチーム攻撃戦略を探索するパイプラインを公開した。

GitHub の説明: RISE: Red-teaming via Iterative Strategy Evolution (NeurIPS 2026)

スター
★ 135
フォーク
22
言語
Python
ライセンス
Apache-2.0
原文を見る ↗GitHub で見る ↗

whitecircle/rise は、テキストから画像を作るモデルの脆弱性を見つけるレッドチーム(red-teaming)攻撃戦略を探索する研究実装である。RISE(Red-teaming via Iterative Strategy Evolution)は NeurIPS 2026 論文に対応するプロジェクトで、Python で書かれ、Apache-2.0 ライセンスに従う。リポジトリは 2026 年 9 月 28 日に作成され、正式リリースはまだない。

単一のプロンプトを少しずつ最適化する一般的な自動レッドチームとは異なり、このリポジトリはプロンプトを書く LLM に攻撃の組み立て方を教え、自然言語で書かれた攻撃戦略そのものを進化させる。一つの戦略が複数のプロンプトで評価されるため、まれな成功もシグナルになり、戦略が新しいシナリオに転移するかを見張ることで探索コストが下がる。README は VLM 判定と島モデル進化ループで探索すると説明している。リポジトリにはパイプライン全体、3 つのカテゴリの設定と判定基準、複数の画像生成モデル向けの設定、論文で使われたローカル FLUX.2 テストベッドが含まれる。

ただし探索で見つかった実際の攻撃戦略やプロンプト、画像はリスクのため公開されない。公開されているのはパイプラインと関連設定で、攻撃成果物は残っていない。パイプラインのみを公開という判断は、研究再現性の観点では妥当だ。評価スコアでは、新しさ 8.0 と技術 7.0 は悪くないが、品質 6.0 とモメンタム 2.1 は高くない。スターは 135 個。攻撃の出力がないため戦略の効果をそのまま再現して確かめることはできないので、やり方を読んでおく価値はあるものの、すぐ適用できるツールではない。