whitecircle/rise는 텍스트에서 이미지를 만드는 모델의 취약점을 찾는 레드팀(red-teaming) 공격 전략을 탐색하는 연구 구현이다. RISE(Red-teaming via Iterative Strategy Evolution)는 NeurIPS 2026 논문에 해당하는 프로젝트로, Python으로 작성되었고 Apache-2.0 라이선스를 따른다. 저장소는 2026년 9월 28일에 만들어졌고 정식 릴리스는 아직 없다.
프롬프트 하나를 조금씩 최적화하는 일반적인 자동 레드팀과 달리, 이 저장소는 프롬프트를 작성하는 LLM에게 공격을 구성하는 방법을 알려주고 자연어로 적힌 공격 전략 자체를 진화시킨다. 한 전략이 여러 프롬프트에서 평가되므로 드문 성공도 신호가 되고, 전략이 새 시나리오로 전이되는지 살피는 것이 탐색 비용을 줄인다. README는 VLM 판정과 섬 모델 진화 루프로 검색한다고 설명한다. 저장소에는 전체 파이프라인, 3개 범주의 설정과 판정 기준, 여러 이미지 생성 모델용 설정, 논문에서 사용한 로컬 FLUX.2 테스트베드가 들어 있다.
다만 탐색으로 찾은 실제 공격 전략과 프롬프트, 이미지는 위험도 때문에 공개되지 않는다. 공개된 것은 파이프라인과 관련 설정이고 공격 결과물은 남아 있지 않다. 파이프라인만 공개한 판단은 연구 재현성 측면에서는 합리적이다. 평가 점수에서 새롭다 8.0과 기술 7.0은 나쁘지 않지만, 품질 6.0과 모멘텀 2.1은 높지 않다. 별은 135개다. 공격 산출물이 없어 전략의 효과를 그대로 재현해 볼 수는 없으니, 방식을 읽어 둘 가치는 있어도 곧바로 적용할 도구는 아니다.