論文「Toward Safer Diffusion Language Models」がICLR 2026に採録されました
2026.04.23
拡散モデルに基づく言語モデル（DLM）は、反復的なデノイズによってトークンを並列に生成するため、低遅延かつ双方向の条件付けが可能です。その一方で、この推論機構を突くジェイルブレイク攻撃のリスクはこれまで十分に理解されていませんでした。
本研究は、有害な問いに対する肯定的なトークンが生成の中間ステップに現れると、以降のデノイズが有害な応答へと誘導されてしまう priming 脆弱性を発見しました。安全性が調整済みのモデルであっても、そうしたトークンを注入するだけで安全機構を容易に回避できてしまいます。対策として、汚染された中間状態からでも安全な応答を生成するよう学習する、DLM 向けの安全アライメント手法を提案しています。
【論文情報】
Shojiro Yamabe, Jun Sakuma, “Toward Safer Diffusion Language Models: Discovery and Mitigation of Priming Vulnerability,” The Fourteenth International Conference on Learning Representations (ICLR 2026), April 2026.