論文「Disrupting Model Merging」がICCV 2025に採録されました
2025.10.19
モデルマージは、複数のファインチューニング済みモデルを追加学習なしに統合する技術です。その一方で、フリーライダーが他者のモデルの能力を安価に取り込めてしまうという問題があります。透かしやフィンガープリントといった既存手法は事後的にマージを検知できるだけで、マージそのものは防げません。
本研究は、マージを事前に抑止する初の能動的防御を提案しました。MLPパラメータの並べ替えとアテンションヘッドのスケーリングという二つの操作によってモデルをパラメータ空間の共通の盆地から押し出し、他のモデルとマージされた場合には性能が大きく劣化する一方、単体で使う限り機能は変わらないという性質を実現しています。画像分類・画像生成・テキスト分類で有効性を確認しました。
【論文情報】
Junhao Wei, Zhe Yu, Jun Sakuma, “Disrupting Model Merging: A Parameter-Level Defense Without Sacrificing Accuracy,” Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV 2025), pp. 17698-17707, October 2025.