Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Safe-Control: A Safety Patch for Mitigating Unsafe Content in Text-to-Image Generation Models

Created by
  • Haebom

作者

Xiangtao Meng, Yingkai Dong, Ning Yu, Li Wang, Zheng Li, Shanqing Guo

概要

本論文では、テキストイメージ(T2I)生成モデルの安全性問題を解決するために開発されたプラグアンドプレイ方式の安全パッチであるSafe-Controlを紹介します。 Safe-Controlは、データ駆動型戦略と安全認識条件を活用して、ロックされたT2Iモデルに安全制御信号を注入し、安全でないコンテンツの生成を減らします。さまざまなT2Iモデルに適用可能で、既存の安全メカニズムの限界を克服します。

Takeaways、Limitations

Takeaways:
さまざまなT2Iモデルに簡単に適用できるプラグアンドプレイ方式の安全パッチの開発
安全でないコンテンツ生成の可能性を効果的に減少させる(7%)
従来の安全機構より優れた性能
単一パッチで複数の安全要件を満たす
Limitations:
論文に記載されているLimitationsはありません(制限された情報で判断)
👍