Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Can Less Precise Be More Reliable? A Systematic Evaluation of Quantization's Impact on CLIP Beyond Accuracy

Created by
  • Haebom

作者

Aymen Bouguerra, Daniel Montoya, Alexandra Gomez-Villa, Fabio Arnez, Chokri Mraidha

概要

CLIPなどのビジョン言語モデル(VLM)のゼロショット一般化能力は、アウト・オブ・ディストリビューション(OOD)検出などの安全関連作業に新しいパラダイムを開きました。しかし、CLIPの計算効率的で信頼できる展開に重要な追加の側面はまだ見落とされています。特に、精度に加えて、量子化がCLIPの性能に与える影響はまだ十分に探索されていない。本研究では、CLIPモデルの量子化の大規模な評価を提示し、内部分布の精度だけでなく、さまざまな信頼性指標を評価し、事前トレーニングソースによって駆動される直観に反する結果を明らかにする。

Takeaways、Limitations

量子化は通常、過度の自信を持って事前に訓練されたモデルの補正を一貫して改善しますが、過信モデルではしばしば劣化します。
校正の低下は他の信頼性指標の利点を排除しません。 OOD検出は、同じ校正が悪いモデルでも改善できます。
ゼロショット精度、補正、およびOOD堅牢性を同時に向上させる特定の量子化認識トレーニング(QAT)方法を特定し、効率とパフォーマンスの間の厳しい相殺関係に挑戦します。
本研究は、量子化の伝統的な役割を超えて、効率的で信頼性が高く、堅牢なVLMを展開する多目的問題解決の重要な洞察を提供します。
👍