[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

CGP-Tuning: Structure-Aware Soft Prompt Tuning for Code Vulnerability Detection

Created by
  • Haebom

作者

Ruijun Feng, Hammond Pearce, Pietro Liguori, Yulei Sui

概要

本稿では、ソフトウェアの脆弱性を検出するための新しいコードグラフ強化構造認識ソフトプロンプトのチューニング方法であるCGP-Tuningを紹介します。従来のファインチューニング技術がソースコードの構造情報を見逃す問題を解決するために、CGP-Tuningは、コードグラフ内の豊富な意味情報(制御/データフローなど)をキャプチャするタイプ認識埋め込みとグラフテキスト相互作用を統合しながら線形計算コストを達成する効率的なクロスモーダルアライメントモジュールを導入します。 CodeLlama、CodeGemma、Qwen2.5-Coderなど最新のオープンソースコードLLMとDiverseVulデータセットを使用した実験結果、CGP-Tuningはモデルに独立した性能向上を提供し、実用的な推論速度を維持しながら、従来最高性能のグラフ向上ソフトプロンプトチューニング技法より平均4%向上し、5性能を示した。

Takeaways、Limitations

Takeaways:
コードグラフの構造情報を効果的に活用することで、ソフトウェアの脆弱性検出性能を向上させることができることを示しています。
タイプ認識埋め込みと効率的なクロスモーダルアライメントモジュールを使用して、計算コストを削減しながらパフォーマンスを向上させるための新しい方法を提示します。
さまざまなオープンソースコードLLMに適用可能なモデルに依存しない方法です。
ゼロショットプロンプトに比べて大幅なパフォーマンス向上を達成。
Limitations:
提示された方法は特定のデータセットとLLMについてのみ評価されたので、他のデータセットやLLMの一般化性能にはさらなる研究が必要です。
コードグラフの生成と処理の複雑さに関する議論の欠如
実際の大規模ソフトウェアシステムに適用するときに発生する可能性があるスケーラビリティの問題に関する追加の研究が必要です。
👍