Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Pragmatic Inference Chain (PIC) Improving LLMs' Reasoning of Authentic Implicit Toxic Language

Created by
  • Haebom

作者

Xi Chen, Shuo Wang

概要

本論文は,大規模言語モデル(LLM)の倫理的問題と毒性言語検出技術開発の新しい可能性を提起する。既存の研究は単純な意味の関連性(例えば、「he」とプログラマー、「she」と家庭の主婦の偏りのある関連性)に基づくデータを使用していましたが、本研究はオンライン検閲を回避し、人間の評価者によって推論が必要であることが確認された実際の毒性相互作用データを収集します。これに基づいて、認知科学と言語学の研究結果を活用し、新しいプロンプト法であるPragmatic Inference Chain(PIC)を提案します。 PICプロンプトは、GPT-4o、Llama-3.1-70B-Instruct、DeepSeek-v2.5、DeepSeek-v3などのモデルで暗黙の毒性言語識別の成功率を既存のプロンプティング方法(CoT、ルールベースなど)に比べて大幅に向上させ、より明確で一貫した推論プロセスを生成する。これは、ユーモアや比喩の理解など、他の推論集約的な作業にも一般化される可能性を示唆しています。

Takeaways、Limitations

Takeaways:
暗黙的で洗練された毒性言語の検出に効果的な新しいプロンプト法(PIC)の提示
LLMの推論能力向上による毒性言語検出性能の改善
PICプロンプトの別の推論集約的作業(ユーモア、比喩の理解など)への一般化の可能性の提示
実際のオンライン環境における毒性相互作用データセットの構築と活用
Limitations:
提案されたPICプロンプトの一般化の可能性はさらなる研究を通して検証されるべきです
使用されるデータセットの範囲と代表性に関する追加の議論の必要性
様々なLLMモデルに対するPICプロンプトの性能比較分析をより深く行う必要がある
👍