Share
Sign In
情報追加プロンプト
Generated Knowledge Prompting（生成された知識プロンプト）は、Jiacheng Liuの研究チームが2022年に発表した「Generated Knowledge Prompting for Commonsense Reasoning」論文で提案された技術です。生成された知識プロンプトは、言語モデルから直接知識を生成し、それを追加の入力として提供して質問に答える方法です。この方法は、常識的な推論や事実上の正確さが要求される作業に特に有用です。
Generated Knowledge Prompting for Commonsense Reasoning.pdf844.23KB
原理は意外にも簡単に2つのステップで行われます。まず、言語モデルを使用して、質問に関連する知識宣言を生成します。次に、生成された知識を決定プロセスに統合して、各知識宣言文で予測を実行し、最も信頼できる予測を選択します。
ここまで見た人たちは、GPTsが思い浮かんでくれればよく理解されたのです。実際、これはGPTにも適用されるいくつかの技術です。知識を入れて、その知識に合った回答を与え、ユーザーが入力あるいは回答した内容を統合してより良い回答を抽出する過程がそうです。
特定の質問に合わせて言語モデル（GPT-3.5を使用）で知識宣言を生成します。これはいくつかのデモンストレーションを通して行われ、各デモンストレーションはその仕事スタイルの質問とそれに役立つ知識宣言で構成されています。この知識宣言は、トピックや質問に関連する情報を明示的に提示する文を意味します。宣言文といって途方もないものではありません。
論文の例に従ってください。
「ゴルフで他の人よりも高いスコアを得ようとする部分はありますか？」
ゴルフの一部は、他よりも高いスコアを得るために努力することです。
生成された知識=≫ゴルフの目標は、最も少ない打手でコースを完走することです。最低スコアを記録したプレイヤーが勝ちます。
「ゴルフで他の人よりも高いスコアを得ようとする部分はありますか？」
ゴルフでは、プレイヤーは最も少ない打手でコースを完走することを目指しています。最低スコアが勝ちます。
生成された知識プロンプトの重要性
生成された知識プロンプトは、特に複雑または微妙な情報を理解する必要がある作業におけるLLMの重要な進歩を表します。プロンプト内で知識を作成して活用することで、LLMはより正確でコンテキストに対応する応答を提供できます。つまり、生成された知識をプロンプトに組み込むことで、言語モデルはゴルフのスコアが低いほど良いことを正しく理解しています。この例は、生成された知識を含めることによってモデルの理解度と精度を大幅に向上させることができることを示しています。
ちょっとしたアドバイスを加えると、実際にはVectorDBやEmbedding Modelを使うとすべてが簡単になります。あくまでプロンプトを活用して最高の効率を引き出す際に有効な方法です。
ⓒ 2023. Haebom, all rights reserved.
ソースを表示し、著作権者の許可の下で営利目的で使用することができます。
