Share
Sign In
🔍

検索拡張生成(RAG):外部知識で言語モデルを強化する

検索拡張の生成(RAG:Retrieval Augmented Generation)は、複雑な質問に答えるためにインターネットやデータベースなどの外部情報を利用する言語モデルです。このモデルは、特に事実の確認や常識的な質問に答えるときに便利です。最近2023年12月に最も注目を集めている分野です。 MetaでLLaMA2を発表しながらLLMについて活発な論文を出しながら出てきた方法です。

RAGの仕組み

入力処理:ユーザーの質問やクエリを受け取ります。
情報検索:インターネットやWikipediaなどのデータベースで関連情報を検索します。
コンテキスト化:見つかった情報を質問に関連付けます。
回答の生成:リンクされた情報に基づいて正確な回答を作成します。

実際の例

RAGモデルは最新の論文や記事を見つけ、その内容に基づいて答えを生成します。
RAGの利点は、実際には明確です。ハルシネーションという言語モデルが持つ限界を克服できる方法だからです。検索拡張生成(RAG)は言語モデルの分野における重要な進歩であり、さまざまな知識集約的な分野に非常に役立ちます。外部情報を活用して最新の正確な回答を提供できるこの技術は、特に事実確認が重要な状況で強力なツールとなります。
現実的な一貫性:最新の情報を活用してより正確な回答を提供します。
適応性:情報が変わってもモデルを新しく学習する必要なく、最新の状況に合わせて回答を生成します。
多様な使用:質問の回答、事実の確認など、知識が必要なさまざまな分野で活用されます。
GPTがリリースされると、RAG方式をより使いやすくするためのインターフェースを提供します。代表的には、金融サービス、eコマース、ヘルスケア、コールセンターチャットボットなど:RAGは、これらの分野で顧客データ検索、最新のカタログ情報を使用した製品説明の生成、患者記録情報の提供、パーソナライズされたサポートの提供などの用途に活用します。 。

実際に使用されるサービス

Azure Machine Learning :Azure Cognitive ServicesスタジオとSDKを介してRAGを有効にし、BART-RAGなどの事前に構築されたモデルを提供します。
ChatGPT : OpenAI は ChatGPT 応答に関連する外部知識を追加する検索プラグインをリリースしました。現在は限られたベータ版で提供されています。
AnthropicのConstitutional AI :学習された検索モジュールを使用して生成された応答に基づいています。透明性に焦点を当てています。

PromptにRAGを適用すると?

質問分析:ユーザーの質問を分析し、それに合ったキーワードや概念を特定します。
情報検索:RAGの検索機能を活用して、関連する知識やデータを検索します。たとえば、特定のトピックに関する最新の研究や統計情報を見つけることができます。
コンテキストプロンプトの生成:検索された情報に基づいて質問に関連するプロンプトを生成します。このとき、検索された情報を含むユーザーの質問に、より文脈的でリアルな答えを準備します。
応答の生成:準備されたプロンプトを言語モデルに入力して、検索された情報に基づいて答えを生成します。

"최근에 발견된 외계 행성에 대해 설명해주세요."
1.
情報検索:RAGシステムは、「最近発見された地球外惑星」に関する最新の研究論文、ニュース記事、ウィキバック、ページなどを検索します。
2.
コンテキストプロンプトの生成:検索された情報に基づいてプロンプトを生成します。たとえば、「最近発見されたエイリアン惑星TRAPPIST-1の特徴は何であり、なぜ重要な発見ですか?」というプロンプトを作成できます。
3.
応答の生成:このプロンプトを言語モデルに入力して、TRAPPIST-1の詳細な説明とその重要性に対する答えを生成します。
📖
🎨
ⓒ 2023. Haebom, all rights reserved.
ソースを表示し、著作権者の許可の下で営利目的で使用することができます。
👍