Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

LATTE: Learning Aligned Transactions and Textual Embeddings for Bank Clients

Created by
  • Haebom

作者

Egor Fadeev, Dzhambulat Mollaev, Aleksei Shestov, Dima Korolev, Omar Zoloev, Ivan Kireev, Andrey Savchenko, Maksim Makarenko

概要

本稿では、金融アプリケーションで顧客の埋め込みを学習する新しいフレームワークであるLATTEを提案します。従来の大規模言語モデル(LLM)を使用した方法は、長期イベントシーケンス処理に計算コストがかかり、実際のパイプラインに適用するのが難しいという問題があります。 LATTEは、生のイベントの埋め込みと凍結されたLLMから抽出された意味的な埋め込みを整列させる対照学習フレームワークで、行動の特徴を短いプロンプトにまとめてLLMを介して埋め込み、対照損失によって地図学習を実行します。これにより、LLMを使用した全体的なシーケンス処理方式と比較して、推論コストと入力サイズが大幅に削減されます。実際の金融データセットを使用した実験の結果、LATTEは従来の最先端技術より優れた性能を示し、遅延時間に敏感な環境でも展開可能であることを示しています。

Takeaways、Limitations

Takeaways:
LLMを活用しながら、計算コストと遅延時間の問題を効果的に解決する新しい金融アプリケーション向けの顧客組み込み学習方法を提示します。
実際の金融データセットで従来の最先端技術より優れた性能を検証。
遅延時間に敏感な環境でも展開可能な実用的なモデルを提供。
Limitations:
提案されたモデルのパフォーマンスが特定の金融データセットに限定される可能性。
使用されるLLMのパフォーマンスに依存する可能性があります。
プロンプトエンジニアリングの質によってはパフォーマンスが影響を受ける可能性があります。
さまざまな種類の金融イベントの一般化性能に関するさらなる研究が必要
👍