[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Vers des générations de LLM ancrées dans la géoculture

Created by
  • Haebom

Auteur

Piyawat Lertvittayakumjorn, David Kinney, Vinodkumar Prabhakaran, Donald Martin Jr., Sunipa Dev

Contour

Cet article examine les lacunes en matière de sensibilisation culturelle des modèles linguistiques génératifs à grande échelle (MLG). Nous étudions plus particulièrement les effets des techniques de génération augmentée utilisant la recherche dans une base de connaissances personnalisée (base de connaissances) et la recherche sur le Web (base de recherche) sur la familiarité culturelle des LLM dans différentes cultures nationales. Nous comparons les LLM standard, les LLM basés sur la base de connaissances et les LLM basés sur la recherche à l'aide de plusieurs critères de sensibilisation culturelle, et constatons que la base de recherche améliore significativement les performances des LLM aux tests à choix multiples évaluant les connaissances propositionnelles (par exemple, les normes culturelles, les artefacts et les institutions). En revanche, la base de connaissances basée sur la base de connaissances a une efficacité limitée en raison d'une couverture inadéquate de la base de connaissances et d'un moteur de recherche sous-optimal. Cependant, la base de recherche augmente le risque de jugements stéréotypés dans les modèles linguistiques et ne parvient pas à améliorer les jugements des évaluateurs sur la familiarité culturelle lors d'évaluations humaines avec une puissance statistique suffisante. Par conséquent, nous mettons en évidence l'écart entre les connaissances culturelles propositionnelles et la maîtrise culturelle ouverte lors de l'évaluation de la sensibilisation culturelle des LLM.

Takeaways, Limitations

Takeaways: Les techniques de recherche fondamentale se révèlent efficaces pour améliorer les connaissances culturelles propositionnelles des étudiants en LLM. Nous suggérons l'utilité d'une approche fondée sur la recherche pour améliorer la compréhension des différentes cultures par les étudiants en LLM.
Limitations: L'ancrage dans la recherche augmente le risque de jugements stéréotypés. L'ancrage dans la base de connaissances a une efficacité limitée en raison de sa dépendance à la qualité de la base de connaissances et aux performances du moteur de recherche. Compte tenu du jugement subjectif des évaluateurs humains, des recherches supplémentaires sont nécessaires pour déterminer si l'ancrage dans la recherche contribue réellement à améliorer la maîtrise culturelle. Il est nécessaire de distinguer clairement les évaluations objectives et subjectives et de développer une nouvelle méthodologie pour évaluer de manière exhaustive la compréhension culturelle des LLM.
👍