Neurosymbolic Learning for Inference-Time Argumentation

작성자

Haebom

카테고리

Empty

저자

Gabriel Freedman, Adam Dejl, Adam Gould, Mansi, Lihu Chen, Jianqi Jiang, Francesca Toni

💡 개요

본 논문은 정보가 불완전하거나 상충될 때 이진 분류 대신 불확실한 답변을 제공하는 것이 더 적절할 수 있다는 점에 주목하여, 주장 검증 문제를 해결하기 위해 추론 시점 논증(Inference-Time Argumentation, ITA)이라는 새로운 신경-기호 학습 프레임워크를 제안합니다. ITA는 공식 논증 의미론을 활용하여 거대 언어 모델(LLM)의 학습을 안내하고, 생성된 논증의 기본 점수를 계산하며, 이를 바탕으로 3진법(참/거짓/불확실) 예측을 수행합니다. 결과적으로, ITA는 논증 생성 및 점수화를 학습 성과에 최적화하며, 추론 시점에는 생성된 논증과 점수에 의해 결정되는 신뢰할 수 있는 예측을 제공합니다.

🔑 시사점 및 한계

•

신뢰할 수 있는 설명 가능성: ITA는 추론 과정에서 생성된 명시적이고 검증 가능한 논증 구조에 기반하여 예측을 수행하므로, 기존 모델의 후행 사후 설명 방식보다 훨씬 신뢰할 수 있는 설명 가능성을 제공합니다.

•

불확실성 처리 능력 향상: 단순히 참/거짓으로 판단하는 것을 넘어, 정보 부족이나 상충 시 '불확실'이라는 선택지를 제공함으로써 실제 주장 검증 환경에서 발생하는 복잡성을 더 잘 반영할 수 있습니다.

•

논증 생성 및 점수화의 학습 최적화: 논증 생성 및 점수화 과정이 최종 논증 예측의 품질에 직접적으로 영향을 받도록 학습을 최적화하여, 보다 효과적인 주장 검증 모델을 구축할 수 있습니다.

•

성능: 제안된 ITA 프레임워크는 두 가지 3진법 주장 검증 데이터셋에서 기존 논증 기반 모델을 능가하고, 비논증 기반 직접 예측 모델과도 경쟁력 있는 성능을 보여줍니다.

•

계산 복잡성 및 확장성: 신경망과 기호적 논증 프레임워크의 결합은 모델의 복잡성을 증가시킬 수 있으며, 대규모 데이터셋이나 매우 복잡한 논증 구조를 다룰 때의 계산 효율성 및 확장성에 대한 추가적인 연구가 필요합니다.

PDF 보기

Made with Slashpage