QiNN-QJ: A Quantum-inspired Neural Network with Quantum Jump for Multimodal Sentiment Analysis
Created by
- Haebom
Category
Empty
저자
Yiwei Chen, Kehuan Yan, Yu Pan, Daoyi Dong
개요
양자 이론의 중첩 및 얽힘과 같은 비고전적 원리를 활용하여 머신 러닝의 성능을 향상시키는 연구가 진행되고 있지만, 기존 연구는 훈련 불안정성과 일반화 능력의 한계가 있었다. 본 연구에서는 양자 점프(Quantum Jump, QJ)를 활용하여 다중 모드 얽힘 모델링을 위한 Quantum-inspired Neural Network with Quantum Jump (QiNN-QJ)를 제안한다. QiNN-QJ는 각 모드를 양자 순수 상태로 인코딩한 후, QJ 연산자를 시뮬레이션하는 미분 가능한 모듈을 통해 분리 가능한 곱 상태를 얽힌 표현으로 변환한다. Hamiltonian 및 Lindblad 연산자를 공동으로 학습하여 QiNN-QJ는 소산적 동역학을 통해 모드 간 제어 가능한 상호 얽힘을 생성하며, 훈련 안정화 및 얽힘 형성을 제한하기 위해 구조적 확률성과 정상 상태 어트랙터 속성을 사용한다. 얽힌 상태는 훈련 가능한 측정 벡터에 투영되어 예측을 생성한다. QiNN-QJ는 CMU-MOSI, CMU-MOSEI, CH-SIMS를 포함한 벤치마크 데이터 세트에서 최첨단 모델보다 우수한 성능을 달성했으며, von-Neumann 얽힘 엔트로피를 통해 사후 해석 가능성을 향상시킨다. 본 연구는 얽힌 다중 모드 융합을 위한 원칙적인 프레임워크를 구축하고, 복잡한 교차 모드 상관 관계를 모델링하는 데 양자 영감을 받은 접근 방식을 제시한다.
시사점, 한계점
•
시사점:
◦
QJ 연산자를 활용한 새로운 얽힘 모델링 방법 제안.
◦
훈련 안정성 및 일반화 능력 향상.
◦
벤치마크 데이터셋에서 SOTA 달성.
◦
von-Neumann 얽힘 엔트로피를 통한 해석 가능성 향상.
◦
복잡한 교차 모드 상관 관계 모델링을 위한 새로운 프레임워크 제시.
•
한계점:
◦
논문에서 구체적인 한계점 언급 없음.
