Sign In

Valence-Arousal Subspace in LLMs: Circular Emotion Geometry and Multi-Behavioral Control

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Lihao Sun, Lewen Yan, Xiaoya Lu, Andrew Lee, Jie Zhang, Jing Shao

πŸ’‘ κ°œμš”

λ³Έ μ—°κ΅¬λŠ” λŒ€κ·œλͺ¨ μ–Έμ–΄ λͺ¨λΈ(LLM) λ‚΄μ—μ„œ 감정 벑터가 2차원 λͺ°μž…-각성(Valence-Arousal, VA) 뢀뢄곡간에 μ›ν˜• κΈ°ν•˜ν•™μ  ꡬ쑰둜 μ‘°μ§λ˜μ–΄ μžˆμŒμ„ λ°œκ²¬ν–ˆμŠ΅λ‹ˆλ‹€. μ£Όμ„±λΆ„ 뢄해와 λŠ₯μ„  νšŒκ·€λ₯Ό 톡해 의미 μžˆλŠ” VA 좕을 λ³΅κ΅¬ν•˜μ˜€μœΌλ©°, 이 좕듀은 μΈκ°„μ˜ 감정 평가와 상관관계λ₯Ό λ³΄μž…λ‹ˆλ‹€. μ΄λŸ¬ν•œ VA 좕을 따라 ν…μŠ€νŠΈλ₯Ό μƒμ„±ν•˜λ©΄ 감정적 νŠΉμ„±μ„ λ‹¨μ‘°λ‘­κ²Œ μ œμ–΄ν•  수 있으며, 단일 뢀뢄곡간을 톡해 κ±°λΆ€ 및 아첨과 같은 λ‹€μ–‘ν•œ ν•˜μœ„ 행동을 μ–‘λ°©ν–₯으둜 μ œμ–΄ν•  수 μžˆμŠ΅λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
LLM λ‚΄ 감정 ν‘œν˜„μ΄ λͺ°μž…-각성(VA) κ³΅κ°„μ—μ„œ μ›ν˜• ꡬ쑰λ₯Ό 가지며, 이λ₯Ό 톡해 ν…μŠ€νŠΈμ˜ 감정적 νŠΉμ„±μ„ μ²΄κ³„μ μœΌλ‘œ μ œμ–΄ν•  수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
단일 VA 뢀뢄곡간을 ν™œμš©ν•˜μ—¬ κ±°λΆ€(refusal)와 아첨(sycophancy)κ³Ό 같은 μƒλ°˜λœ 행동을 λ™μ‹œμ— μ œμ–΄ν•˜λŠ” μƒˆλ‘œμš΄ 방법을 μ œμ‹œν•©λ‹ˆλ‹€.
β€’
LLM의 감정 μ œμ–΄ λ©”μ»€λ‹ˆμ¦˜μ„ "μ–΄νœ˜ 맀개" κ΄€μ μ—μ„œ μ„€λͺ…ν•˜λ©°, νŠΉμ • 감정 μ˜μ—­μ— κ±°λΆ€/아첨 κ΄€λ ¨ 토큰이 λΆ„ν¬ν•˜κ³  VA μ‘°ν–₯이 ν•΄λ‹Ή ν™•λ₯ μ„ μ§μ ‘μ μœΌλ‘œ μ‘°μ ˆν•¨μ„ μ œμ•ˆν•©λ‹ˆλ‹€.
β€’
μ œμ•ˆλœ λ°©λ²•λ‘ μ˜ νš¨κ³Όκ°€ Llama-3.1-8B, Qwen3-8B, Qwen3-14B λ“± λ‹€μ–‘ν•œ LLMμ—μ„œ μž¬ν˜„λ¨μ„ ν™•μΈν–ˆμŠ΅λ‹ˆλ‹€.
β€’
ν˜„μž¬λŠ” ν…μŠ€νŠΈ 생성에 μ΄ˆμ μ„ λ§žμΆ”κ³  μžˆμœΌλ‚˜, μŒμ„±, 이미지 λ“± λ‹€λ₯Έ μ–‘μ‹μ—μ„œμ˜ 감정 ν‘œν˜„ 및 μ œμ–΄ κ°€λŠ₯성에 λŒ€ν•œ 탐ꡬ가 ν•„μš”ν•©λ‹ˆλ‹€.
β€’
λ³΅μž‘ν•˜κ±°λ‚˜ λ―Έλ¬˜ν•œ 감정 μƒνƒœλ₯Ό VA κ³΅κ°„μœΌλ‘œ μΆ©λΆ„νžˆ ν‘œν˜„ν•˜κ³  μ œμ–΄ν•˜λŠ” 데 ν•œκ³„κ°€ μžˆμ„ 수 μžˆμŠ΅λ‹ˆλ‹€.
πŸ‘
Made with Slashpage