Sign In

The Capability Paradox: How Smarter Auditors Make Multi-Agent Systems Less Secure

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Qiqi Liu, Thorsten Holz, Shilin Ye, Runhan Song

πŸ’‘ κ°œμš”

λ³Έ μ—°κ΅¬λŠ” 닀쀑 μ—μ΄μ „νŠΈ μ‹œμŠ€ν…œ(Multi-Agent Systems, MAS)의 λ³΄μ•ˆ 취약점을 νƒκ΅¬ν•˜λ©°, 특히 μ—μ΄μ „νŠΈμ˜ μ„±λŠ₯이 ν–₯μƒλ μˆ˜λ‘ μ‹œμŠ€ν…œ λ³΄μ•ˆμ΄ 였히렀 μ €ν•˜λ˜λŠ” 'λŠ₯λ ₯ μ—­μ„€(capability paradox)'을 λ°œκ²¬ν–ˆμŠ΅λ‹ˆλ‹€. μ΄λŠ” 곡격 μš”μ²­μ΄ 도메인 νŠΉν™”λœ μ„œμˆ  속에 μ€λ‹‰λ˜μ–΄ μ—μ΄μ „νŠΈ κ°„μ˜ 보고λ₯Ό 톡해 κ΄€λ¦¬μžμ—κ²Œ 전달될 λ•Œ λ°œμƒν•˜λ©°, 언어적 확신이 곡격 성곡λ₯ μ„ λ†’μ΄λŠ” μ£Όμš” μš”μΈμž„μ„ λ°ν˜€λƒˆμŠ΅λ‹ˆλ‹€. 이λ₯Ό ν•΄κ²°ν•˜κΈ° μœ„ν•΄ μ„œλ‘œ λ‹€λ₯Έ 전문성을 가진 μ—μ΄μ „νŠΈλ₯Ό μ‘°ν•©ν•˜λŠ” 이쒅 앙상블 검증(heterogeneous ensemble verification) 기법을 μ œμ•ˆν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
μ—μ΄μ „νŠΈμ˜ μ„±λŠ₯ ν–₯상이 MAS의 λ³΄μ•ˆμ„ μ§μ ‘μ μœΌλ‘œ κ°•ν™”ν•˜λŠ” 것이 μ•„λ‹ˆλΌ, 였히렀 곡격에 μ·¨μ•½ν•˜κ²Œ λ§Œλ“€ 수 μžˆλ‹€λŠ” 점을 μ‹œμ‚¬ν•©λ‹ˆλ‹€.
β€’
언어적 ν™•μ‹ (linguistic certainty)이 MASμ—μ„œ 곡격이 μ„±κ³΅ν•˜λŠ” 데 μ€‘μš”ν•œ 맀개 역할을 ν•œλ‹€λŠ” 사싀은 ν–₯ν›„ MAS λ³΄μ•ˆ μ—°κ΅¬μ˜ μƒˆλ‘œμš΄ λ°©ν–₯을 μ œμ‹œν•©λ‹ˆλ‹€.
β€’
ν˜„μž¬ μ œμ•ˆλœ 이쒅 앙상블 검증 기법이 λͺ¨λ“  μœ ν˜•μ˜ κ³΅κ²©μ΄λ‚˜ μ—μ΄μ „νŠΈ ꡬ성에 λŒ€ν•΄ νš¨κ³Όμ μΌμ§€λŠ” 좔가적인 검증이 ν•„μš”ν•˜λ©°, λ‹€μ–‘ν•œ MAS μ•„ν‚€ν…μ²˜μ™€ λ³΅μž‘ν•œ 곡격 μ‹œλ‚˜λ¦¬μ˜€μ— λŒ€ν•œ ν™•μž₯μ„± 연ꡬ가 ν•„μš”ν•©λ‹ˆλ‹€.
πŸ‘
Made with Slashpage