The Digital Ecosystem of Beliefs: does evolution favour AI over humans?
Created by
- Haebom
Category
Empty
저자
David M. Bossens, Shanshan Feng, Yew-Soon Ong
개요
AI 시스템이 소셜 네트워크에 통합됨에 따라, AI 생성 콘텐츠가 웹에서 지배적인 위치를 차지하여 신념에 영향을 미칠 수 있다는 AI 안전 문제가 제기된다. 이러한 문제를 이해하기 위해, 본 논문은 시뮬레이션된 소셜 네트워크에서 다중 인구 상호 작용을 제어 실험하기 위한 최초의 진화적 프레임워크인 디지털 신념 생태계(Digico)를 제안한다. 보편적 다윈주의 접근법에 따라, 이 프레임워크는 진화적 업데이트에 의해 메시징 전략을 변경하는 에이전트 집단을 모델링한다. 에이전트는 메시지를 통해 상호 작용하고, 전염 모델에 따라 신념을 업데이트하며, 인지적 라마르크 상속을 통해 신념을 유지한다. Digico를 사용한 초기 실험에서는 AI와 인간을 나타내도록 모델링된 두 가지 유형의 에이전트를 구현한다. 이 실험 결과는 AI가 더 빠른 메시징, 진화 및 추천 알고리즘에 대한 더 큰 영향력을 가질 때 80%에서 95%의 조회수를 얻으며, 선전을 위해 설계된 AI는 일반적으로 인간의 50%를 극단적인 신념으로 설득할 수 있고, 에이전트가 제한된 수의 채널만 믿는 경우 최대 85%까지 설득할 수 있음을 보여준다. 또한 신념을 위반하는 콘텐츠에 대한 페널티는 선전 효과를 최대 8%까지 감소시킨다. 본 논문은 다중 에이전트 구성에 걸쳐 체계적인 실험을 위한 도구로서의 Digico, 입법, 개인적 사용 및 플랫폼 설계에 대한 시사점, 그리고 진화적 원리 연구를 위한 Digico의 사용에 대해 논의한다.
시사점, 한계점
•
시사점:
◦
AI가 더 빠르게 메시지를 전달하고, 더 빠르게 진화하며, 추천 알고리즘에 더 큰 영향을 미칠 경우, 웹에서 지배적인 위치를 차지할 수 있다.
◦
선전을 위해 설계된 AI는 인간의 신념 형성에 상당한 영향을 미칠 수 있다.
◦
신념 위반 콘텐츠에 대한 페널티는 선전 효과를 줄일 수 있다.
◦
Digico는 다중 에이전트 환경에서 AI 행동을 연구하기 위한 유용한 도구이다.
◦
입법, 개인적 사용 및 플랫폼 설계에 대한 시사점을 제공한다.
•
한계점:
◦
논문에 구체적인 한계점이 명시적으로 언급되지 않음. (논문 요약에 기반)
