본 논문은 진화하는 인간-AI 관계 전반의 신뢰 역학을 분석하기 위한 HAIG 프레임워크를 제시합니다. 기존의 범주형 프레임워크(예: "Human-in-the-loop" 모델)는 기초 모델이 새로운 기능을 보여주고 다중 에이전트 시스템이 자율적인 목표 설정 동작을 보이는 것처럼 AI 시스템이 도구에서 파트너로 진화하는 과정을 제대로 포착하지 못합니다. 시스템이 발전함에 따라, 에이전시는 이산 범주보다는 연속선상의 위치로 더 잘 표현되는 복잡한 패턴으로 재분배되며, 이러한 진행에는 점진적인 변화와 상당한 단계적 변화가 모두 포함될 수 있습니다. HAIG 프레임워크는 차원(의사결정 권한 분배, 프로세스 자율성, 책임 구성), 연속선(각 차원을 따라 점진적으로 변화), 임계값(거버넌스 적응이 필요한 중요한 지점)의 세 가지 수준에서 작동합니다. 위험 기반 또는 원칙 기반 접근 방식과 달리, HAIG는 충분한 안전 장치를 확보하면서 유용성을 극대화하는 적절한 신뢰 관계를 유지하는 데 중점을 둔 신뢰-유용성 방향을 채택합니다. 본 논문의 분석은 자기 감독, 추론 권한, 분산 의사 결정에 대한 기술적 발전이 상황 변화와 기술 발전 모두에 걸쳐 비균일적인 신뢰 진화를 어떻게 이끄는지 보여줍니다. 의료 및 유럽 규정에 대한 사례 연구는 HAIG가 기존 프레임워크를 보완하는 동시에 문제가 발생하기 전에 거버넌스 문제를 예상하는 대안적 접근 방식의 기반을 제공하는 방법을 보여줍니다.
