Governed Metaprogramming for Intelligent Systems: Reclassifying Eval as a Governed Effect
Author
- Haebom
Category
Empty
저자
Alan L. McCann
💡 개요
본 논문은 AI 시스템이 런타임에 실행 가능한 구조를 생성하는 경향이 증가함에 따라, 기존 언어의 eval과 같은 코드를 실행으로 전환하는 과정을 엄격하게 통제되지 않는다고 지적합니다. 연구진은 이를 '권한 증폭'으로 보고, '거버넌스 메타프로그래밍'이라는 새로운 언어 설계를 제안합니다. 이 설계는 프로그램 표현을 순수 연산으로 다루고, 실제 실행으로 전환하는 과정을 정책 및 자원 검토를 거치는 '거버넌스 효과'로 취급합니다.
🔑 시사점 및 한계
•
AI 시스템에서 런타임 코드 생성 및 실행에 대한 엄격한 보안 및 제어 메커니즘의 필요성을 제기합니다.
•
eval과 같은 코드 실행 기능을 단순한 언어 기본 기능이 아닌, 검증 가능한 '거버넌스 효과'로 재분류함으로써 안전한 AI 시스템 설계를 위한 새로운 패러다임을 제시합니다.
•
제안된 메타프로그래밍 기법은 mashinTalk DSL을 통해 구현되었으며, 기존의 검증된 명제들과 통합되어 실질적인 적용 가능성을 보여줍니다.
•
'순수 형태 평가'와 '거버넌스화된 실체화'라는 두 가지 판결 정형화를 통해 이론적 기반을 강화하고, '우회 금지 정리'와 '경계 보존 정리'를 증명하여 시스템의 안전성을 보장합니다.
•
현재 연구는 mashinTalk DSL 및 BEAM 바이트코드 컴파일에 초점을 맞추고 있으며, 더 다양한 실행 환경 및 언어에 대한 확장성과 성능 개선이 향후 과제로 남아있습니다.
