이전에 인공지능과 관련한 법에 대해 이야기를 여러번 했습니다. 문명화된 시대에 법은 우리에게 최소한의 규칙과 우리가 사회적으로 활동하는데 있어 타인에게 피해를 주지 않는 선을 지키는 데 주요한 역할을 합니다. 그렇기에 무언가 신기술이 나오고 법이 생기는게 꼭 '규제'라는 개념으로 생각 되지 않아 됩니다. 하지만, 대부분은 법안 통과와 해당 기술에 대한 깊은 이해 없이 발의 되는 경우가 자주 있습니다. 이전에도 21대 국회에서 십여개의 인공지능 관련 법안이 나왔으나 유야무야 묻힌 것에 정쟁 말고도 이러한 이유도 있을 것 입니다. 22대 국회에서는 어떻게 되려나 하고 국정감사기간이 끝나고 논의가 될 것을 기대하며 있던 중, 위와 같은 뉴스가 왔습니다. 해당 뉴스에 보면 이런 내용이 있습니다. '고위험 AI’에 대한 규제 수준이 될 것으로 보인다. 권칠승 의원안은 고위험 AI를 개발하는 기업이 정부 검증을 받지 않으면 징역형(신체형)까지 처벌하도록 하고, 최민희 의원안은 고위험 AI에 대해 정부에 왜곡된 정보를 제공하거나 시정조치를 따르지 않으면 3000만원 이하의 과태료를 부과하는 내용을 담고 있다. 이해민 의원안은 고위험 AI에 대해 시정조치를 따르지 않으면 5000만원 이하의 과태료를 부과하는 조항을 포함하고 있다. 고위험 AI라는 개념은 아마 EU AI Act에서 사용되는 분류법을 차용한 것 같아 용어의 정의에 대한 모호함은 그렇다 쳐도 처별 규정과 책임에 대한 부분이 매우 안타까움을 너머 이상하다고 느껴 이 글을 쓰게 되었습니다. 과도한 처벌 규정과 모호한 법적 책임 먼저 눈에 띄는 것은 처벌 규정의 비현실성입니다. 권칠승 의원안의 경우 고위험 AI 개발 기업이 정부 검증을 받지 않으면 징역형까지 처할 수 있게 했습니다. 최신희 의원안은 3000만원, 이해민 의원안은 5000만원의 과태료를 규정했습니다. 현재 AI 기술의 한계를 전혀 고려하지 않은 처벌 규정입니다. 예를 들어 ChatGPT나 Claude와 같은 생성형 AI의 경우, 할루시네이션(환각, 잘못된 정보 생성)은 피할 수 없는 기술적 한계입니다. 이는 Vector DB나 RAG(Retrieval Augmented Generation) 등 최신 기술을 적용하더라도 100% 해결할 수 없는 문제입니다. 실제로 최근 인터넷 검색을 통해 최신 정보를 가져오거나, 앞서 말한 RAG 방식으로 출처를 명기해 잘못 된 정보를 표시 하지 않는 방법들이 시도 되고 있지만 애초에 검색 결과가 잘못 되었거나, 인용된 정보가 틀렸을 경우도 자주 발생하기에 이 방식도 무조건 적으로 진실을 말하는 방법은 아닙니다.