소나 인사이트 : 생성형 AI 기술의 발전과 함께 소비자의 권리를 반영한 투명성과 공정성을 강조하는 것이 중요해요. 초기 단계부터 소비자 관점을 반영한 지침이 필요해요. 미국의 소비자단체 '컨슈머리포트'는 생성형 인공지능(AI)에 대한 소비자 관점의 지침 마련이 필요하다고 강조하고 있어요. 컨슈머리포트의 CEO인 마르타 텔라도는 최근 급속도로 확산되고 있는 생성형 AI 기술에 대해 소비자의 권리를 반영한 투명성과 공정성을 우선시해야 한다고 말했어요. 그는 AI 기술이 발전하는 초기 단계부터 소비자단체가 나서서 가이드라인을 제시해야 한다고 강조했어요 텔라도 CEO는 과거 자동차에 안전띠가 의무화되지 않았던 시절을 예로 들며, 소비자단체의 노력이 안전띠 의무화를 이끌어낸 것처럼 AI 분야에서도 소비자의 권리를 보호하기 위해 적극적으로 나서야 한다고 언급했어요. 또한 AI 기술은 국경이 없는 글로벌 이슈이기 때문에, 모든 나라에서 관련 논의가 필요하다고 강조했어요 컨슈머리포트는 로봇청소기, TV, 스마트워치, 카메라 설치 초인종 등 다양한 제품에 대해 사생활 보호를 위한 보안 취약점 평가를 진행하고 있으며, 이러한 노력이 AI 기술에도 적용될 필요가 있다고 보고 있어요. 이들은 특히 로봇 청소기가 수집하는 정보의 악용 가능성에 대해 우려하고 있으며, 소비자 보호를 위해 테스트 방식을 꾸준히 개선하고 있어요

소나 인사이트 : AI 개발자들에게 투명성의 중요성을 강조하고, 책임성 강화와 정책 개선을 통해 더 나은 혁신을 이루는 데 기여할 수 있는 인사이트를 제공해요 오픈AI의 GPT-4와 구글의 제미나이 1.0 울트라가 최근 AI 투명성 평가에서 하위권을 기록했어요. 스탠퍼드대학교 인간중심인공지능연구소(HAI)가 주요 14개 AI 모델의 투명성 지수를 평가한 결과, GPT-4는 49점으로 11위, 제미나이 1.0 울트라는 47점으로 12위를 기록했어요. 이 투명성 지수는 AI 모델의 개발 과정, 데이터 공개 여부, 설명 가능성 등을 기준으로 평가되며, 100점 만점으로 점수를 매겨요. 이번 조사에서는 허깅페이스와 서비스나우가 공동 개발한 ‘스타코더’가 85점으로 1위를 차지했고, 전체 모델의 평균 점수는 지난해 10월 37점에서 58점으로 상승했어요 HAI 연구팀은 AI 모델들이 여전히 투명성에서 많은 진전을 보이지 못하고 있다고 지적하며, 이는 대부분의 개발자가 필요한 정보를 공개하지 않는 것을 의미한다고 비판했어요. 그러나 지난해 10월 이후 일부 긍정적인 발전이 있었으며, 앞으로 더 나은 사회적 결과를 기대한다고 밝혔어요 특히, 오픈AI는 최근 출시한 GPT-4o의 음성이 미국 배우 스칼릿 조핸슨의 목소리를 모방했다는 논란에 휩싸여 있으며, 이에 대해 법적 대응이 논의되고 있어요 소나 인사이트 : AI 개발자들에게 투명성의 중요성을 강조하고, 책임성 강화와 정책 개선을 통해 더 나은 혁신을 이루는 데 기여할 수 있는 인사이트를 제공해요

소나 인사이트 : AI 규제 법의 핵심은 AI 기술을 활용 범위에 따라 크게 네 단계의 위험도로 나눠 규제해요 21일(현지시간) 유럽연합(EU)은 현 수준의 인공지능(AI) 기술은 물론 AI가 인간을 뛰어넘는 기술 수준인 범용인공지능(AGI)에까지 적용되는 포괄적인 AI법을 발표어요. 이로 인해 전 세계 AI 규제의 표준이 마련됐다는 평가가 나오고 있어요. AI 기술 경쟁이 가속화되는 가운데, 다른 나라들도 AI 규제 모델 구축에 속도를 낼 전망이에요 EU 교통·통신·에너지이사회가 승인한 AI 규제법은 기술 수준과 위험도에 따라 폭넓게 규정하고 있어요. 현재의 AI 기술뿐 아니라 향후 수년 내 실현될 것으로 예상되는 AGI까지 적용 대상으로 포함시켰어요. AGI를 개발하는 기업은 기본적으로 투명성 의무를 준수해야 하며, EU 저작권법 준수 및 AI 학습 콘텐츠 공개 등이 이에 해당 돼요. 다만 시스템적 위험이 있다고 판단된 AGI에는 시스템적 위험 평가와 사고 보고 등의 추가 의무가 부여돼요. 특히 이 법은 AI 활용 위험도를 △수용 불가능 위험 △고위험 △제한된 위험 △최소 위험 등 4단계로 나눠 차등 규제하고 있어요.