💡소나 인사이트 : 오픈AI의 크리틱GPT는 GPT-4가 생성한 코드의 오류를 식별해, 인간이 감지하기 어려운 AI 출력 문제까지 해결할 수 있어요. 오픈AI는 GPT-4를 활용해 GPT-4가 생성한 코드에서 오류를 식별하는 모델인 ‘크리틱GPT’를 공개했어요. 크리틱GPT는 인간 트레이너가 발견하지 못하는 오류나 환각을 식별하며, 이는 인간 피드백 강화학습(RLHF) 과정에 통합돼요. 챗GPT의 추론 및 모델 행동이 향상됨에 따라 더 미묘한 실수를 감지하기 어렵게 되어, 모델 정렬을 더 어렵게 만들 수 있어요. 이를 해결하기 위해 크리틱GPT는 챗GPT의 답변에서 부정확성을 강조하는 비평을 작성하도록 훈련되었고, 다양한 코딩 오류를 인식하고 표시하는 방법을 배웠어요. 훈련 과정에서 인간 트레이너들이 수동으로 삽입한 오류를 통해 크리틱GPT는 더 포괄적인 비평을 작성할 수 있게 되었고, 인간 트레이너들이 작성한 비평보다 선호되었어요. 오픈AI는 크리틱GPT를 RLHF 파이프라인에 통합해 실용화할 계획이에요.

💡 소나 인사이트 : 오픈AI의 중국 사용자 서비스 차단은 미국 대중국 기술 규제 강화와 연계된 조치로, 중국 AI업계의 큰 영향을 미칠 것으로 보여요. 오픈AI가 다음 달부터 중국 사용자들의 서비스 이용을 엄격하게 차단할 계획이에요. 이는 미국 정부의 첨단 기술 규제 강화 움직임에 따른 조치로 보여요. 오픈AI는 7월 9일부터 중국 내 사용자들의 접속을 차단하겠다는 경고성 이메일을 보냈고, 이를 통해 추가적인 접속 차단 조치를 취하고 있다고 확인했어요. 현재 오픈AI는 161개 국가에서 서비스를 제공하지만 중국은 포함되지 않아요. 이번 차단 조치는 미국의 중국에 대한 기술 규제 강화 흐름에 따른 것으로, 이에 따라 중국 AI 기업들은 타격을 받을 것으로 예상돼요. 이에 바이두 등 중국 IT 기업들은 자사 AI 모델을 무료로 제공하며 대비책을 마련하고 있어요.