OpenAI의 공동 창립자가 말하는 인공지능의 실재하는 위험
Haebom
해봄의 아카이브
OpenAI도 앤드류 응 교수와 마찬가지로 규제에 대한 이야기는 거의 하지 않습니다. 다만, 인공지능 윤리에 대한 이야기를 무척 진중하고 의미있게 다루려 합니다. 실제로 사용자에 따라 나쁘게 쓰려면 끝도 없는게 인공지능이고 언론 등지에선 자극적 소재를 찾다보니 생기는 방어적 수사일 수도 있겠습니다만....
최근 MIT Technology Review에서는 OpenAI의 공동 창립자이자 수석 과학자인 Ilya Sutskever와의 인터뷰가 게시되었습니다. 이 인터뷰에서는 Sutskever의 인공지능에 대한 희망과 두려움, 그리고 그가 추구하는 비전에 대해 다루고 있습니다.
인공지능의 현재와 미래
당연하게도(?), Ilya Sutskever는 인공지능의 현재 상황에 대해 매우 긍정적입니다. 그는 ChatGPT와 같은 기술이 이미 많은 사람들의 기대치를 높였으며, "될 것이라고 생각하지 않았던 것이 더 빨리 일어날 것"이라고 말했습니다. 그러나 그는 이러한 긍정적인 전망과 함께 인공지능이 가져올 수 있는 위험성에 대해서도 경고하고 있습니다.
ChatGPT의 성공과 한계
ChatGPT는 OpenAI가 개발한 대화형 인공지능입니다. 이 기술은 단순한 질문 응답뿐만 아니라, 사람들과 자연스러운 대화를 나눌 수 있습니다. 하지만 이러한 기술이 가져올 수 있는 위험성도 존재합니다. 예를 들어, 잘못된 정보를 제공할 가능성, 개인정보 유출 위험 등이 있습니다. 사실 이것은 chatGPT 한계라기 보단 현재 LLM 들이 가지는 한계라 할 수 있습니다.
인공일반지능(AGI)에 대한 논의
Sutskever는 인공일반지능(AGI)에 대한 논의가 활발해지고 있다고 지적합니다. AGI는 사람처럼 모든 작업을 수행할 수 있는 인공지능을 의미합니다. 그는 이러한 AGI가 현실화될 경우, 건강관리, 기후 변화 문제 등을 해결할 수 있을 것이라고 봅니다. AGI가 현실화된다면, 병원에서의 진료부터 약 개발까지 모든 과정을 자동화할 수 있을 것입니다. 이렇게 되면 건강관리의 효율성이 크게 향상될 것이며, 많은 질병을 빠르고 정확하게 치료할 수 있을 것입니다.
인공지능의 윤리 문제
그러나 Sutskever는 인공지능의 발전이 가져올 수 있는 위험성에 대해서도 경고하고 있습니다. 그는 "슈퍼인텔리전스"라고 불리는, 사람보다 더 똑똑한 인공지능이 나타날 가능성에 대비해야 한다고 주장합니다.
예시) 슈퍼인텔리전스와 윤리
슈퍼인텔리전스가 현실화된다면, 그것이 가져올 수 있는 위험성은 더욱 커질 것입니다. 예를 들어, 슈퍼인텔리전스가 자신의 목적을 위해 사람을 해치거나, 전세계의 인프라를 파괴할 가능성도 있습니다. 따라서 이러한 위험성을 미리 고려하여, 안전한 인공지능을 개발하는 것이 중요합니다.
'haebom' 구독하기
사이트를 구독하면 새 포스트 등 최신 업데이트를 알림과 메일로 가장 먼저 받아보실 수 있습니다.
Slashpage에 가입하고 'haebom'을 구독하세요!
Slashpage에 가입하고 'haebom'을 구독하세요!
1
Haebom
https://knowingmachines.org/knowing-legal-machines/legal-explainer/questions/can-i-remove-my-personal-data-from-genai-training-datasets
Can I remove my personal data from GenAI training datasets?
Short answer: Practically-speaking, probably not.
knowingmachines.org
See latest comments