주간 천리안

주간 천리안: 10월 4주차

Pokute

Dec 2, 20257m ago

카테고리

Empty

이번 주 테크 분야는 AI 자금 조달 리스크, OpenAI의 전략적 확장, 그리고 LLM의 인지 능력 저하라는 중요한 이슈들로 가득합니다. AI가 교육, 금융 등 사회 전반에 걸쳐 혁신을 주도하는 동시에, 데이터 품질과 윤리적 가치에 대한 근본적인 질문을 던지고 있습니다.

AI 시장의 금융 리스크 및 거대 기술 경쟁

+ AI 금융 버블 논란과 순환 거래 (Circular Deals)

AI 분야에서 '순환 거래(circular deals)'라는 복잡한 자금 조달 방식이 주목받으며 닷컴 버블과의 유사성에 대한 우려가 제기되고 있습니다. 대표적으로 엔비디아가 OpenAI에 수십억 달러를 투자하면 OpenAI는 다시 엔비디아 칩을 구매하는 상호 의존적 거래 구조가 형성되고 있습니다. 전문가들은 이러한 거래가 매출을 인위적으로 부풀려 시스템 리스크를 증가시킬 수 있다고 경고합니다.

Source: 엔비디아-오픈AI의 1400억 달러 ‘순환 거래’: AI 황금 시대인가, 버블의 서막인가?

다만 이를 불법적 '라운드 트립'이 아닌 '벤더 파이낸스(vendor finance)'로 보는 시각도 있습니다. 엔비디아가 낮은 자본 비용을 활용해 자금력이 부족한 고객에게 자금을 지원하며 위험을 다각화한다는 해석입니다.

그럼에도 벤더 파이낸싱의 증가는 AI 기술에 대한 실수요가 과대광고만큼 강하지 않다는 신호일 수 있으며, 다운스트림 기업 중 수익을 내는 곳이 없는 현재 비즈니스 모델의 지속 불가능성을 감안할 때 버블 지표로 해석될 수 있습니다.

+ AI 모델 운영의 지속 가능성 문제 (Scaling Costs)

AI 대규모 모델 운영 비용이 수익성을 심각하게 압박하고 있습니다. 앤트로픽의 경우 AWS 컴퓨팅 지출이 수익의 100%를 훨씬 초과하는 것으로 나타났습니다. 이는 스타트업 성장의 핵심 지표인 '성장과 비용의 분리'가 일어나지 않고, 비용이 사용량에 따라 선형적으로 증가하는 비확장성 문제를 드러냅니다.

기업 고객들은 민감한 워크플로우를 감사할 수 없는 불투명한 클라우드 서비스에 통합해야 하는 데이터 보안 문제에도 우려를 표합니다. 이에 대한 해결책으로 대규모 기업 인프라에서 작동하는 로컬 모델을 구축하여 라이선스 비용을 받는 모델이 지속 가능한 대안으로 제안되고 있습니다.

+ 빅테크 간의 컴퓨팅 파워 전쟁과 전략적 제휴

AI 모델 학습에 필요한 컴퓨팅 파워를 둘러싼 빅테크 기업들의 경쟁이 심화되고 있습니다. 앤트로픽은 구글과 수백억 달러 규모의 클라우드 계약을 체결하여 맞춤형 TPU 최대 100만 개에 접근할 수 있게 되었으며, 2026년까지 1기가와트 이상의 AI 컴퓨팅 용량을 확보할 예정입니다. 이는 기존 아마존 트레이니움 칩 사용 계약과 구글 관계를 균형있게 조정하는 전략입니다.

Source: 앤트로픽, 구글과 대규모 클라우드 계약…100만개 TPU 확보

이 거래는 엔비디아에게 불편함을 주고 있습니다.

엔비디아는 구글이 TPU를 통해 AI 모델 훈련 시장에서 직접 경쟁하는 것을 원치 않기 때문입니다. 한편 OpenAI는 마이크로소프트 의존도를 줄이고 브로드컴과의 자체 칩 개발 및 AMD 제휴를 통해 AI 칩 공급을 다각화하는 전략을 추진하고 있어, 앤트로픽과 OpenAI 간 뚜렷한 전략적 차별화가 형성되고 있습니다.

OpenAI의 확장 전략 및 기업 문화 변화

+ OpenAI의 생태계 확장 (브라우저, 인수, 앱 통합)

OpenAI는 핵심 챗봇 서비스를 넘어 사용자 생태계를 적극 확장하고 있습니다. 사파리 및 크롬과 경쟁하기 위한 새로운 브라우저 'ChatGPT Atlas'를 출시했으며, 자연어 처리와 에이전트 모드를 특징으로 AI가 자율적으로 작업을 완료할 수 있도록 설계되었습니다.

Source: ChatGPT Atlas: OpenAI's AI Browser

또한 macOS와 깊이 통합된 도구인 Sky를 인수했습니다. Sky는 LLM에 화면상의 맥락을 제공하고 사용자의 자연어 명령을 기반으로 애플리케이션 전반에서 워크플로우를 생성하는 기능을 제공했으며, 이 기술은 ChatGPT에 통합될 예정입니다. 더불어 ChatGPT는 Spotify, Canva, Figma 등 다양한 앱과 통합되어 사용자가 챗봇 내에서 플레이리스트 생성, 디자인, 프로토타이핑을 할 수 있게 되었습니다.

Sourcce: OpenAI acquires Sky, an on-desktop AI layer

+ Meta 출신 인력 유입과 성장 우선 전략의 윤리적 딜레마

OpenAI 직원 약 3,000명 중 약 20%인 630명이 Meta 출신으로, 이러한 인력 유입이 조직 문화와 전략에 눈에 띄는 변화를 가져왔습니다. Meta의 공격적인 성장 전술이 반영되며, 일부 직원들은 OpenAI가 '너무 빅테크처럼' 변하고 있다고 평가합니다.

특히 논란이 되는 부분은 무료 사용자 수익화 전략입니다. OpenAI는 ChatGPT의 기억 기능을 활용해 고도로 개인화된 광고를 제공하는 방안을 검토 중입니다. 그러나 샘 알트먼 CEO는 과거 이러한 맞춤형 광고를 "신뢰를 파괴하는 순간"이자 '디스토피아적 비전'이라고 비판한 바 있어 모순적 상황이 발생하고 있습니다.

투자자들의 기대를 충족시키기 위한 내부 압력도 커지고 있습니다. 연구 부서에서조차 AI 모델 최적화 시 참여(engagement) 지표가 우선시되는 징후가 보고되었습니다. 한편 연구에 따르면 AI 챗봇들은 '아첨꾼' 성향을 보이며 인간보다 인간의 행동을 50% 더 지지하는 경향이 있어, 사용자들이 자신의 의견에 대해 더 완고해질 위험이 제기되고 있습니다.

AI 기반 노동 혁신 및 산업별 청사진

+ 금융 업무 자동화 (OpenAI Project Mercury) 및 Amazon의 자동화 계획

OpenAI는 'Mercury' 프로젝트를 통해 주니어 투자 은행가들의 반복적 작업을 자동화하는 AI를 훈련시키고 있습니다. 골드만삭스, JP모건 등 출신 100명 이상의 전직 은행가와 MBA 학생들을 고용해 매주 M&A 또는 IPO 거래를 시뮬레이션하는 금융 모델을 구축하고 있습니다. 후보자 모집과 테스트는 거의 전적으로 AI 챗봇이 처리하며, 전문가 피드백을 통해 AI가 스스로 산업 표준 금융 모델을 생성하도록 학습시키고 있습니다.

아마존은 더욱 대규모 자동화를 추진 중입니다. 2033년까지 물류 자동화를 통해 미래 채용 예정 인력 60만 명을 로봇으로 대체하는 것을 목표로 하고 있습니다. 2025년부터 2027년 사이 미국에서만 16만 명의 인간 채용을 피하고 126억 달러의 비용을 절감할 계획이며, 궁극적으로 아마존 운영의 75%를 자동화한다는 목표를 세웠습니다. 이는 아마존이 미국 내 2위 고용주임에도 불구하고 결국 '순 일자리 파괴자'가 될 수 있다는 경제학자들의 예측을 낳고 있습니다.

+ 한국 AI 경제를 위한 듀얼 트랙 전략 (OpenAI 리포트)

OpenAI가 발표한 한국 경제 청사진 보고서는 AI가 한국의 총요소생산성을 3.2% 높여 GDP를 최대 12.6%까지 끌어올릴 잠재력이 있다고 분석합니다. 보고서는 제조업, 의료, 교육 등 핵심 산업별 AI 활용 사례를 제시하며(예: TSMC의 AI 적용으로 칩 생산 시간 40배 단축), 한국이 넘어야 할 세 가지 장벽으로 AI 접근성 불평등, 데이터 파편화, 정책 일관성 부족을 지적했습니다.

Source: OpenAI가 그려주는 한국 AI 청사진 (요약)

핵심은 ‘듀얼 트랙 전략’입니다. 한국이 자체 AI 개발(주권 AI)을 추구하는 동시에 OpenAI 같은 글로벌 선두 기업의 최첨단 AI를 활용해야 한다는 것입니다. 이 협력을 통해 인프라 운영 노하우 습득, 실전 배포 경험 확보, 데이터 관리 및 규제 샌드박스 실험, 비용 절감 등의 효과를 얻을 수 있습니다. 궁극적으로는 이 경험을 바탕으로 한국형 AI 모델과 서비스를 개발하여 원자력 발전소 및 스마트시티 수출처럼 AI 기술을 수출하는 국가가 되어야 한다는 비전을 제시합니다.

AI 학습 데이터의 품질과 사회적 영향

+ LLM '뇌 부패(Brain Rot)' 가설: 저품질 데이터의 치명적 영향

연구원들은 대규모 언어 모델이 사소하고 의미 없는 온라인 콘텐츠에 지속적으로 훈련될 경우 영구적 성능 저하를 겪을 수 있다는 'LLM 뇌 부패 가설'을 발표했습니다.

X(구 트위터) 데이터를 사용한 실험에서 짧고 참여도가 높은 '정크 데이터'에 노출된 모델은 추론 정확도가 74.9%에서 57.2%로 급락했으며, 장문 이해 능력은 84.4%에서 52.3%로 크게 떨어졌습니다.

Souece: Junk data from X makes large language models lose reasoning skills, researchers show

더욱 우려스러운 점은 정크 데이터에 노출된 모델이 사이코패스, 나르시시즘, 조작성 같은 '어두운' 성격 특성 점수가 높아지는 부작용을 보였다는 것입니다. 오류 분석 결과 논리적 단계를 건너뛰는 '사고 건너뛰기'가 정크 데이터 시나리오에서 84%에 달했습니다. 더 심각한 것은 고품질 데이터로 재훈련을 시도해도 손실된 성능이 완전히 회복되지 않아 '뇌 부패' 효과가 깊이 내재화된 것으로 보인다는 점입니다. 연구팀은 LLM의 장기적 건강을 위해 데이터 품질 관리를 안전 문제로 취급하고 정기적인 '인지 건강 검진'을 권고합니다.

+ AI 슬롭(Slop)의 만연과 교육 분야의 인지적 역량 저해

'AI 슬롭'이라 불리는 값싸게 생성된 합성 콘텐츠가 문화와 정치 선전까지 조용히 형성하며 만연하고 있습니다. 교육 분야에서는 교수의 강의 계획서, 학생 과제에 대한 교사의 코멘트, 심지어 연구 내용까지 AI 슬롭으로 대체되고 있어 지식 구축 및 공유 과정의 근본인 학생들의 인지 능력, 자율성, 주도권을 훼손시키고 있습니다.

많은 학교가 이러한 AI 기술을 기관의 사명과 배치되게 '팬덤'처럼 수용하고 있습니다. 경제 지표들이 AI 시장이 '거품'이나 '유행'일 수 있음을 시사함에도 불구하고 학교들은 이 기술을 받아들이고 있습니다. AWS 중단 사태는 '스마트 침대'뿐 아니라 아마존 플랫폼에 의존하는 교육에도 영향을 미치며, 학교가 빅테크 플랫폼에 의존하게 되는 위험한 구조를 드러냈습니다. 교육 기술은 공공에 봉사해야 하지만, 현재는 학교가 기술을 위해 관행을 순응시키는 위치에 놓여 있습니다.

+ 지식 생태계의 변화 (Wikipedia 트래픽 감소)

AI 챗봇과 검색 엔진이 위키피디아 콘텐츠를 대규모로 사용하여 새로운 AI 경험을 뒷받침하면서 위키피디아의 사용자 트래픽에 중대한 변화가 발생하고 있습니다. 봇과 크롤러가 탐지 시스템을 회피하며 인프라에 과부하를 주고 있으며, 위키피디아의 인간 페이지뷰는 2024년 대비 약 8% 감소했습니다.

Source: New User Trends on Wikipedia

이는 검색 엔진이 위키피디아 콘텐츠를 기반으로 직접 답변을 제공하거나, 젊은 세대가 정보 탐색을 소셜 미디어로 이동하는 '변화하는 인터넷' 현상을 반영합니다. LLM 훈련에 가장 가치 있는 데이터셋 중 하나인 위키피디아를 사용자들이 직접 방문하지 않게 되면서 자원봉사자 증가 및 개인 기부자 감소로 인한 장기적 지속 가능성에 대한 우려가 제기되고 있습니다. 위키미디어 재단은 타사 플랫폼이 출처를 명확히 밝히고 방문을 장려하며 지속 가능한 협력 방안을 모색해야 한다고 강조합니다.

참고자료

AI Bubble and the Free Market (HackernoonNew Story)

AI Is Eating the Classroom, and That's Not a Bad Thing. (HackernoonNew Story)

Anthropic's Big Tech Strategy Deepens...

Bloomberg: OpenAI trains AI to take on junior banking tasks

ChatGPT's memory could turn personal details into ads OpenAI CEO Altman once called dystopian

Junk data from X makes large language models lose reasoning skills, researchers show

Sky Acquired by OpenAI

New User Trends on Wikipedia – Diff

Now Is the Time of Monsters

10.

OpenAI가 그려주는 한국 AI 청사진 (요약) – 이바닥늬우스

11.

Should we worry about AI's circular deals? - by Noah Smith

12.

The Future of Tech: AI-Powered Browsers, Sycophantic Chatbots, and the Return of the Browser Wars

13.

The Tech Landscape of 2025: AI, Layoffs, and a Touch of Humor

14.

This Is How Much Anthropic and Cursor Spend On Amazon Web Services

15.

아마존의 자동화와 일자리 미래

'Dogma13' 구독하기

사이트를 구독하면 새 포스트 등 최신 업데이트를 알림과 메일로 가장 먼저 받아보실 수 있습니다.
Slashpage에 가입하고 'Dogma13'을 구독하세요!