what I read & watch

AI pacing 속도를 줄여야한다 vs 중국과의 경쟁에서 멈추는 것은 사실상 불가능하다. pacing 을 하자는 것의 의미 : 오픈소스화하고, 감사를 강화하자. Capex 곡선 투자가 너무 크다. capex 가 2년만에 $7B 에서 $200B 로 급증했다. 이 수요를 뒷받침 해줄 수 있는가? 아직 개인도, 조직도 AI 를 도입한 비중이 적기에 그 수요는 창출 될 것이다. Anthropic 의 경제 모델링 보고서 AI로 인한 GDP와 경제가 얼마나 성장할 것인가. 생각보다는 인터넷과 철도처럼 급격하게 오르지 않는다. 밸류체인의 이동 그동안은 반도체 회사들 / 모델 회사들이 해자를 가져갔음. deepseek는 99% 저렴하고, 5.6 sol과 luna가 비슷한 성능을 보이는 분야들이 많을 것임. 결국은 application이다. 그와 별개로 bottleneck 은 전력과 데이터센터이다. 이건 느리다. 일론은 이걸 알기에 테라팹을 짓고, 우주로 데이터센터를 보내려고 하는 것. 카파시의 AI psychosis 상태 오픈클로 만나고 나서 이게 걸렸다. 작년 10월까지는 auto complete 수준으로 AI 사용 → code = 어셈블리 이렇게 바뀐게 모델의 3-4세대 사이 멀티에이전트의 협업 vs Model 자체의 capability Noam 은 멀티에이전트 팀이지만, 이번 밀레니엄 문제 해결에 1만 agent swarm 이 기여한건 10%다.

삼성 AI 포럼 2026 · 삼성전자 MX의 Toward Human-Level Efficiency in AI AI는 이제 많은 평가에서 사람의 기준선을 넘었어요. 그런데 그 성능을 유지하고 널리 쓰려면 연산과 전력, 토큰 비용이 계속 커져요. 제품을 만드는 입장에서는 좋은 기능을 더 적은 자원으로 전달하는 문제가 남아요. 삼성전자 MX 사업부의 황인철 부사장은 사람의 뇌에서 이 효율 문제를 풀 실마리를 찾아요. human-level efficiency는 사람과 AI의 효율을 단순 비교하겠다는 뜻이 아니에요. 태생이 다른 뇌와 AI의 설계를 살펴 효율 문제의 단서를 찾자는 제안이에요. 자원의 제약을 어떻게 다루느냐에 따라 다음 단계의 AI 설계가 달라져요. 성능의 시대가 남긴 숙제는 비용이에요 AI는 뇌 모방에서 출발해 딥러닝, 대규모 사전학습, 정렬과 추론 기법, 에이전트 연결로 진화했어요. 황인철이 인용한 Stanford HAI의 AI Index에 따르면 이미지와 언어 인식은 2010년대 중반 이후 사람 수준에 도달했고 박사급 과학 문제나 멀티모달 추론도 사람의 성능을 넘고 있어요. 황인철이 함께 제시한 국내 수능 LLM 평가에서는 OpenAI의 GPT-6 Astra가 450점 만점을 기록했어요. 자료 1. 주요 평가에서 인간 기준선을 넘은 AI의 벤치마크 화면. 발표에 인용된 평가 결과이며 모든 실사용 과제의 성능을 뜻하지 않아요. 이 성능을 뒷받침하려면 막대한 자원이 들어요. 황인철이 인용한 수치로는 연도별 프론티어 모델의 학습 연산량이 매년 약 다섯 배씩 커졌고, 최상위 모델은 10의 27승 FLOP 수준이에요. 황인철은 이를 NVIDIA Rubin GPU 10만 장을 한 달 내내 돌려야 하나의 프론티어 모델을 만들 수 있는 규모로 비유했어요. 학습 데이터는 Qwen3 보고의 36조 토큰으로, 영어 위키백과 전체의 약 6,000배라고 했어요. 데이터센터 전력 소비는 2024년 415TWh에서 2030년 약 945TWh로 늘어날 것으로 전망했어요. 비교 기준은 한국의 연간 전력 소비 약 600TWh로, 각각 약 0.7배와 1.5배에 해당해요.

Samsung AI Forum 2026 · 패널 디스커션 · 2026년 9월 30일 좌장 Juan Carlos Niebles · 패널 Ranjay Krishna, 김윤영 코드를 작성하고 웹에서 도구를 쓰는 AI가 로봇의 몸을 얻으면 어떤 일이 생길까요. 사람의 지시를 이해하고 작업 순서를 설명하는 모습만 보면 두 기술 사이의 거리는 짧아 보여요. 컵을 옮기는 작업도 목적을 알아듣고 순서를 정한 다음 팔을 움직이면 끝날 것 같아요. 그런데 로봇이 움직이는 동안 컵과 사람의 위치가 바뀌고 손이 물체에 닿는 순간부터 예상과 실제 결과가 어긋날 수 있어요. 계획을 잘 설명하는 모델에도 이 변화를 다룰 별도의 능력이 필요해요. 디지털 에이전트의 발전을 로봇으로 옮길 때는 무엇을 그대로 가져가고 어떤 부분을 다시 연구해야 할까요. 시각 추론을 연구하는 Ranjay Krishna와 AI 아키텍처를 다룬 김윤영은 언어 모델의 지식과 계획 능력을 인정하면서도 반응 속도, 학습 비용, 기억의 표현, 실제 환경에서 검증하는 과정을 함께 봐야 한다고 말해요. 행동하는 동안에도 세계는 계속 바뀌어요 물리 세계는 정적이지 않아요. 에이전트가 행동하면 환경이 반응하고 다른 행위자가 끼어들어요. 팔을 뻗는 동안 대상이 움직일 수도 있고 이동하던 사람이 로봇의 경로로 들어올 수도 있어요. 다음 행동을 정할 때는 처음 관측한 장면을 계속 믿기 어려워요. 현재 상태를 새로 읽고 움직임을 예상하면서 계획을 바꿔야 해요. 웹에서 버튼을 누르고 페이지가 바뀌는 작업은 행동과 상태 변화를 구분하기가 상대적으로 쉬워요. 로봇에서는 센서 입력과 움직임이 연속해서 발생해요. 모든 디지털 환경이 정적이지는 않지만 상태를 읽고 행동하는 주기, 환경이 변하는 속도, 행동 결과를 관측하는 방식에는 차이가 있어요. 컵을 잡는 장면으로 풀어 보면 차이가 선명해져요. 컵이 어디에 있는지 알아보는 것과 컵에 닿을 때까지 팔을 움직이는 일은 서로 맞물려 있어요. 처음에 위치를 맞혔어도 접근 경로나 접촉 결과가 잘못되면 작업은 실패해요. 설명을 한 번 생성한 뒤 실행을 끝내는 방식보다, 실행 도중에 들어오는 감각 정보로 상태를 계속 갱신하는 구조가 이 문제에 잘 맞아요.

삼성 AI 포럼 2026 · Kris Hauser의 The Promise and Limitations of Robot Foundation Models for Massive Robot Scaling 로봇이 공중제비를 도는 영상은 인상적이에요. 하지만 그 로봇이 물병 뚜껑을 정확히 열고 공장에서 매번 같은 속도로 일하며 실패할 때 스스로 복구할 수 있는지는 다른 질문이에요. 삼성전자 RX 조직의 로보틱스 USA 랩장 크리스 하우저가 다루는 로봇 파운데이션 모델의 과제도 이 간극에 있어요. 자료 1. Kris Hauser 발표 도입 · 영상 6:33:20 공장에서 배우고 집으로 향해요 RX는 산업용 사례부터 조사하고 그 경험을 가정과 서비스 로봇으로 이어 가려 해요. 삼성의 제조 현장에는 물류, 검사, 포장, 가전 조립 등 자동화의 여지가 남아 있어요. 모바일과 반도체 제조처럼 이미 자동화 비중이 높은 곳과, 더 다양한 조작이 필요한 가전 제조 현장은 조건이 달라요. 자료 2. 산업용 로봇의 자동화 기회 · 영상 6:35:40 집안일을 돕고 가족과 반려동물을 돌보는 로봇은 장기 연구 목표예요. 하우저가 제시한 연구 방향이며 구체적인 출시 일정이나 제품 약속은 포함하지 않아요. 당장 할 수 있는 산업용 작업에서 경험을 쌓아 가정과 서비스 로봇에 적용하려는 비전이에요. 로봇의 지능에는 서로 다른 속도가 있어요 하우저가 제시한 행동 구조는 세 층이에요. 시스템 0은 전신 제어, 시스템 1은 시각·언어·행동 모델을 통한 조작, 시스템 2는 에이전트의 긴 계획과 추론을 맡아요. 각 층의 주기는 대략 100Hz, 10Hz, 1Hz로 예를 들 수 있어요. 모든 로봇에 고정된 규격이라기보다 기능별 시간 규모를 설명하는 수치예요. 자료 3. 3-layer RFM behavior stack · 영상 6:38:00 맨 아래는 흔들림과 지형 변화에 즉시 대응해야 하고 맨 위는 관측을 해석하고 다음 할 일을 정해야 해요. 온디바이스 연산과 클라우드 추론의 조합, 학습 자료와 데이터 순환도 함께 필요해요. 강한 언어 모델을 연결해도 나머지 층은 각각 개발해야 해요.

삼성 AI 포럼 2026 · Samsung Research의 Architectures for Agentic Intelligence AI 에이전트가 사용자와 오래 일하려면 이전에 나눈 대화와 업무의 맥락을 활용해야 해요. 매번 같은 배경을 설명하지 않아도 새로운 지식과 경험을 반영할 수 있어야 하죠. 동시에 모든 요청을 데이터센터에 보내고 응답을 기다리는 방식만으로는 빠른 반응과 오프라인 사용, 기기 가까이에서 이어지는 작업을 모두 만족시키기 어려울 수 있어요. 새로운 경험에서 계속 배우는 continual learning과 기기 안에서 효율적으로 실행하는 on-device deployment는 이 두 문제를 다루는 능력이에요. 오래 일하는 에이전트에는 경험을 쌓는 방법과 그 경험을 활용해 답을 만드는 실행 환경이 함께 필요해요. 긴 대화를 입력할 수 있어도 처리 비용이 계속 늘거나 기기의 메모리에 모델을 담을 수 없다면 사용에는 제약이 생겨요. 모델을 얼마나 크게 만들 것인지에 더해 구조를 물어야 해요. 새로 얻은 경험을 어떤 형태로 유지할지, 적은 메모리 안에서 계산을 어떻게 반복할지, 실제 사용 환경에 맞는 구조는 무엇인지 살펴야 하죠. 데이터와 계산 자원을 늘리는 일과 함께 그 자원을 다루는 모델의 구조를 검토해야 해요. 데이터와 계산량 사이에는 모델 구조가 있어요 AI를 이루는 data, model, compute는 서로 맞물려 있어요. 대규모 언어 모델에서는 텍스트를 학습하고 많은 계산 자원을 투입하지만 어떤 방식으로 정보를 처리하고 관계를 학습할지는 모델 구조가 정해요. 같은 종류의 데이터를 많이 쓴다는 사실만으로 같은 능력을 얻는다고 볼 수는 없어요. 학습과 활용의 전체 흐름에는 pre-training, post-training, harnessing이 있어요. Pre-training에서는 많은 텍스트에서 세계에 관한 지식을 파라미터에 학습해요. Post-training에서는 유용한 행동과 추론을 수행하도록 모델을 추가로 조정해요. Harnessing에서는 모델에 도구를 연결하고 여러 모델이나 작업을 조정해 목표를 달성하도록 구성해요.

삼성 AI 포럼 2026 · Samsung Research의 Personalizing AI without Forgetting AI 비서가 나를 진짜 알려면 무엇이 필요할까요. 베를린의 시간대는 일반 지식이에요. 하지만 아이 픽업이 목요일이라는 것, 훈련이 일요일 아침이라는 것, 기차를 선호한다는 것은 나에 관한 지식이에요. 삼성리서치 북미 AI 센터장 후안 카를로스 니에블레스 상무가 제시한 세 가지 기술은 이런 개인 지식을 다뤄요. 가상의 사용자 Maya가 베를린 출장을 준비한다고 해 봐요. 오늘날의 표준 해법은 RAG예요. 여기에 기억을 올바르게 고쳐 쓰는 TrustMem, 기억을 모델 가중치에 새겨 답을 빠르게 하는 Doc-to-Atom, 새 지식을 배우며 기존 능력의 손상을 줄이는 Null-Basis LoRA가 각기 다른 문제를 풀어요. RAG는 알려 주는 방식이에요 Maya가 여행 조언을 얻으려면 LLM에게 Maya에 관한 사실을 알려 줘야 해요. 오늘날의 표준은 RAG(Retrieval-Augmented Generation)예요. 가족 일정, 훈련 시간, 여행과 음식 선호를 외부 메모리에 저장해 두고 질문이 들어오면 관련 사실을 찾아 질문과 함께 모델에 넣어요. 모델은 그 사실을 읽고 답해요. 자료 1. 오늘날의 표준인 RAG 구조. 외부 메모리에서 관련 사실을 찾아 질문과 함께 넣는 방식이에요. 이 구조는 잘 작동하지만 세 가지 문제가 남아요. 새로운 정보가 올 때 기억을 올바르게 갱신해야 하고 더 빠르게 답해야 해요. 그 과정에서 모델이 이미 아는 것을 잊지 않게 하는 일도 필요해요. 기억은 붙이는 것이 아니라 고쳐 쓰는 것이에요 Maya의 파트너가 목요일 픽업을 맡기로 하고 훈련이 토요일 아침으로 바뀌었다고 해 봐요. 새 사실은 옛 기억과 충돌해요. 전통적인 방식대로 새 정보를 그냥 추가하면, 검색할 때 충돌하는 두 사실이 함께 들어와요. 모델은 혼란스러워하고 환각 답변이 나올 수 있어요. TrustMem의 해법은 메모리 에이전트예요. 새 정보를 무조건 붙이는 대신, 에이전트가 새 사실을 읽고 기존 메모리와 대조해서 기록할지, 수정할지, 지울지를 결정해요. 그런데 니에블레스는 이 단순 구현에서 세 가지 오류를 지적해요. 사실이 잘못 갱신되는 손상, 사실이 빠지는 누락, 없는 사실이 생기는 환각이에요.

삼성 AI 포럼 2026 · 삼성전자 한재준의 Toward AI-Native DS AI 모델은 빠르게 좋아지는데 조직의 성과는 그만큼 빠르게 오르지 않아요. 삼성전자 DS부문 AX/PI센터의 한재준 마스터는 이 간격을 트랜스포메이션 갭이라고 불렀어요. 해법으로는 더 강한 모델을 기다리기보다 업무의 시작과 끝을 다시 그리고 판단은 지능화하고 실행은 자동화하자고 해요. 반도체 R&D, 개발, 제조에서 병목이 서로 다르다는 점도 짚어요. 자료 1. 발표 구성: Toward AI-Native DS · 영상 7:07:00 기술을 넣는다고 바로 생산성이 오르지는 않아요 전기 모터는 공장의 배치와 생산 방식을 함께 바꿀 때 효과가 커졌어요. 컴퓨터도 인터넷과 디지털 워크플로우가 더해지면서 사무 처리 방식을 바꿨어요. 한재준은 AI 역시 연구·개발·제조를 바꿀 준비가 됐다고 봐요. 기술에 맞게 일하는 방식을 바꿔야 그 효과를 낼 수 있어요. 자료 2. AI Transformation Gap · 영상 7:10:20 태스크 컴플리션 호라이즌은 사람이 과제를 끝내는 데 걸리는 시간을 기준으로 AI의 과제 수행 능력을 나타내요. 일정 성공 확률에 해당하는 과제의 길이이며 AI가 연속으로 실행한 시간과는 달라요. 한재준의 도표에는 2023년 GPT-4 약 4분과 Mythos Preview의 16시간 이상이 표시돼 있어요. METR는 현재 평가군에서 16시간을 넘는 추정치의 신뢰성이 낮다고 안내해요. 반면 조직의 생산성 곡선은 그만큼 가파르지 않아요. 한재준이 인용한 맥킨지 조사에서는 AI를 쓰는 조직이 88%인데 재무 성과가 보이는 조직은 39%예요. 사슬은 가장 약한 고리만큼만 강해요 한재준은 노벨 경제학상 수상자의 약한 고리 이론으로 전체 업무의 병목을 설명해요. 공정 아홉 단계를 AI가 1초 만에 끝내도 한 단계가 사람 손으로 한 시간 걸리면 전체 일은 한 시간 넘게 걸려요. AI가 일부를 빠르게 해도 워크플로우 전체가 약한 고리에서 막힌다는 이야기예요. 약한 고리는 두 곳에서 생겨요. 하나는 아이디어와 판단을 만드는 과정이고, 다른 하나는 판단을 실행으로 옮기는 과정이에요. 한재준은 가치 있는 가설을 만드는 비용이 점점 커지고 있다고 봐요. 실행에도 한계가 있어요. 워크플로우의 20%에 AI를 적용해 그 부분이 4배 빨라져도 전체로는 15% 정도밖에 줄지 않아요. 기존 시간을 1로 두면 새 시간은 0.8 + 0.2/4 = 0.85예요. 따라서 전체 소요 시간의 15%를 줄이는 예시이고, 처리 속도가 정확히 15% 높아진다는 뜻과는 달라요.

삼성 AI 포럼 2026 · Timothy Hospedales의 World Modelling: Promise & Perils AI가 다음 장면을 그럴듯하게 그리는 일과 내가 어떤 행동을 했을 때 세상이 어떻게 달라질지 예측하는 일은 같지 않아요. 티모시 호스피데일 삼성리서치 상무의 월드 모델 연구는 이 차이에 주목해요. 영상 생성 자체보다 로봇과 에이전트가 행동을 고르는 방법을 다뤄요. 자료 1. Timothy Hospedales 발표 도입 · 영상 6:11:00 다음 토큰을 맞히는 능력만으로는 부족해요 언어 모델은 다음 토큰을, 영상 모델은 다음 프레임을, VLA는 관측과 지시에 맞는 행동을 예측해요. 성과가 크지만 새 작업에 필요한 데이터가 여전히 많고, 학습 범위를 벗어나면 잘못 움직일 수 있어요. 그림자의 위치처럼 행동의 물리적 결과를 따지는 문제도 어려워요. 호스피데일이 예로 든 PhysicsIQ에서도 이 한계가 드러나요. 언어 자료를 많이 읽어도 물리적 개입의 결과까지 충분히 배우기는 어려운 거예요. 자료 2. What's missing? 데이터·일반화·추론 · 6:12:20 관측의 다음 장면과 개입의 결과는 달라요 월드 모델은 상태와 가상의 개입을 함께 받아 개입 뒤의 상태를 예측해요. 단순히 과거 장면 다음에 무엇이 등장할지 맞히는 관측 모델과 구분해요. VLA가 행동을 출력하더라도 그 행동을 했을 때의 결과를 가정해 비교하지 않으면 여전히 반응형이에요. 자료 3. What is a World Model? · 6:14:40 시점을 바꾸면 풍경이 어떻게 보일지, 물체의 모양을 바꾸면 공기 흐름이 어떻게 달라질지처럼 다른 분야에도 적용할 수 있어요. 호스피데일은 사람 사이의 행동과 관계 변화를 예측하는 사회적 모델도 같은 큰 틀 안에 놓을 수 있다고 봐요. 다만 서로 다른 문제를 같은 틀로 설명할 수 있다는 것과, 모든 분야에서 정확한 모델이 이미 구현됐다는 것은 구분해야 해요. 한 번에 반응할 때와 미리 생각할 때 시스템 1은 관측을 받아 한 번의 계산으로 행동해요. 시스템 2는 여러 행동 후보를 가정하고 결과를 예측한 뒤 목표에 더 가까워지는 경로를 선택해요. 미로 속 동물이 어느 길로 갈지 상상하는 것과 비슷해요. 월드 모델은 이 상상의 계산을 담당해요.

삼성 AI 포럼 2026 · Ranjay Krishna의 Visual Reasoning 사진 속 고양이를 자세히 설명하는 AI가 두 물체 사이의 빈 공간에 무엇이 들어갈지는 틀릴 수 있어요. 장면에 등장하는 사물의 이름을 알고 문장으로 묘사해도, 크기·깊이·위치의 관계를 정확히 판단하려면 다른 능력이 필요해요. 로봇이 물건을 집거나 화면 속 버튼을 눌러야 한다면 이 차이는 실제 행동의 성공 여부와 연결돼요. 물리적 공간에서 행동하려면 그 공간을 표현하고 다룰 추론 방식이 필요해요. 워싱턴대학교의 Ranjay Krishna 교수는 시각 추론이 물리적 지능의 중요한 조건이 될 것으로 봐요. 2026년 9월 30일 삼성 AI 포럼의 Visual Reasoning: will be bigger than language reasoning이라는 제목에도 이런 전망이 담겨 있어요. 언어 추론의 쓸모가 사라진다기보다, 언어만으로 다루기 어려운 공간 정보를 어떻게 추론할지가 중요해지는 거예요. 기본 지각 능력을 평가하는 BLINK, 중간 시각 표현을 만드는 SketchPad, 픽셀과 영상에 답을 연결하는 Molmo, 공간 경로를 계획하고 로봇을 움직이는 MolmoAct는 이 문제를 서로 다른 단계에서 다뤄요. 모델이 최종 답을 내기 전에 무엇을 표현하고 어떤 정보를 다시 읽어야 하는지가 각 연구를 연결해요. 장면을 설명하는 능력과 공간을 판단하는 능력 Krishna 교수가 제시한 사례에서는 모델이 이미지 설명에 능숙해도 카메라가 어느 방향으로 움직이는지, 두 후보 중 어떤 물체가 빈 공간에 들어맞는지 같은 질문에서는 자주 실패했어요. 사람에게는 짧은 순간에 판단할 수 있는 문제가 모델에는 어려울 수 있다는 거예요. 정교한 문장 표현이 기본적인 지각 능력을 그대로 보장하지는 않아요. 자료 1. 이미지를 자연스럽게 설명하는 모델의 사례. 자연스러운 묘사만으로 실제 공간 관계까지 정확히 판단하는지는 알 수 없어요. 기존 시각 평가에는 일반 지식으로 답할 수 있는 질문도 섞여 있어요. 장면을 보고 다음에 어떤 일이 일어날지 추측하거나 사람과 물체 사이의 관계를 설명할 때 모델은 익숙한 상황의 패턴을 활용할 수 있어요. 하지만 로봇이 손을 뻗는 위치를 결정하려면 지금 보이는 물체가 실제로 어디에 있는지 알아야 해요. 장면과 맞지 않는 추측은 행동을 돕기 어려워요.

삼성 AI 포럼 2026 · Anthropic 최상근의 Putting AI to Work Safely AI가 일을 잘할수록 맡기고 싶은 일은 커져요. 하지만 코드와 설계 문서를 바꾸고 외부 도구까지 쓰는 에이전트에게 권한을 넓히면 한 번의 잘못된 행동이 만드는 피해도 커져요. 앤트로픽의 최상근 테크 리드는 생산성과 안전을 서로 반대편에 놓지 않았어요. 매번 사람이 확인하는 대신 어떤 행동이 가능한 환경인지부터 설계하자는 이야기예요. 자료 1. 타이틀과 신뢰할 수 있는 에이전트 시스템 · 영상 6:07:00 질문에 답하는 AI에서 오래 일하는 AI로 AI는 단순한 질의응답뿐 아니라 긴 작업을 수행하는 에이전트로도 쓰이고 있어요. 도구를 여러 번 호출하고 긴 시간 행동하면 생산성을 높일 기회와 오류가 발생할 여지가 함께 커져요. 최상근은 특정 숫자보다 그 방향을 보라고 강조해요. 한 시점의 사용률이 모든 조직의 미래를 확정해 주지는 않지만 의존도가 커질 상황을 미리 준비하자는 뜻이에요. 자료 2. Agenda · 영상 6:08:00 앤트로픽 내부 조사에서 업무 중 Claude 사용 비중은 2024년 8월 28%에서 2025년 8월 59%로 바뀌었어요. 사람 개입 없이 이어지는 도구 호출 수도 늘었다는 분석이 나왔어요. 회사 내부의 특정 관측 자료인 만큼 삼성이나 모든 개발팀에서 같은 효과가 난다고 일반화할 수는 없어요. 자료 3. 긴 작업과 사용자 의존도 증가 · 영상 6:12:00 좋은 의도만으로 안전해지지는 않아요 위험의 출발점은 세 가지예요. 사용자의 악용이나 부주의한 요청, 모델의 잘못된 행동, 외부 콘텐츠에 숨은 지시예요. 사용자가 좋은 결과를 원해도 모델이 목표를 지나치게 곧이곧대로 해석하면 금지해야 할 수단을 택할 수 있어요. 외부 코드나 도구 설명이 바뀌면서 숨은 지시가 들어올 수도 있어요. 자료 4. 공개된 사고와 공격 사례 · 영상 6:16:00 공개된 사고와 공격 사례에는 브랜치 삭제, 키 정보 노출, 프로덕션 변경 시도가 있어요. 모델이 유능하다는 평가와 별개로 권한을 통제해야 해요. 이런 위험을 모두 해결했는지는 별도로 확인할 문제예요.

삼성 AI 포럼 2026 · AWS David Green의 From Individual Productivity to Enterprise Wide Impact 한 사람이 문서를 더 빨리 쓰고 개발자가 코드를 더 많이 만든다고 해서 회사의 일이 같은 속도로 끝나지는 않아요. 다음 검토를 기다리거나 다른 부서가 정보를 다시 입력해야 한다면, 앞 단계에서 절약한 시간은 전체 성과에 온전히 반영되지 않아요. AI 도입 이후에도 조직이 답답함을 느낀다면 모델의 성능과 함께 일이 이동하는 경로를 살펴볼 필요가 있어요. 개인의 생산성을 전사적 성과로 확장하려면 AI를 사용한 뒤 누가 무엇을 결정하고 어떤 과정을 바꿨는지 살펴야 해요. AWS의 APJ AI 기술 리더 David Green이 공개한 경험에서도 이 문제가 드러나요. 개인의 번역 도구부터 소규모 개발팀, Prime Video와 NOL Universe의 시스템 현대화, Samsung DS의 도입까지 규모는 달라도 사람과 도구의 역할을 다시 정하는 과정이 있었어요. 기업 AI의 성과는 도구 선택만으로 설명하기 어려워요. 업무의 목적을 다시 정하고 사람과 에이전트의 역할을 조정하며 접근 권한과 비용을 관리할 운영 구조까지 연결해야 해요. 성과를 비교할 때도 각 조직이 어떤 업무를 바꿨고 무엇을 측정했는지 함께 봐야 해요. 같은 도구를 사용하더라도 업무의 조건과 운영 방식에 따라 얻는 효과가 달라질 수 있어요. 기존 업무를 빠르게 만든 뒤에 생기는 병목 기존 프로세스에 AI를 넣는 방식은 좋은 출발점이에요. 이메일을 요약하거나 다른 언어로 된 자료를 번역하는 일처럼, 범위가 작고 결과를 바로 확인할 수 있는 업무부터 맡겨보는 거예요. 사람은 직접 사용하면서 무엇을 잘하고 어디에서 실패하는지 배울 수 있어요. 어떤 업무는 이 정도의 개선만으로도 충분한 가치를 얻을 수 있고요. 다만 한 단계의 속도가 빨라지면 다른 단계가 전체 처리 속도를 제한하기 시작해요. 예를 들어 초안을 만드는 시간이 줄어도 검토 방식이 그대로라면 검토 대기열이 길어질 수 있어요. 개별 사용자가 느끼는 편리함과 조직 전체의 소요 시간을 따로 측정해야 하는 이유이기도 해요.

삼성 AI 포럼 2026 · Samsung Research의 Self-evolving AI: AI That Learns and Improves Itself AI에게 부탁한 일이 어긋나면 우리는 설명을 덧붙이거나 직접 해치워요. 그런데 다음 날 비슷한 부탁을 해도 AI는 같은 곳에서 다시 미끄러져요. 사람은 실수에서 배우는데, AI는 왜 그러지 못할까요. 삼성리서치 노바 AI 랩의 이강욱 상무가 연구하는 셀프 이볼빙 AI는 이 문제에서 출발해요. 셀프 이볼빙 AI는 사용 환경에서 얻은 경험으로 스스로 성능을 개선해요. 컨티뉴얼 러닝이 사용 환경에서 일어나는 기술이에요. 성능을 개선하는 과정뿐 아니라 스스로 배우는 AI를 통제할 방법도 필요해요. 자료 1. 오프닝 — 지금 쓰는 AI는, 어제보다 오늘 더 나아졌나요? (영상 07:11:30) 배움의 시점이 연구실 밖으로 나왔어요 컨티뉴얼 러닝은 기존에 잘하던 능력은 유지하면서 새로운 경험을 배우는 학습 방법론이에요. 전통적으로는 배운 내용을 잊어버리는 현상을 막는 데 초점이 있었고, 어댑터나 LoRA처럼 추가 파라미터로 새 경험을 반영하는 방식으로 발전했어요. 최근에는 에이전틱 AI가 등장하면서 모델 자체를 바꾸지 않고도 지식을 반영하는 길이 열렸어요. 경험에서 얻은 지식을 메모리에 저장해 활용하거나, AI가 시스템 프롬프트나 코드를 스스로 수정하는 방식이에요. 컨티뉴얼 러닝이 일어날 수 있는 환경과 시점이 달라진 거예요. 온전한 학습 환경이 갖춰지지 않은 곳, 즉 사용자의 손안에서도 배움이 가능해졌어요. 사용 환경이 다양해질수록 이런 학습이 필요해져요. 200만 개의 앱과 10억 대의 기기가 만드는 롱테일 이강욱이 예로 든 생태계 규모는 구글 플레이 앱 약 200만 개와 스마트싱스 연결 기기 10억 대예요. 발표 시점에 제시한 수치예요. 사람마다 앱과 기기를 쓰는 방식까지 다르면 조합은 사실상 무한해요. 개발 단계에서 모든 상황을 미리 예측하는 일은 불가능해졌어요. 자료 2. 다양한 사용 환경 — Samsung Ecosystem, Google Play 앱 1.99M, SmartThings 기기 1B (영상 07:13:00)

AI가 끝낸 작업을 조직의 성과로 만드는 조건 AI가 작업을 끝냈다고 말하는 순간, 조직의 일도 끝날까요. 코드를 만들었다면 실제로 작동하는지 확인해야 하고 실험 결과를 내놓았다면 조건과 해석을 검토해야 해요. 고객에게 필요한 정보를 안내했어도 접수가 운영 시스템에 들어가지 않았다면 업무는 진행 중이에요. AI의 실행 범위가 넓어질수록 사람이 정해야 할 완료 기준도 구체적이어야 해요. 에이전틱 워크플로우에서는 AI가 목표를 받아 도구를 사용하고 여러 단계를 실행하면서 결과를 확인하고 조정해요. 수학 연구와 과학 실험, 반도체 설계와 기업 업무에서도 탐색한 결과를 검사하고 다음 시도에 반영하는 절차가 실행의 일부가 돼요. 이런 업무를 AI에 맡기려면 업무의 범위를 정하고 수행에 필요한 정보와 도구를 연결하며 결과를 받아들일 근거를 마련해야 해요. 모델이 실행할 수 있는 일이 많아져도 이 조건들을 팀의 업무에 맞게 정하는 책임은 남아요. 답변을 받는 일과 결과물을 인수하는 일 밤사이 소프트웨어의 회귀 테스트가 실패했다고 가정해볼게요. 회귀 테스트는 코드를 바꾼 뒤 기존 기능에 문제가 생기지 않았는지 확인하는 검사예요. 챗봇은 오류 메시지를 보고 원인을 설명하거나 수정 방향을 제안할 수 있어요. 하지만 설명을 받은 엔지니어는 로그를 읽고 관련 코드를 찾은 다음, 수정하고 테스트를 다시 실행해야 해요. 원인을 이해하는 일과 작업을 끝내는 일 사이에 여러 단계가 남아 있는 셈이에요. 에이전트는 이 단계들을 도구와 연결해 수행해요. 로그를 확인한 결과에 따라 조사할 코드를 고르고 수정한 뒤 테스트를 실행하고 실패하면 원인을 다시 살펴볼 수 있어요. 처음 정한 계획을 기계적으로 따라가는 것과도 차이가 있어요. 이 작업 방식에서는 중간 결과에 따라 다음 행동을 바꿔요. 이때 사람이 건네야 할 지시는 수정 요청만으로 충분하지 않아요. 접근할 수 있는 저장소와 도구, 변경해도 되는 범위, 작업을 멈추고 검토를 요청해야 하는 조건이 필요해요. 무엇을 제출해야 담당자가 완료로 인정할지도 정해야 하고요. 예를 들어 관련 테스트의 실행 결과와 코드 변경 내역을 함께 받도록 설계할 수 있어요. 실제 수용 기준은 팀의 품질 요구와 승인 절차에 따라 달라져요.

1. LG생활건강 — 화장품 회사가 노화를 연구하는 방법 공식 발표 제목: Vision AI와 Bio-Tech를 통해 구현하는 Skin Longevity 기술 생태계 연사: 강내규 LG생활건강 전무(CTO) LG생활건강 강내규 CTO님이 제시한 핵심 개념은 '스킨 롱제비티'였습니다. 이미 나타난 주름과 색소를 관리하는 기존 안티에이징에서 더 나아가, 피부 노화의 원인을 세포와 유전자 수준에서 찾고 선제적으로 늦추는 접근입니다. 배경에는 치료 중심에서 생체 데이터 기반의 예방·관리로 이동하는 헬스케어 산업의 변화가 있습니다. 발표 자료가 인용한 미국 소비자 조사에서는 85%가 과학적 근거가 있는 스킨케어를 원했고, 78%는 스킨케어를 웰니스 루틴과 함께 사용하고 싶다고 답했습니다. 피부 미용과 전신 건강을 함께 보는 수요가 연구 방향에도 반영되고 있었습니다. 발표 기준으로 LG생활건강은 한국인을 포함한 글로벌 약 6만 명의 고해상도 안면 이미지를 보유하고 있습니다. 일반광·편광·UV광으로 촬영한 얼굴에서 주름, 색소, 피부결을 측정하고 약 5만 7천 명의 유전자 데이터와 결합했습니다. 이를 통해 노화 관련 유전자 276개를 발굴했으며, 그중 11개는 세계 최초 발견, 85%는 실제 한국인 피부 조직에서 발현을 확인했다고 소개했습니다. 입술 연구에서는 가로·세로 비율, 색, 각질, 주름을 동시에 정량화했습니다. 발표 자료상 입술 각질량은 38세를 전후해 다시 증가했고 남성이 여성보다 많았습니다. 흔히 "나이가 들면 입술이 얇아진다"고 말하지만, 강 CTO는 입술 주변 근육이 힘을 잃고 내려앉는 영향이 크다고 설명했습니다. 이런 차이는 연령과 성별에 따라 립케어 조합을 다르게 설계하는 근거가 됩니다. 눈가는 다른 방향으로 연구되고 있었습니다. 피부가 얇고 움직임이 많아 노화가 먼저 드러나는 부위인데, 눈가의 주름과 처짐을 분석했을 때 당뇨나 고지혈증 같은 대사 질환과의 연관성이 관찰됐다고 했습니다. 눈가만 보고 질병을 진단할 수 있다는 이야기는 아니지만, 피부를 몸 전체의 상태와 분리해서 연구하지 않는다는 점은 분명했습니다. 화장품 연구가 효능 성분을 하나 더 찾는 데서 그치지 않고 건강 데이터와 만나는 장면이었습니다.

조직을 문서에 세상의 모든 것이 마크다운에 담기는가. 그렇지 않다. 그 담기지 않는 것의 정체는 무엇인가? 암묵지는 못 담지. 취향도 못담지. 조직에 대한 이야기를 하면서 기존의 조직의 모습과 그리고 그 조직에서는 개인 개인이 협업을 하면서 발생하는 시너지도 있다. 그랬을 때 이게 마크다운으로 옮겨진 직원도 이 협업이라는 것과 대립이라는 것과 견제를 할 수 있는가, 그리고 그 조직도 상에서 한 명이 강하게 리드해 나가는 것 또는 여러 노드 노드마다의 개별의 목표를 가지고 움직이는 것 또는 계층적으로 그렇게 일을 하는 것이 가능한가. 어떤 작은 단위의 데스크에 대해서는 마크다운으로 변환이 가능할지 몰라도 그게 조직 차원이 됐을 때도 가능한지 만약 된다면, 하나의 거대한 모델이 그 아래 모든 것을 포괄 할 것인가 or 실제 에이전트 끼리 상호작용을 하며 그 협업을 흉내낼 것인가. 조직을 문서에 담는거의 어려운 점 2 모든 회의를 녹음하고 DM을 줄이며, 업무마다 공유 가능한 아티팩트를 남기게 하는 문화는 회사의 맥락을 AI가 활용할 수 있게 한다. 실제로 작은 조직에서는 1:1까지 기록하고, 에이전트가 접근 가능한 표면 위에서 논의하는 것을 핵심 원칙으로 삼을 수 있다는 사례가 언급된다. 이런 방식은 중간관리자가 전달하던 맥락을 시스템이 더 넓게 공유하도록 만들 가능성이 있다. 이런 전면적인 기록은 구성원의 동의를 구하기 어려울 뿐더러, 조직이 커질 수록 모두 모으는 것이 사실상 어렵다. 이렇게 모두 녹음 된 것의 가치에 대해서도 생각해봐야한다. 모든걸 다 녹음하고 기록한다면, 그대로 하면 성공하나? (YC의 오피스아워를 모두 녹음해서 만든 플레이북 스킬 gstack) 그게 그 지식들을 온전히 압축,소화,학습했다고 할 수 있는가? 품질검수와 evaluation 영상 편집을 예로 들면, 사람이 최종 검수를 계속해야 하는지 아니면 LLM이 만든 결과를 곧바로 내보내도 되는지가 질문으로 제시된다. 검수자가 들어가면 분명 수정할 부분은 보이지만, 검수 유무가 사용자의 만족이나 조회 같은 최종 목표에 실질적인 차이를 만들지 않는다면 그 단계는 병목이 될 수 있다. 이 경우 사람을 빼거나, LLM에게 평가 역할까지 맡기는 편이 더 지속 가능할 수 있다.

Agent RFT 란 도구 호출(Tool Calling)과 내부 워크플로우를 강화학습으로 학습시키는 방법론. Public API 실시간 실행, Multi turn 워크플로우가 구축된 환경에서, 이 에이전트 자체를 학습시킨다. 이 학습을 통해, 에이전트는 리워드를 높이기 위해, 더 정답에 가까운 tool calling, 결과물을 만들게 된다. 보상 함수(Reward Function) 설계 방식 '무엇에 보상을 줄 것인가' 단위 테스트(Unit Tests): 코딩 에이전트의 경우, 모델이 작성한 코드가 테스트를 통과하면 보상을 준다. 실행 가능성: 도구 호출 문법이 올바른지, 실제 환경에서 에러 없이 실행되는지를 체크한다. 최종 결과 검증: 도구를 통해 가져온 정보가 사용자의 질문에 정확히 답했는지를 검증 루프(Verifier)가 판단한다. 성공적인 Agent RFT 를 위한 조건 명확한 작업 정의: 성공에 대한 정의가 모호하지 않고 명확해야 합니다. 주관성을 배제해야 한다. 데이터 일관성: 학습 및 평가 데이터셋이 실제 프로덕션의 데이터와 일치해야 한다. 탐색을 통한 학습: 모델이 여러 번 시도했을 때 더 나은 결과를 낼 확률이 있어야 하며, 이를 통해 스스로 좋은 행동과 나쁜 행동의 차이를 배워야 한다. 견고한 보상 함수: 모델이 보상 체계의 허점을 이용하지 않도록(Reward Hacking이 발생하지 않도록) 설계해야 하고, 단순히 성공/실패보다는 부분 점수를 주는 방식이 학습에 좋다.

새로 알게 된 사람들. Noam Brown Dwarkesh Ilya Sutskever 새로 배운 개념 harness : context engineering, RAG, DPO, 에이전틱 프레임워크, Rule-based tool calling 을 종합하는 표현. sclae 이 아닌 모든 것. System1(직관) vs System2(추론) : 미적분을 처음 배울 때는 엄밀한 증명이 필요하지만, 익숙해지면 sys1의 단계로 들어와 적은 ttc 를 가지고도 풀수 있다. 인사이트 o1을 활용한 유즈케이스가 아직 부족하다. 스케일의 법칙은 여전히 유효하지만, 소프트 배리어는 존재할거다. 물리적으로는 가능하지만, 비용적 문제, 실리적 문제에 의해 자원을 덜 투입하는 경계가 존재한다. 지식의 복리효과 : 드와케시는 AI를 활용하여 더 많은 지식을 빠르고 정확하게 학습한다. 이 AI 시대에도 끊임없이 공부하는 역량은 필수적이다. 아무리 모델이 발전해도 모델은 사용자의 문제를 해결하고자 학습되어있음. 결국 요구자의 역량만큼 이끌어 낼 수 있음. 에이전틱 시스템과 harness는 결국 목발과 같아 6개월 후에는 scale에 의해 의미가 없어진다. 그러면 결국 우리의 역할은 좋은 문제를 찾고, 꾸준히 자원을 투입하는 것. 뜬금없는 지식의 연결 최단거리 알고리즘 : A와 B를 잇는 최적의 개념 C를 찾는다. TTC와 에이전트 Scaling Test Time Compute to Multi-Agent Civilizations — Noam Brown 광범위한 적용 가능성: 추론 모델은 코딩이나 수학과 같이 "쉽게 검증 가능한" 영역뿐만 아니라, "성공이 덜 명확하게 정의된" 심층 연구(Deep Research)와 같은 영역에서도 뛰어난 성능을 보임을 강조합니다. 그는 Deep Research 모델이 "성공을 쉽게 검증할 수 있는 지표가 없는 영역에서 이 모델들이 엄청나게 잘하고 있다는 존재 증명"이라고 말합니다. 현실세계에서는 체스게임에서 illegal movement를 한 뒤, 아ㅎㅎ 장난이었어. 할 수 없다. 이미 유리컵은 깨져있을 것이기 때문. 그렇기에 test time compute을 통한 simulation이 좋다.

There are only 2 point that actually capture the value providing AGI Infra vertical AI 점점 경계가 무너지고 있다. 우리의 선택 agi 위에서 api 서비스를 활용하여 일명 wrapper를 만들던지, vertical 하게 깊게 테슬라 같이 만들던가. 테슬라의 선순환 플라잉 휠 차 많이 팔림 -> 데이터 -> 더 정확한 ai -> 더 많이 팔림 27년이면 모든 영역에서 우리를 뛰어넘겠지. 사실 이미 거의 모든 영역에서 우리보다 뛰어남. TTC가 중요한 이유 verified reward function은 찾을 수 있다. explict reward fuction에 대한건 fronteer model이 다 해줄거야. distilled 된 모델로 저렴이로 비싼 성능 가능. 외우다 이해하다 와 해결하다 가 차이가 있나? 머리에 바로 떠오른는... 검증 불가능한 영역일 뿐. 사람의 가치판단이 들어간 non verifiable 한 데이터(정치, 셰익스피어)를 외우고 있음. 요새 내가 드는 생각 오히려 모름의 미학을 아는 ai가 필요할지도. a라는걸 모르기에 해낼 수 있는 생각. 스토리. 한마디로 사람으로 치면 라이프 스토리를 달리하고 싶다. llm wrapper는 ? 기술적 해자는 힘듦.

코딩 AI를 기반으로한 AGI 사정권 devin 팀은 cluade 모델이 너무 발전해서 내부 구조를 바꿨다. 추론모델과 CLI Tool로 모델(모델 자체 & harness)은 자기증강이 일어나고 있다. RL VR. 뭐든지 보상신호만 줄 수 있다면 학습가능하다. TRM Supervised Learning만으로도 할 수 있는게 남아있다. 단일 도메인 task라면 알고리즘의 진보로 풀수 있는게 남아있다. 작은 모델들의 네트워크로 캄브리아를 만들 수 있지 않을까? super app 모바일 시대에서 일어났던 gate way position 을 가지는 슈퍼앱 쏠림 현상이 AI 시대에도 동일하게 될거다. 그 baseline이 이번 chatgpt 의 AppSDK. 진화의 과정 상상하기 MCP로 한두 기능 연결 AppSDK로 이 위에서 모든 걸 연결 OS와 연결되기. 새로운 폼팩터의 하드웨어로 seamless하게 사운드와 비디오스트림을 받아 24시간 나와 컨텍스트가 동기화되는 상황. 인터랙션할 때는 모바일에 의존하는. sam의 답변 : ai가 어디서나 따라다닐 것 grek의 답변 : 생성형 UI. 인터페이스가 형체를 바꾼다는 생각을 해야한다. 빅테크에서 AX 를 도와준다 구글에서도 델타 팀 만듦.

시대의 흐름과 개발자 coding 은 뜨개질이 된다. 필요해서 하는게 아니라 취미가 될 것. 정체성이 대체 당하는 것에 대한 회의감. 그렇다고 대세를 바꿀 수는 없음. 다행인건 빌더는 세상에서 계속 필요로 할 것임. 앤스로픽 대표 의회가 못하고 있는 레드라인을 민간 기업이 스스로 한계선을 정해두었다는 점. 진심으로 미국이라는 나라가 잘되길 바란다. 적대적 기업으로 지정되더라도 6개월간 서비스를 지속해서 연속성을 유지시켜줄 거라는게 인상적. AI의 구조적 불확실성. 이게 문제인가? 이걸 해결해야하는가? 라는 생각이 들긴함. 대체 불가능한 중국 AI 산업의 5단계 레이어: 에너지, 칩, 인프라(데이터센터), 모델, 애플리케이션. 중국은 강한 경쟁상대다. 에너지를 값싸게 공급하고, 칩/모델도 빠르게 성장한다는 포인트가 인상적이었다. 중국은 오픈소스 생태계가 강하고, 연구기관/학생/스타트업의 씨앗이 된다. 특히 화웨이는 5G를 통해 기술을 스며들게 하고 독점해 본 경험이 있어 더 경계해야 한다는 맥락이 기억에 남았다. openai 에이전트빌더 작년 10월에 공개된 agent builder. AX 프로젝트 하면서 이것저것 실험해봤다. openai 플랫폼에서 직접 튜닝한 모델들을 사용할 수 있는게 편리했다.