AI 인프라 · 실무 관점 / 2026.06
Evangelism에서 Evaluation으로. 질문이 바뀌면 답도 달라진다.
지난 3년을 되짚어보면, AI를 둘러싼 업계 대화의 상당 부분이 "이게 가능해?"를 증명하는 데 쓰였다. GPT가 코드를 짜고, 계약서를 요약하고, 이미지를 만든다. 틀린 말은 아니었다. 그런데 2026년 현장 분위기는 꽤 달라졌다.
질문이 바뀌었다. "가능한가?"에서 "얼마나 정확하게, 얼마 들이고, 누가 실제로 쓰나?"로. 스탠퍼드 HAI를 포함한 여러 연구기관이 공통적으로 짚는 변화가 바로 이 지점이다. AI Evangelism(전도)의 시대가 AI Evaluation(평가)의 시대로 넘어갔다. 기업이 던지는 핵심 질문도 "AI가 이걸 할 수 있나?"에서 "우리 환경에서 실제로 작동하고, 측정 가능한 결과를 내는가?"로 이동했다.
현장에서 관찰한 다섯 가지 전환점을 정리했다. 산업 전반을 나열식으로 훑는 보고서가 아니라, 실무자 입장에서 "이건 실제로 중요하다"고 생각한 것들이다.
01 · R&D
실험실이 스스로 실험을 설계한다
재료 과학이나 제약 R&D에서 일하는 사람이라면 공감할 부분이 있다. 연구 개발의 상당 시간은 실험을 설계하는 데가 아니라, 그 실험을 물리적으로 반복하는 데 소모된다. 조건을 조금 바꿔서 다시, 또 실패하면 다시. 이 사이클이 수 주, 때로는 몇 달씩 걸린다.
Self-Driving Labs(SDL)는 이 루프를 닫는다. 로보틱스로 물리적 실험을 자동화하고, AI 알고리즘이 이전 실험 결과를 실시간으로 분석해 다음 실험의 조건을 스스로 정한다. NC State University와 토론토 대학 연구팀의 사례에서는 연구자가 퇴근한 후에도 24시간 수천 개의 소규모 실험이 자율적으로 돌아간다.
숙련된 연구자 15명이 일주일에 걸쳐 할 분량을 하루에 처리한다. "100배 빠르다"는 수치보다 이 맥락이 SDL의 실제 의미를 더 잘 전달한다.
SDL이 단순한 효율 문제를 넘어서는 이유는 따로 있다. 차세대 반도체나 방위 소재처럼 국가 안보와 직결된 영역에서는 신소재 스크리닝 속도 자체가 경쟁력이 된다. 미국, 중국, 한국이 동시에 SDL을 국가 AI 인프라 전략의 일부로 올리고 있는 배경이다.
신약 개발에서도 비슷한 흐름이다. MIT 연구팀이 기존 항생제 내성균을 억제하는 새 화합물 후보를 3일 만에 찾아낸 사례가 자주 언급된다. 과거 방식이었다면 초기 스크리닝에만 수 년이 들었을 작업이다. 리커전 파마슈티컬스(Recursion Pharmaceuticals)는 AI 기반 이미지 분석과 GPU 클러스터 최적화를 결합해 연산 처리량을 10배 늘리고, 연간 280만 달러에 달하는 비용 효과를 냈다고 밝혔다. 순수 생물학 문제가 데이터 과학·인프라 엔지니어링 문제와 합쳐지고 있다는 신호다.
02 · 엔터프라이즈 IT
알람이 너무 많아서 정작 중요한 걸 놓친다
엔터프라이즈 IT 운영에서 Alert Fatigue는 꽤 오래된 문제다. 모니터링 시스템이 너무 많은 알람을 보내다 보니 운영팀이 오히려 알림을 무시하게 된다. 정적 임계값(static threshold) 기반 규칙으로는 워크로드가 수시로 바뀌는 클라우드 환경에서 의미 있는 이상 징후와 잡음을 구분하기 어렵다.
AIOps는 이 문제에 두 가지 방식으로 대응한다. 이상 감지 자체를 ML 기반으로 바꿔 알람의 정밀도를 높이는 것, 그리고 AI 에이전트가 원인을 추론하고 자율 대응까지 처리하는 에이전틱 구조로 가는 것이다. 에이전트가 OCSF 스키마로 이기종 소스 데이터를 자율 매핑하고, 보안 온톨로지를 활용해 사람 개입 없이 이상 징후를 실시간 탐지하는 방식이다.
보안 측면에서 실무적으로 더 와닿는 변화는 Security Data Lake(SDL) 아키텍처로의 이동이다. 기존 SIEM은 수집 볼륨 기반으로 과금하는 구조라 데이터가 늘어날수록 비용이 폭증한다. 일일 1TB 기준으로 전수를 SIEM에 넣으면 월 약 9,000달러 수준이 나온다.
전통적 SIEM vs. Security Data Lake — 비용·구조 비교
비교 항목 | 전통적 SIEM | Security Data Lake |
데이터 처리 | Schema-on-Write (수집 시 정형화 필수) | Schema-on-Read(원시 저장 후 분석 시 정형화) (원시 저장 후 분석 시 정형화) |
확장성 | 정적 (라이선스·온프레미스 제약) | 탄력적 (클라우드 기반 확장) |
비용 모델 | 수집 볼륨(GB/Day) 기반 (1TB/일 기준 월 $ ~9,000) | 저장 + 분석 사용량 기반 (하이브리드 전략 적용 시 월 ~$700) |
데이터 보관 | 단기 위주 (30~90일 한계) | 장기 최적화 (12개월+ Hot 인덱싱) |
하이브리드 접근은 다르다. 실시간 대응이 필수적인 10~20%의 핵심 로그만 SIEM으로 보내고, 나머지 80~90%는 S3 Glacier 같은 저비용 객체 스토리지로 자동 라우팅한다. 수치는 환경마다 다르겠지만 비용 구조 자체가 달라진다는 건 분명하다.
랜섬웨어 대응에서도 AI 에이전트 활용이 주목받고 있다. 전통적인 복구 프로세스에는 사람의 절차적 실수가 끼어들 여지가 많다. 에이전트가 오염되지 않은 복구 지점을 자동으로 찾아서 롤백을 처리하면, 목표 복구 시간을 기존 24~72시간에서 일반 시스템 장애 수준인 4~24시간대로 줄일 수 있다는 사례가 나오고 있다. 검증된 수치라기 보다 초기 사례들이긴 하지만, 방향성은 충분히 읽힌다.
03 · UX 리서치 · PM
기계가 분류하고, 사람이 의미를 부여한다
UX 리서처나 PM이라면 질적 데이터 처리의 피로를 잘 알 것이다. 인터뷰 전사본 100장을 읽고, 코드를 붙이고, 패턴을 찾는 과정. 중요한 작업인데 시간이 너무 많이 든다.
범용 LLM에 그냥 넣어서 요약해 달라는 건 실무에서 별로 좋은 방법이 아니다. 환각(hallucination) 때문이다. 어디서부터가 실제 인터뷰 데이터이고 어디서부터가 모델이 그럴싸하게 만들어낸 건지 확인하느라 시간이 더 든다.
NotebookLM 같은 RAG 기반 폐쇄형 시스템은 업로드한 문서 안에서만 답을 찾고, 답변마다 원본 문서의 어느 위치에서 발췌했는지 인용을 달아준다. 환각을 완전히 없앨 수는 없지만, 교차 검증이 가능해진다.
"기계적 분류는 AI가, 인간의 의미 부여는 사람이(Mechanical Sorting, Human Meaning)"라는 원칙이 이 워크플로를 잘 요약한다. AI가 인터뷰 스크립트에서 반복 키워드, 공통 페인 포인트, 감정선의 흐름을 태깅해주면, 리서처는 "왜 고객이 이런 행동을 했는가"를 파고드는 데 집중할 수 있다. 임원진 보고에서도 "사용자들이 이 기능을 원합니다"가 아니라 "3분기 인터뷰 10명 중 7명이 문서 A, B, C에서 언급한 구체적 페인 포인트"라는 방어 가능한(defensible) 근거를 제시할 수 있게 된다.
한 가지 짚어야 할 게 있다. 문서를 넣기 전 사전 처리는 리서처 몫이다. 지역 내 유일한 특정 직종 전문가 같은 준식별자(quasi-identifier)가 포함된 인터뷰 데이터는 일반화 처리 후 업로드해야 한다. 도구가 해결해주는 게 아니다. Garbage-in, Garbage-out은 AI 워크플로에도 그대로 적용된다.
04 · UX · 프로덕트
화면이 실시간으로 만들어진다 — Generative UI
생성형 UI(Generative UI, GenUI)를 설명할 때 자주 나오는 예시가 있다. 카드 발급을 막 마친 사용자가 은행 앱에 들어왔을 때, AI가 그 사용자의 현재 상태를 파악하고 대시보드 상단에 카드 활성화 폼을 즉석에서 생성한다. 작업이 끝나면 그 폼은 사라진다. 사전에 설계된 레이아웃이 아니다. 사용자의 현재 맥락을 보고 컴포넌트를 실시간으로 조립해서 보여주는 것이다.
국내 사례로는 카카오 지그재그(Zigzag)가 자주 언급된다. 체형을 Straight, Wave, Natural로 세분화하고 각각에 맞는 패션 키워드를 매핑한 다음, Amazon Bedrock 기반의 SDXL 1.0 이미지 생성 AI와 Claude 3.5 Sonnet을 결합한 복합 프롬프트 체인을 구축했다. 사용자 체형에 맞는 패션 이미지를 실시간으로 합성하고 매장의 실제 상품과 연결하는 방식이다. 단순한 추천 알고리즘이 아니라, 추천 결과의 시각화 자체가 동적으로 생성된다는 점이 다르다.
디자이너가 Figma에서 픽셀 단위로 모든 경우의 수를 짜고 개발자가 코드로 옮기던 방식은 무너지고 있다. 대신 디자이너는 브랜드 스타일 가이드와 디자인 토큰이라는 '의도'를 제공하고, AI가 런타임에서 이를 조합한다.
한 가지 주의사항은 짚고 가야 한다. 화면 구조가 예측 없이 계속 바뀌면 사용자는 내비게이션 맥락을 잃는다. GenUI 설계에서 전문가들이 공통으로 강조하는 원칙이 "Human in the driver's seat"다. AI 제안을 수용하거나 되돌릴 수 있는 통제권, 변경 이유에 대한 투명한 안내가 함께 설계돼야 한다. 자동화와 사용자 통제 사이의 균형이 이 기술의 실제 도전 과제다.
05 · 마케팅 · 콘텐츠
AI가 만든 콘텐츠가 AI를 망친다
마케팅 영역에서 최근 나오는 경고 중 가장 흥미로운 게 콘텐츠 부채(Content Debt) 문제다. 핀테크 콘텐츠 벤치마크 데이터를 보면, 2025년 발행된 전체 콘텐츠 중 시간이 지나도 유효한 에버그린(Evergreen) 콘텐츠는 약 7% 수준이다. 나머지 91%는 특정 시점의 이슈나 단기 트렌드에 종속된 휘발성 정보다.
AI 보조 도구로 콘텐츠 생산 속도가 빨라지면서 이 비율이 더 극단적으로 벌어지고 있다. 문제는 3~5년 후다. 이 91%의 낡은 데이터가 새로운 LLM의 학습 데이터로 들어가면, 모델은 이미 틀린 정보를 자신 있게 내뱉게 된다. 콘텐츠를 빠르게 찍어낸 조직이 결과적으로 AI 환각의 원료를 공급하는 셈이다.
양 대 질의 문제라고 단순화할 수도 있지만, 브랜드 신뢰도에 실제로 영향을 준다는 점에서 전략적 리스크가 된다. 빠른 발행 속도를 유지하면서도 에버그린 비율을 의식적으로 관리해야 하는 이유다. 콘텐츠 유형에 따라 "이 글은 3년 뒤에도 읽힐 수 있는가?"를 기준으로 분류하고, 업데이트 주기를 미리 지정해두는 운영 체계가 필요한 시점이다.
정리하면서
•
독립적인 '도구'에서 시스템 안에서 판단하고 실행하는 '에이전트'로 무게중심이 이동하고 있다. 이 전환은 지금 R&D부터 운영, 마케팅까지 동시에 일어나고 있다.
•
그 에이전트가 제대로 작동하려면 데이터 거버넌스와 인프라 구조가 먼저 정비돼야 한다. 쓰레기 데이터 위에 놓인 AI는 쓰레기를 더 빠르게 생산한다.
•
가장 고부가가치 역량은 AI가 처리한 결과에 맥락과 판단을 더하는 인간의 영역으로 더 명확하게 수렴하고 있다. Mechanical Sorting은 기계가, Human Meaning은 사람이.
마지막으로 한 가지 질문을 던져보고 싶다. 이 다섯 가지 중 여러분 조직에서 지금 가장 현실과 거리가 먼 것은 어디인가. AIOps는 이미 익숙한 개념인데 GenUI는 아직 먼 얘기처럼 들린다면, 그 간극에 지금 무엇이 있는지 살펴보는 게 2026년 AI 전략의 출발점일 수 있다.
'BLOGGER' की सदस्यता लें
साइट को सब्सक्राइब करने पर आप नए पोस्ट आदि के नवीनतम अपडेट सबसे पहले नोटिफिकेशन और ईमेल से प्राप्त कर सकते हैं.
Slashpage में शामिल हों और 'BLOGGER' को सब्सक्राइब करें!
Slashpage में शामिल हों और 'BLOGGER' को सब्सक्राइब करें!
सदस्यता लें
