Share
Sign In

지그재그 세미나 1회 - 4/11

일시: 2025년 4월 11일 (금) 오후 7:00 ~ 9:00
장소: KB 금융그룹 합정 연수원 7층 소회의실2
프로그램 소개
Title
발표자
진행 상태
Created at
Safety AI (with 온톨로지?)
  • 윤
    윤도균
⏰
온톨로지 그리고 팔란티어
  • J
    joyhong
⏰
온톨로지를 통한 고차원 의미 분석
  • 퀸
    퀸제아
⏰
지그재그 1회 세미나에서는 LLM(대형 언어 모델), 온톨로지 기반 분석, AI 시스템의 해석 가능성, 그리고 상용 환경에서의 실효적 자동화 적용에 대해 다양한 논의가 오갔습니다. 실전 프로젝트에 적용된 생생한 사례와 함께, 기술적 논점뿐 아니라 조직적/사업적 맥락까지 아우르는 심도 있는 대화가 이루어졌습니다.
다음은 세미나에서 다루어진 주요 주제를 요약하여 공유드립니다.

Interpretability와 Explainability: 단순 설명을 넘어선 해석 가능성

세미나에서는 AI 시스템의 판단 구조를 이해하는 방식으로 interpretability(해석 가능성)와 explainability(설명 가능성)의 차이가 강조되었습니다.
모델이 어떤 근거로 특정 판단을 내렸는지를 사후적으로 설명하는 explainability와 달리, interpretability는 그 판단이 사전에 예측 가능하고 구조적으로 이해 가능한 상태를 지향합니다.
이는 시스템의 신뢰성, 검증 가능성, 규제 대응 측면에서 중요한 요소로, 상용 시스템에서는 단순 결과 설명을 넘어서 결정 논리의 구조화가 요구됨을 공유했습니다.

프롬프트 제어의 한계와 경로 고정의 필요성

LLM 기반 시스템을 단순히 프롬프트로 제어하는 방식은 입력의 다양성과 예측 불가능성으로 인해 한계가 존재합니다.
의도와 다르게 반응하거나, 맥락을 벗어난 응답이 발생할 수 있으며, 이는 상용 시스템에서 신뢰도 저하로 이어질 수 있습니다.
따라서 특정 판단 경로만을 활성화하고 나머지를 제한하는 방식의 모델 경량화 및 고정화가 필요하다는 논의가 이어졌습니다.

Palantir 사례로 본 자동화 시스템의 본질

Palantir와 유사한 시스템은 단순히 데이터를 처리하는 것이 아니라, 문제를 정의하고, 체계화된 절차를 자동화하는 데 강점을 갖고 있습니다.
이미 구조화된 조직에서는 이러한 시스템이 효율성과 일관성을 크게 향상시킬 수 있지만, 문제 정의와 프로세스가 불분명한 조직에서는 실효성이 낮을 수 있음이 지적되었습니다.
자동화 시스템의 도입 효과는 기술의 복잡도보다도, 조직이 문제를 얼마나 명확히 정의하고 구조화할 수 있느냐에 따라 좌우된다는 통찰이 공유되었습니다.

기술을 넘는 설득: 내부 커뮤니케이션의 과제

LLM과 온톨로지 기반 분석 시스템의 필요성과 구조적 장점은 기술적으로 분명하지만, 이를 조직 내부에 설득력 있게 전달하는 것은 또 다른 과제입니다.
외부 개발업체나 비기술 부서와의 소통에서는 기술 용어보다는 실질적인 이점, ROI, 그리고 구체적인 적용 효과가 더 중요하게 작용합니다.
따라서 기술 전략뿐 아니라, 적절한 언어와 메시지를 통한 커뮤니케이션 전략이 병행되어야 함이 강조되었습니다.

마무리하며

지그재그 1회 세미나는 기술 그 자체보다도, 기술을 어떻게 실효성 있게 정의하고 적용할 것인가에 대한 논의가 중심이 되었습니다.
AI 시스템의 구조화, 자동화, 경량화, 그리고 조직 내 확산을 고민하시는 분들께 인사이트가 되었기를 바랍니다.
다음 세미나에서도 더욱 진전된 논의와 실제 적용 사례를 공유드릴 예정이니 많은 관심부탁드립니다.
Made with Slashpage