노정석 팟캐스트 : 토큰 5억원어치를 어떻게 사용했는가
예
예준천
what I read & watch
카테고리
- AI
토큰 5억원어치
단순히 많이 사용한건 의미있지 않다. 어떤 모델을 써서, 어떤 output을 만들어냈고, 어떻게 검증할 것인지, 그게 유의미한 가치를 창출했는지가 중요하다.
생각들
•
모델에게 불가능은 없다라고 가정하자.
•
각 모델별로 특장점이 있고 편향이 존재한다. 따라서 메인모델만 사용하는 것이 아니라 task의 목적별로 delegate하는 것도 필요하고, 상호 토의도 유의미하다.
•
컨텍스트에 맡기기보다는 하고있는 작업을 markdown으로 지속적으로 회람시키는 것이 좋다.
AI시대의 조직
•
콘웨이의 법칙. 소프트웨어의 구조는 그걸 만드는 조직의 구조를 닮아간다. 투영된다.
•
AI가 만든 코드는 bus factor(핵심 지식을 가진 사람이 몇 명 빠지면 프로젝트가 멈춰버리는가에 관한 지표) 가 0이다. 이게 나쁜게 아니라 오히려 무한대로 고려할 수 있다.
•
모든게 공개되고, 모든 문맥이 공유된다.
Ultrathink
이제 코드를 작성하는 행위는 쉽다. spec을 구체화하는게 중요하다.
앞단계를 구체화시켜,코딩 CLI의 부담을 코드 작성 자체에 집중하도록 하자.
작은 cycle을 만들어서 task를 하나하나 수행해나가며 Iteration을 돌린다.
에반게리온 MAGI 시스템. 3개의 컴퓨터. 상호검증시스템. 이게 가능해진 시대아닐까.
surgical 프롬프팅 : 작은 spec만 수정하면서 출력결과를 원하는 방향으로 정밀하게 조정하는 기법.
도메인 전문가의 best practice를 distillation 하는 방법도 연구되어야한다.
언어 자체의 피드백
AI에 친화적인 언어는 무엇인가. 컴파일러 in the loop. 컴파일러에서 최대한 많은 정보를 구체적으로 주는 언어라고 생각한다. 되먹임을 줄 수 있는 harness를 만들어야하기에.
코드를 작성하고 끝이 아니라 피드백을 할 수 있는 loop을 만들어야한다.
정적인 타입 시스템을 가지고, linter가 좋아 hint가 많은 언어로 작성된 코드가 잘 작동한다.
DSL(Domain Specific Language)로 파이썬의 한계 부수기
상황 : 자연어로 n8n 워크플로우 gui를 자동으로 만들어줘야함. 그냥은 잘 안됨.
python like DSL을 만들고 Rust로 되어있는 컴파일러를 만듦.
데이터가 얼마 없어도 잘 작동하는 에이전트 생성을 할 수 있음.
구체적으로 이해하긴 어려웠지만, Restrict를 강제하기 위한 하나의 방법이라고 생각함.
MCP와 에이전트 Loop
어떤 모델과, 어떤 상황에서, 어떤 stance를 가지고, 어떤 Role-Playing을 할 것인지를 잘 정하는것도 중요함.
DX와 AX
회사의 미래, 노동의 미래 같은 주제들이 너무 빠른 것이 아닌가 라는 의견도 있다. 하지만 AI라는 도구는 너무 강력하기에 가능성을 보고 뛰어드는 기업들이 보임. 여기서 나온 best practice를 전파해줄 것임.
최대한 많은 것들이 디지털화가 되어야함. 문서화, 디지털화가 되어야함. 암묵지를 줄이고 AI에게 컨텍스트로 제공해 줄 수 있는 데이터로 만들어한다. 커뮤니케이션 cost를 줄이고 스케일링의 비용을 줄인다.
unlearning과 태도
과거의 것을 내려두고 '이것'(AI)를 받아들여야한다.
내가 못할 것과 할 수 있는 것의 장벽을 없애야한다. 직군 경계이 사라지고 있고, 이걸 받아들이는 태도도 중요하다.
Subscribe to 'Yejun Cheon'
Subscribe to my site to be the first to receive notifications and emails about the latest updates, including new posts.
Join Slashpage and subscribe to 'Yejun Cheon'!
Join Slashpage and subscribe to 'Yejun Cheon'!
