Sign In
해봄의 아카이브

OpenAI 창업 맴버, Andrej Karpathy가 알려주는 인공지능 잘쓰는 법

Haebom
이번 마이크로소프트의 행사 Build에서 진행된 발표. Andrej Karpathy가 설명하는 인공지능에 Prompt(명령문)을 잘 쓰는 방법
한국어 자막도 제공되니 직접 보고 싶다면 한 번 시청해 보시길 권함.
Andrej Karpathy의 경우 OpenAI를 창업하고 테슬라 AI 총괄을 한 인재 (트위터)

끄적 거려보면...

인공지능 모델은 문서를 잘게 나누고 임베딩하여 저장소에 저장한 후, 쿼리를 통해 관련 청크를 가져와 프롬프트에 삽입하여 작업을 수행하는 방식이 유용하다.
프롬프트 엔지니어링 기술을 사용하여 LLM의 출력을 특정 템플릿에 맞게 제약할 수 있다.
Fine-tuning은 모델의 가중치를 변경하여 성능을 개선하는 방법이지만, 기술적으로 복잡하고 비용이 많이 든다.
LLM을 사용하는 데는 주의해야 할 한계와 문제점이 있으며, 사람의 감독과 조합하여 안전하고 신뢰성 있는 결과를 얻을 수 있다.
GPT-4 모델은 현재 최고의 성능을 제공하며, 상세하고 명확한 프롬프트를 사용하는 것이 좋다.
프롬프트에 관련 문맥과 정보를 추가하여 LLM의 이해를 돕는다.
예제를 활용하여 LLM이 의도를 잘 이해할 수 있도록 돕는다.
LLM이 어려운 작업을 처리할 수 있도록 도구와 플러그인을 사용하는 것도 고려해본다.
프롬프트 엔지니어링을 최대한 활용한 후, 모델을 fine-tuning하여 성능을 최적화하는 것도 고려할 수 있다.
LLM은 저정밀도 추론 및 고정된 모델 부분에 대한 학습으로 비용을 최적화할 수 있다.
Subscribe to 'haebom'
Subscribe to my site to be the first to receive notifications and emails about the latest updates, including new posts.
Join Slashpage and subscribe to 'haebom'!
Subscribe
2
피카부
칼로x100과 KoGPT로 새로운 BM 짜려고 기다리고 있습니다!!
Y
Yiting
오... 좋은 포스팅 감사합니다~!
See latest comments