피드백

Pouder를 사용해보시고 여러분의 의견을 남겨주세요!

Publish now

Hojin Jang

안녕하세요! 지피터스에서 이전에 작성하신 "서비스를 준비하면서 배운 RAG 활용의 장단점" 글 보고 유입된 유저입니다!
혹시 여기서 겪으신 문제들은 저 시점 이후로 잘 해결하셨는지 궁금합니다... 저도 비슷한 문제점들을 겪었어서요.
멋진 앱 만들어주셔서 감사합니다!

서비스를 준비하면서 배운 RAG 활용의 장단점

RAG 기술의 장점 현재 파우더는 LLM의 RAG 기술에 의존적 입니다. RAG(Retrieval-Augmented Generation, 검색증강생성)은 LLM의 단점을 보완하기 위한 최선의 선택인 것에는 틀림 없습니다. RAG의 장점은 비용 효율적인 구현, 최신 정보, 사용자 신뢰 강화, 개발자 제어 강화 등이 있습니다. 출처: 검색 증강 생성(RAG)이란 무...

gpters.org

1 Reaction

1 Comment

Reaction

Comment

숨

숨겨진 터쿼이즈 종이

Jan 24

안녕하세요. 혹시 처음에는 HTML 업로드가 가능했던거 같은데 현재는 불가능한가요?

1 Reaction

2 Comment

Reaction

Comment

Hojin Jang

Jan 26, 2025Jan 26

서비스를 준비하면서 배운 RAG 활용의 장단점

gpters.org

Hoon

Jan 27

Hojin님, 먼저 파우더를 이용해주셔서 감사합니다!

초창기 버전의 한계를 극복하기위해 여러가지 방법을 시도해봤는데요. 먼저 웹컨텐츠의 내용들을 뽑아서 TF-IDF를 적용해보았습니다. 다만 이 방법은 한글이 완벽하게 지원되지 않아서 접고 LLM를 활용해 TF-IDF와 유사한 키워드 생성 로직을 중간에 적용하여 해결했습니다.

또 다른 개선방법은 기존기능은 단순 Spotlight 기능에 지나지 않아 활용도와 완성도가 낮아서 신뢰를 주기 어려웠습니다. 윗 문단의 키워드 생성 로직과 결합해 전체 북마크 내용을 LLM에 실시간 주입시켜 채팅형태의 답변과 UI로 변경했습니다.

현재 로직을 대략적으로 정리하자면 (이미 Text Embeddings 데이터가 있다는 가정)

사용자의 질의를 키워드로 변환

해당 키워드 index와 유사한 북마크 선정

북마크 내용을 바탕으로 사용자 질의에 대한 답변 생성

질의에 해당된 북마크만 추려서 출력

크게는 위와 같은 동작을 합니다. AI 모델들의 특성들을 고려해 여러가지 모델을 복합하여 사용중입니다.

그 결과 초창기 버전보다 나은 응답과 사용자 경험이라 판단되어 현재 상태로 서비스 중입니다. 지속적으로 prompt를 수정하거나 설정을 바꿔서 테스트 할 예정이며 추후 더 자세한 기술적 회고에 대한 내용을 써보겠습니다.

See latest comments