Snowflake의 Cortex AISQL은 네이티브 시맨틱 연산을 SQL에 직접 통합하는 프로덕션 SQL 엔진입니다. 이를 통해 사용자는 관계형 연산과 시맨틱 추론을 결합하는 선언적 쿼리를 작성하여 정형 및 비정형 데이터를 쉽게 쿼리할 수 있습니다. AISQL은 AI 인식 쿼리 최적화, 적응형 모델 캐스케이드, 시맨틱 조인 쿼리 재작성이라는 세 가지 혁신적인 기술을 통해 프로덕션 환경에서 시맨틱 연산의 효율성을 향상시킵니다.
시사점, 한계점
•
AI 인식 쿼리 최적화를 통해 LLM 비용을 직접 고려하여 2-8배 속도 향상을 달성합니다.
•
적응형 모델 캐스케이드를 통해 빠른 프록시 모델을 통해 대부분의 행을 라우팅하고 불확실한 경우 강력한 오라클 모델로 에스컬레이션하여 2-6배 속도 향상과 함께 90-95%의 오라클 모델 품질을 유지합니다.
•
시맨틱 조인 쿼리 재작성을 통해 조인 연산의 시간 복잡성을 선형으로 줄여 15-70배 속도 향상과 종종 향상된 예측 품질을 얻습니다.
•
Snowflake에서 프로덕션 환경에 배포되어 분석, 검색 및 콘텐츠 이해 등 다양한 고객 워크로드를 지원합니다.
