Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Secu-Table: a Comprehensive security table dataset for evaluating semantic table interpretation systems

Created by
  • Haebom
Category
Empty

저자

Azanzi Jiomekong, Jean Bikim, Patricia Negoue, Joyce Chin

개요

보안 도메인에서 의미론적 표 해석(STI) 시스템, 특히 대규모 언어 모델(LLM) 기반 시스템의 평가를 위한 데이터셋 부족 문제를 해결하기 위해, CVE 및 CWE 데이터를 활용하여 구축된 1,500개 이상의 테이블과 15,000개 이상의 엔티티로 구성된 Secu-Table 데이터셋을 소개합니다. 이 데이터셋은 Wikidata 및 SEPSES CSKG를 사용하여 주석 처리되었으며, SemTab 챌린지에서 STI 시스템의 성능을 평가하는 데 사용될 예정입니다. 또한, Falcon3-7b-instruct, Mistral-7B-Instruct, GPT-4o mini와 같은 LLM을 활용한 예비 평가 결과를 제공합니다.

시사점, 한계점

시사점:
보안 도메인 STI 시스템 연구를 위한 공개 데이터셋 제공.
LLM 기반 STI 시스템의 성능 평가를 위한 기준선 제공.
SemTab 챌린지를 통한 연구 활성화 기여.
한계점:
제공된 예비 평가는 제한된 수의 LLM을 사용.
데이터셋의 편향성 및 일반화 가능성에 대한 추가 분석 필요.
데이터셋의 커버리지 및 완전성에 대한 추가 검증 필요.
👍