Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Hierarchical Dual-Strategy Unlearning for Biomedical and Healthcare Intelligence Using Imperfect and Privacy-Sensitive Medical Data

Created by
  • Haebom
Category
Empty

저자

Yi Zhang, Tianxiang Xu, Zijian Li, Chao Zhang, Kunyu Zhang, Zhan Gao, Meinuo Li, Xiaohan Zhang, Qichao Qi, Bing Chen

개요

본 논문은 대규모 언어 모델(LLM)이 의료 분야에서 훈련 데이터의 기억으로 인한 개인 정보 침해 위험을 해결하기 위해 개발된 선택적 지식 삭제를 위한 계층적 이중 전략 프레임워크를 제시한다. 이 프레임워크는 기하학적 제약 기울기 업데이트를 통해 특정 매개변수를 선택적으로 조절하고, 개념 인식 토큰 수준 개입을 통해 보존 및 삭제 대상 토큰을 구분한다. MedMCQA (수술) 및 MHQA (불안, 우울증, 외상) 데이터 세트에 대한 포괄적인 평가 결과, 82.7%의 삭제율과 88.5%의 지식 보존을 달성했으며, 0.1%의 매개변수만 수정하여 규제 준수, 감사 가능성 및 윤리적 기준에 부합하는 강력한 개인 정보 보호를 제공한다.

시사점, 한계점

•
시사점:
◦
의료 분야 LLM의 개인 정보 보호 문제 해결을 위한 효과적인 프레임워크 제시.
◦
선택적 지식 삭제를 통해 특정 정보 삭제와 기본적인 의료 지식 보존을 동시에 달성.
◦
높은 삭제율과 지식 보존율을 통해 프레임워크의 성능 입증.
◦
매개변수 수정 비율이 낮아 효율적인 적용 가능성 제시.
◦
규제 준수, 감사 가능성 및 윤리적 기준 충족에 기여.
•
한계점:
◦
구체적인 구현 세부 사항 및 알고리즘의 일반화 가능성에 대한 추가 연구 필요.
◦
다양한 의료 데이터 세트 및 LLM 아키텍처에 대한 추가 평가 필요.
◦
개념 인식 토큰 수준 개입의 정확성과 효율성에 대한 개선 여지.
◦
장기적인 지식 보존 및 삭제 효과에 대한 검증 필요.
👍
Made with Slashpage