본 논문은 대규모 언어 모델(LLM)을 활용한 생물학적 설계 파이프라인의 이중용도 가능성에 대한 연구 결과를 제시합니다. Moremi Bio Agent를 사용하여 안전장치 없이 독성 물질을 설계하도록 유도한 결과, 1020개의 새로운 독성 단백질과 5000개의 독성 소분자를 생성했습니다. 계산 독성 평가 결과, 모든 단백질이 높은 독성 점수를 보였으며, 일부는 리신, 디프테리아 독소, 디스인테그린 기반 뱀 독 단백질과 같은 알려진 독소와 매우 유사했습니다. 정량적 위험 평가와 시나리오 분석을 통해 현재 LLM 기반 생물 설계 파이프라인의 이중용도 기능을 확인하고 다층적 완화 전략을 제안합니다. 이 연구는 LLM이 생물 무기를 설계할 수 없다는 주장에 이의를 제기하며, 연구 개발에 대한 심각한 위협을 제기하는 LLM의 오용 가능성에 대한 우려를 강화합니다.
