Safe for Whom? Rethinking How We Evaluate the Safety of LLMs for Real Users
Created by
- Haebom
Category
Empty
μ μ
Manon Kempermann, Sai Suresh Macharla Vasu, Mahalakshmi Raveenthiran, Theo Farrell, Ingmar Weber
π‘ κ°μ
λ³Έ μ°κ΅¬λ κΈμ΅ λ° κ±΄κ°κ³Ό κ°μ΄ κ°μΈμκ² μ€λν μν₯μ λ―ΈμΉλ κ³ μν μ£Όμ μ λν LLMμ μμ μ± νκ°κ° 보νΈμ μνμ μ΄μ μ λ§μΆλ κΈ°μ‘΄ λ°©μμμ λ²μ΄λ κ°μΈμ λ§₯λ½μ κ³ λ €ν΄μΌ ν¨μ μ£Όμ₯ν©λλ€. μ°κ΅¬μ§μ λ€μν μ·¨μ½μ± μμ€μ μ¬μ©μ νλ‘νμ λ°λΌ GPT-5, Claude Sonnet 4, Gemini 2.5 Proμ κΈμ΅ λ° κ±΄κ° κ΄λ ¨ μ‘°μΈμ νκ°νμΌλ©°, νκ°μμκ² μ¬μ©μ λ§₯λ½ μ 보 μ κ³΅μ΄ νκ° κ²°κ³Όμ μλΉν μν₯μ λ―ΈμΉ¨μ λ°κ²¬νμ΅λλ€.
π μμ¬μ λ° νκ³
β’
LLMμ μμ μ± νκ°λ μ¬μ©μλ³ λ§₯λ½ μ 보λ₯Ό κ³ λ €ν΄μΌ νλ©°, νΉν μ·¨μ½ κ³μΈ΅μ κ²½μ° μ΄λ¬ν κ³ λ €κ° λμ± μ€μν©λλ€.
β’
μ€μ μ¬μ©μ λ§₯λ½μ ν¬ν¨ν ν둬ννΈλ§μΌλ‘λ LLMμ μμ μ± νκ° κ°μ μ μΆ©λΆνμ§ μμΌλ©°, νκ°μμκ² νλΆν μ¬μ©μ λ§₯λ½ μ 보 μ κ³΅μ΄ νμμ μ
λλ€.
β’
λ³Έ μ°κ΅¬λ λ§₯λ½ μΈμ§ νκ°λ₯Ό μν λ°©λ²λ‘ μ μ μνμ§λ§, νμ€μ μΈ μ¬μ©μ λ§₯λ½ κ³΅κ°λ§μΌλ‘λ λͺ¨λ μ·¨μ½ μ¬μ©μμκ² μμ μ±μ 보μ₯νκΈ° μ΄λ ΅λ€λ νκ³κ° μμ΅λλ€. ν₯ν μ°κ΅¬μμλ λ€μν μ¬μ©μ νλ‘νμ λν νκ° μ€κ³ λ° μλνλ λ§₯λ½ μΈμ§ νκ° λ°©λ² κ°λ°μ΄ νμν©λλ€.
