Sign In

CAP: Controllable Alignment Prompting for Unlearning in LLMs

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Zhaokun Wang, Jinyu Guo, Jingwen Pu, Hongli Pu, Meng Yang, Xunlei Chen, Jie Ou, Wenyi Li, Guangchun Luo, Wenhong Tian

πŸ’‘ κ°œμš”

λŒ€κ·œλͺ¨ μ–Έμ–΄ λͺ¨λΈ(LLM)이 ν•™μŠ΅ 데이터에 ν¬ν•¨λœ λ―Όκ°ν•œ 정보λ₯Ό μœ μ§€ν•  μœ„ν—˜μ΄ μžˆμ–΄ 규제 μ€€μˆ˜ 및 윀리적 μ•ˆμ „μ„ μœ„ν•΄ 선택적 지식 μ‚­μ œ(unlearning)κ°€ ν•„μš”ν•©λ‹ˆλ‹€. 기쑴의 νŒŒλΌλ―Έν„° μˆ˜μ • 방식은 높은 계산 λΉ„μš©, ν†΅μ œ λΆˆκ°€λŠ₯ν•œ μ‚­μ œ λ²”μœ„, λͺ¨λΈ κ°€μ€‘μΉ˜ μ ‘κ·Όμ˜ μ œμ•½μ΄λΌλŠ” ν•œκ³„κ°€ μžˆμ–΄ νμ‡„ν˜• λͺ¨λΈμ— μ μš©ν•˜κΈ° μ–΄λ ΅μŠ΅λ‹ˆλ‹€. λ³Έ λ…Όλ¬Έμ—μ„œλŠ” νŒŒλΌλ―Έν„° μˆ˜μ • 없이 κ°•ν™” ν•™μŠ΅μ„ 톡해 ν”„λ‘¬ν”„νŠΈλ₯Ό μ΅œμ ν™”ν•˜μ—¬ λͺ©ν‘œ 지식을 μ–΅μ œν•˜λŠ” λ™μ‹œμ— 일반적인 λŠ₯λ ₯을 μ„ νƒμ μœΌλ‘œ λ³΄μ‘΄ν•˜λŠ” μ œμ–΄ κ°€λŠ₯ν•œ μ •λ ¬ ν”„λ‘¬ν”„νŒ…(CAP) ν”„λ ˆμž„μ›Œν¬λ₯Ό μ œμ•ˆν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
νμ‡„ν˜• LLM을 μœ„ν•œ μ‹€μš©μ μΈ 지식 μ‚­μ œ 방법둠 μ œμ‹œ: λͺ¨λΈ κ°€μ€‘μΉ˜μ— μ ‘κ·Όν•˜μ§€ μ•Šκ³ λ„ 효과적으둜 지식을 μ‚­μ œν•  수 μžˆλŠ” μƒˆλ‘œμš΄ ν”„λ‘¬ν”„νŠΈ 기반 μ ‘κ·Ό 방식을 μ œκ³΅ν•©λ‹ˆλ‹€.
β€’
μ •κ΅ν•˜κ³  μ œμ–΄ κ°€λŠ₯ν•œ 지식 μ‚­μ œ: κ°•ν™” ν•™μŠ΅ 기반 ν”„λ‘¬ν”„νŠΈ μ΅œμ ν™”λ₯Ό 톡해 νŠΉμ • 정보λ₯Ό μ •ν™•ν•˜κ²Œ μ‚­μ œν•˜λ©΄μ„œλ„ λͺ¨λΈμ˜ μ „λ°˜μ μΈ μ„±λŠ₯은 μœ μ§€ν•  수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
데이터 ν”„λΌμ΄λ²„μ‹œ 및 규제 μ€€μˆ˜λ₯Ό μœ„ν•œ 잠재λ ₯: 민감 정보 μ‚­μ œ κΈ°λŠ₯을 톡해 LLM의 μ•ˆμ „ν•˜κ³  μ±…μž„κ° μžˆλŠ” μ‚¬μš©μ„ 지원할 수 μžˆμŠ΅λ‹ˆλ‹€.
β€’
ν”„λ‘¬ν”„νŠΈ 생성 및 μ΅œμ ν™” κ³Όμ •μ˜ λ³΅μž‘μ„±: κ°•ν™” ν•™μŠ΅μ„ ν†΅ν•œ ν”„λ‘¬ν”„νŠΈ μ΅œμ ν™” 과정은 μ—¬μ „νžˆ μƒλ‹Ήν•œ 계산 μžμ›μ„ μš”κ΅¬ν•  수 있으며, 졜적의 ν”„λ‘¬ν”„νŠΈ ꡬ성을 μœ„ν•œ 좔가적인 연ꡬ가 ν•„μš”ν•  수 μžˆμŠ΅λ‹ˆλ‹€.
πŸ‘
Made with Slashpage