Sign In

Where Do Reasoning Models Refuse?

์ž‘์„ฑ์ž
  • Haebom
์นดํ…Œ๊ณ ๋ฆฌ
Empty

์ €์ž

Kureha Yamaguchi, Benjamin Etheridge, Andy Arditi

๐Ÿ’ก ๊ฐœ์š”

๋ณธ ์—ฐ๊ตฌ๋Š” ์—ฐ์‡„์  ์‚ฌ๊ณ (CoT) ์ถ”๋ก ์„ ์‚ฌ์šฉํ•˜๋Š” AI ๋ชจ๋ธ์ด ์œ ํ•ดํ•œ ์š”์ฒญ์„ ๊ฑฐ๋ถ€ํ•˜๋Š” ์‹œ์ ์„ ๋ถ„์„ํ•ฉ๋‹ˆ๋‹ค. ์—ฐ๊ตฌ ๊ฒฐ๊ณผ, CoT ์ถ”๋ก  ๊ณผ์ • ์ž์ฒด๊ฐ€ ๊ฑฐ๋ถ€ ๊ฒฐ์ •์— ์ค‘์š”ํ•œ ์˜ํ–ฅ์„ ๋ฏธ์น˜๋ฉฐ, ํŠนํžˆ ์ฆ๋ฅ˜๋œ ๋ชจ๋ธ์—์„œ๋Š” CoT์˜ ์ฒซ ๋ฌธ์žฅ ๋ณ€ํ™”๋งŒ์œผ๋กœ๋„ ๊ฑฐ๋ถ€ ์—ฌ๋ถ€๊ฐ€ ๊ฒฐ์ •๋  ์ˆ˜ ์žˆ์Œ์„ ๋ฐœ๊ฒฌํ–ˆ์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ, ๋ชจ๋ธ์˜ ํ™œ์„ฑํ™”๋กœ๋ถ€ํ„ฐ ๊ฑฐ๋ถ€ ๊ด€๋ จ ์„ ํ˜• ๋ฐฉํ–ฅ์„ ์ถ”์ถœํ•˜์—ฌ ์ œ๊ฑฐํ–ˆ์„ ๋•Œ ์œ ํ•ดํ•œ ์š”์ฒญ์— ๋Œ€ํ•œ ์ˆœ์‘๋„๊ฐ€ ์ฆ๊ฐ€ํ•˜์ง€๋งŒ, ๋น„์ถ”๋ก  ๋ชจ๋ธ์—์„œ์˜ ํšจ๊ณผ๋งŒํผ ์ผ๊ด€์ ์ด์ง€๋Š” ์•Š๋‹ค๋Š” ์ ์„ ํ™•์ธํ–ˆ์Šต๋‹ˆ๋‹ค.

๐Ÿ”‘ ์‹œ์‚ฌ์  ๋ฐ ํ•œ๊ณ„

โ€ข
CoT ์ถ”๋ก  ๊ณผ์ •์˜ ์ดˆ๋ฐ˜ ๋ถ€๋ถ„์ด ์œ ํ•ด ์š”์ฒญ์— ๋Œ€ํ•œ AI์˜ ๊ฑฐ๋ถ€ ๊ฒฐ์ •์— ๊ฒฐ์ •์ ์ธ ์—ญํ• ์„ ํ•ฉ๋‹ˆ๋‹ค.
โ€ข
์ฆ๋ฅ˜๋œ ๋ชจ๋ธ์˜ ๊ฒฝ์šฐ, CoT์˜ ๋ฏธ๋ฌ˜ํ•œ ์ดˆ๊ธฐ ๋ณ€ํ™”๊ฐ€ ๊ฑฐ๋ถ€ ํ–‰๋™์„ ์™„์ „ํžˆ ์ขŒ์šฐํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ, ์ด๋Š” ๋™์ผํ•œ ์Šค์Šน ๋ชจ๋ธ์—์„œ ํŒŒ์ƒ๋œ ๋‹ค๋ฅธ ๋ชจ๋ธ๋กœ ์ „์ด๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
โ€ข
๋ชจ๋ธ ํ™œ์„ฑํ™”์—์„œ ์ถ”์ถœ๋œ ๊ฑฐ๋ถ€ ๊ด€๋ จ ์„ ํ˜• ๋ฐฉํ–ฅ์„ ์ œ๊ฑฐํ•˜๋Š” ๊ฒƒ์€ ์œ ํ•ดํ•œ ์š”์ฒญ์— ๋Œ€ํ•œ ์ˆœ์‘๋„๋ฅผ ๋†’์ผ ์ˆ˜ ์žˆ์œผ๋‚˜, ๊ทธ ํšจ๊ณผ๋Š” ๋น„์ถ”๋ก  ๋ชจ๋ธ๋ณด๋‹ค ๋œ ์ผ๊ด€์ ์ด๋ฉฐ ์ „๋ฐ˜์ ์ธ ์„ฑ๋Šฅ ์ €ํ•˜๋ฅผ ์•ผ๊ธฐํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
๐Ÿ‘
Made with Slashpage