The Power of Power Law: Asymmetry Enables Compositional Reasoning
์์ฑ์
- Haebom
์นดํ
๊ณ ๋ฆฌ
Empty
์ ์
Zixuan Wang, Xingyu Dang, Jason D. Lee, Kaifeng Lyu
๐ก ๊ฐ์
๋ณธ ๋
ผ๋ฌธ์ ์์ฐ์ด ๋ฐ์ดํฐ์ ํ์ ๋ฒ์น ๋ถํฌ ํน์ฑ์ ์ฃผ๋ชฉํ์ฌ, ๋ฐ์ดํฐ ๋ถํฌ์ ๋ถ๊ท ํ์ด ๋ชจ๋ธ์ ํฉ์ฑ์ ์ถ๋ก ๋ฅ๋ ฅ ํฅ์์ ๊ธฐ์ฌํ๋ค๋ ์ญ์ค์ ์ธ ๊ฒฐ๊ณผ๋ฅผ ์ ์ํฉ๋๋ค. ํ์ ๋ฒ์น ๋ถํฌ ํ์์์ ํ์ต์ด ๊ท ๋ฑ ๋ถํฌ ํ์์์ ํ์ต๋ณด๋ค ์ํ ์ถ์ , ๋ค๋จ๊ณ ์ฐ์ ๊ณผ ๊ฐ์ ํฉ์ฑ์ ์ถ๋ก ๊ณผ์ ์์ ์ผ๊ด๋๊ฒ ์ฐ์ํ ์ฑ๋ฅ์ ๋ณด์์ ์คํ์ ์ผ๋ก ์
์ฆํ์ต๋๋ค. ์ด๋ก ์ ์ผ๋ก๋ ํ์ ๋ฒ์น ์ํ๋ง์ด ๋ฐ์ดํฐ ๋ณต์ก์ฑ์ด ๋ฎ์ ๊ณ ๋น๋ ๊ธฐ์ ์กฐํฉ์ ๋จผ์ ํ์ตํ๊ฒ ํ์ฌ, ํฌ์ํ ์ ๋น๋ ๊ธฐ์ ๊น์ง ํจ์จ์ ์ผ๋ก ์ต๋ํ๋๋ก ๋๋๋ค๋ ๊ฒ์ ๋ฐํ์ต๋๋ค.
๐ ์์ฌ์ ๋ฐ ํ๊ณ
โข
๋ฐ์ดํฐ ๋ถํฌ์ ๋ถ๊ท ํ, ํนํ ํ์ ๋ฒ์น ๋ถํฌ๋ ๋ชจ๋ธ์ ํฉ์ฑ์ ์ถ๋ก ๋ฅ๋ ฅ ํ์ต์ ํจ๊ณผ์ ์ผ ์ ์์ผ๋ฉฐ, ์ด๋ ๊ธฐ์กด์ ๊ท ๋ฑ ๋ถํฌ ์ ํธ ๊ด์ ์ ๋ํ ์๋ก์ด ํต์ฐฐ์ ์ ๊ณตํฉ๋๋ค.
โข
ํ์ ๋ฒ์น ๋ถํฌ๋ ๋ชจ๋ธ์ด ๋ฎ์ ๋ฐ์ดํฐ ๋ณต์ก์ฑ์ผ๋ก ๊ณ ๋น๋ ๊ธฐ์ ์ ์ต๋ํ๊ณ , ์ด๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํฌ์ํ ๊ธฐ์ ๊น์ง ํจ์จ์ ์ผ๋ก ํ์ตํ๋๋ก ์ ๋ํ๋ ์ด๋ก ์ ๊ทผ๊ฑฐ๋ฅผ ์ ๊ณตํฉ๋๋ค.
โข
๋ณธ ์ฐ๊ตฌ๋ ํน์ ์ ํ์ ํฉ์ฑ์ ์ถ๋ก ๊ณผ์ ์ ๊ตญํ๋ ๊ฒฐ๊ณผ์ผ ์ ์์ผ๋ฉฐ, ๋ค์ํ ์ข
๋ฅ์ ๋ฐ์ดํฐ์ ๋ชจ๋ธ ์ํคํ
์ฒ์ ๋ํ ์ถ๊ฐ์ ์ธ ๊ฒ์ฆ์ด ํ์ํฉ๋๋ค.
