A Vision Toward Energy-Efficient Domain-Specific Artificial Intelligence Models and Agents
μμ±μ
- Haebom
μΉ΄ν
κ³ λ¦¬
Empty
μ μ
Abhijit Chatterjee, Niraj K. Jha, Jonathan D. Cohen, Thomas L. Griffiths, Hongjing Lu, Diana Marculescu, Ashiqur Rasul, Wenrui Xu, Keshab K. Parhi
π‘ κ°μ
λ³Έ λ
Όλ¬Έμ νμ¬ AI λΆμΌλ₯Ό μ§λ°°νλ κ±°λ μΈμ΄ λͺ¨λΈ(LLM)μ λ§λν μλμ§ μλΉμ νκ°(hallucination) λ¬Έμ λ₯Ό μ§μ ν©λλ€. μ΄μ λν λμμΌλ‘, νΉμ λλ©μΈμ νΉνλκ³ 100μ΅~200μ΅ κ°μ νλΌλ―Έν°λ₯Ό κ°μ§ κ²½λνλ λ©ν°λͺ¨λ¬ λͺ¨λΈ λ° μμ΄μ νΈ κ°λ°μ μ μν©λλ€. μ΄λ¬ν λͺ¨λΈμ μ€μκ° λ°μ΄ν°μ μ¬μ μ§μμ νμ©νμ¬ λμ νκ²½μμ μΆλ‘ , κ³ν, μμ¬κ²°μ μ μννλ©° μ§μμ μΈ νμ΅μ ν΅ν΄ λ―Έλ μμ¬κ²°μ λ₯λ ₯μ ν₯μμν¬ μ μμ κ²μΌλ‘ κΈ°λλ©λλ€.
π μμ¬μ λ° νκ³
β’
μλμ§ ν¨μ¨μ μΈ AIμ νμμ± λλ: LLMμ κ³Όλν μλμ§ μλΉμ λΉν¨μ¨μ±μ 극볡νκ³ , μΈκ° λ μμ€μ μλμ§ ν¨μ¨μ±μ κ°μΆ μ°¨μΈλ AI λͺ¨λΈ κ°λ°μ μ€μμ±μ κ°μ‘°ν©λλ€.
β’
λλ©μΈ νΉν λ° κ²½λν λͺ¨λΈμ μ€μμ±: νΉμ μμμ μ§μ€νκ³ νλΌλ―Έν° μλ₯Ό μ€μΈ λͺ¨λΈμ΄ λ λμ μ§λ₯κ³Ό μ€μ©μ±μ μ 곡ν μ μμμ μμ¬ν©λλ€.
β’
νλμ¨μ΄ νμ μ νμμ±: μ μλ AI μμ€ν
μ μ§μνκΈ° μν΄ νμ¬ κΈ°μ λλΉ 1000λ°° μ΄μμ μμ€ν
λ 벨 μλμ§ ν¨μ¨μ±μ μ 곡νλ νλμ¨μ΄ κ°λ°μ΄ νμμ μμ μ μν©λλ€.
