Sign In

BIRDS: Characterizing and Understanding Biodiversity Impact of Large Language Model Serving

μž‘μ„±μž
  • Haebom
μΉ΄ν…Œκ³ λ¦¬
Empty

μ €μž

Tianyao Shi, Yi Ding

πŸ’‘ κ°œμš”

λ³Έ 논문은 λŒ€κ·œλͺ¨ μ–Έμ–΄ λͺ¨λΈ(LLM) μ„œλΉ™μ΄ νƒ„μ†Œ 및 λ¬Ό μ†ŒλΉ„ 외에도 생물 닀양성에 λ―ΈμΉ˜λŠ” μ•…μ˜ν–₯을 νƒκ΅¬ν•©λ‹ˆλ‹€. 이λ₯Ό μœ„ν•΄ BIRDSλΌλŠ” μƒˆλ‘œμš΄ ν”„λ ˆμž„μ›Œν¬λ₯Ό μ œμ•ˆν•˜μ—¬, μš”μ²­ λ‹¨μœ„μ˜ κΈ°λŠ₯적 λ‹¨μœ„λ₯Ό μ •μ˜ν•˜κ³  운영 및 λ‚΄μž¬λœ 생물 λ‹€μ–‘μ„± 영ν–₯을 μ •λŸ‰ν™”ν•©λ‹ˆλ‹€. BIRDSλŠ” 응닡 ν’ˆμ§ˆμ„ κ³ λ €ν•œ 생물 λ‹€μ–‘μ„± 영ν–₯ μ§€ν‘œ(QNBI)λ₯Ό λ„μž…ν•˜μ—¬, LLM μ„œλΉ™μ˜ 규λͺ¨ ν™•μž₯에 λ”°λ₯Έ 생물 λ‹€μ–‘μ„± 영ν–₯ 좕적과 ν’ˆμ§ˆ 기반의 μ‹€ν–‰ κ°€λŠ₯ν•œ μ ˆμΆ©μ•ˆμ„ μ œμ‹œν•©λ‹ˆλ‹€.

πŸ”‘ μ‹œμ‚¬μ  및 ν•œκ³„

β€’
LLM μ„œλΉ™μ΄ λ‹¨μˆœν•œ νƒ„μ†Œ 및 λ¬Ό μ†ŒλΉ„λ₯Ό λ„˜μ–΄ 생물 λ‹€μ–‘μ„± κ°μ†ŒλΌλŠ” ν™˜κ²½μ  영ν–₯을 μ•ΌκΈ°ν•œλ‹€λŠ” 점을 λͺ…ν™•νžˆ ν•©λ‹ˆλ‹€.
β€’
응닡 ν’ˆμ§ˆκ³Ό 생물 λ‹€μ–‘μ„± 영ν–₯을 λ™μ‹œμ— κ³ λ €ν•˜λŠ” QNBI μ§€ν‘œλ₯Ό 톡해 LLM μ„œλΉ™μ˜ μ‹€μ§ˆμ μΈ ν™˜κ²½ λΆ€ν•˜λ₯Ό 평가할 수 μžˆλŠ” μƒˆλ‘œμš΄ μ‹œκ°μ„ μ œκ³΅ν•©λ‹ˆλ‹€.
β€’
λ‹€μ–‘ν•œ μ›Œν¬λ‘œλ“œ, λͺ¨λΈ, GPU, 지역에 걸쳐 LLM μ„œλΉ™μ˜ 생물 λ‹€μ–‘μ„± 영ν–₯이 규λͺ¨μ— 따라 μΆ•μ λ˜λ©°, 이에 λŒ€ν•œ ν’ˆμ§ˆ 기반의 μ˜μ‚¬ 결정이 ν•„μš”ν•¨μ„ λ³΄μ—¬μ€λ‹ˆλ‹€.
β€’
λ³Έ μ—°κ΅¬λŠ” LLM μ„œλΉ™μ˜ 생물 λ‹€μ–‘μ„± 영ν–₯λ§Œμ„ λ‹€λ£¨μ—ˆμœΌλ©°, LLM ν•™μŠ΅ λ‹¨κ³„μ—μ„œμ˜ 영ν–₯μ΄λ‚˜ λ‹€λ₯Έ ν™˜κ²½μ  μΈ‘λ©΄(예: μžμ› 고갈)에 λŒ€ν•œ 뢄석은 ν¬ν•¨ν•˜μ§€ μ•Šμ•˜μŠ΅λ‹ˆλ‹€. ν–₯ν›„ μ—°κ΅¬μ—μ„œλŠ” μ΄λŸ¬ν•œ 츑면듀을 ν†΅ν•©μ μœΌλ‘œ κ³ λ €ν•΄μ•Ό ν•  κ²ƒμž…λ‹ˆλ‹€.
πŸ‘
Made with Slashpage