[공지사항]을 빙자한 안부와 근황 
Show more

Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

AI đói đến mức nào? So sánh năng lượng, nước và lượng khí thải carbon của suy luận LLM

Created by
  • Haebom

Tác giả

Nidhal Jegham, Marwan Abdelatti, Lassad Elmoubarki, Abdeltawab Hendawi

Phác thảo

Bài báo này trình bày một khuôn khổ đánh giá chuẩn mới có nhận thức về cơ sở hạ tầng để định lượng tác động môi trường của 30 mô hình ngôn ngữ quy mô lớn (LLM) hiện đại được triển khai trong các trung tâm dữ liệu thương mại. Chúng tôi xây dựng khuôn khổ này bằng cách kết hợp dữ liệu hiệu suất API công khai, thoát nước môi trường khu vực và suy luận thống kê về cấu hình phần cứng. Chúng tôi cũng xếp hạng các mô hình dựa trên hiệu suất của chúng so với chi phí môi trường bằng cách sử dụng phân tích phong bì dữ liệu hiệu suất chéo (DEA). Chúng tôi thấy rằng o3 và DeepSeek-R1 là những mô hình tiêu tốn nhiều năng lượng nhất, tiêu thụ hơn 33 Wh, cao hơn 70 lần mức tiêu thụ của GPT-4.1 nano. Ngược lại, Claude-3.7 Sonnet được xếp hạng là mô hình hiệu quả sinh thái nhất. Trong khi GPT-4o chỉ tiêu thụ 0,42 Wh cho một truy vấn ngắn duy nhất, thì nó có tác động môi trường hàng năm đáng kể khi được mở rộng lên 700 triệu truy vấn mỗi ngày. Điều này bao gồm mức tiêu thụ điện của 35.000 hộ gia đình tại Hoa Kỳ, lượng nước ngọt bốc hơi tương đương với nhu cầu nước uống hàng năm của 1,2 triệu người, và lượng khí thải carbon cần thiết để bù đắp cho một khu rừng rộng bằng Chicago. Những kết quả này làm nổi bật nghịch lý rằng mặc dù AI đang ngày càng rẻ hơn và nhanh hơn, nhưng việc áp dụng nó trên toàn cầu lại dẫn đến việc tiêu thụ tài nguyên không cân xứng. Nghiên cứu này cung cấp một phương pháp luận chuẩn hóa và dựa trên kinh nghiệm để đánh giá tính bền vững của việc triển khai LLM, đặt nền tảng cho trách nhiệm môi trường trong tương lai trong phát triển AI và các tiêu chuẩn bền vững.

Takeaways, Limitations

Takeaways:
Chúng tôi trình bày một khuôn khổ đánh giá chuẩn hóa để định lượng tác động môi trường của suy luận LLM.
Mức tiêu thụ năng lượng cho thấy sự khác biệt đáng kể giữa các mô hình (o3, DeepSeek-R1 so với GPT-4.1 nano).
Nhấn mạnh tầm quan trọng của trách nhiệm môi trường đối với tính bền vững của chương trình LLM của bạn.
Trình bày sự đánh đổi giữa khả năng mở rộng AI và tác động đến môi trường.
Nâng cao nhu cầu phát triển các tiêu chuẩn bền vững để giảm tác động môi trường của LLM.
Limitations:
Dữ liệu được sử dụng trong phân tích dựa trên dữ liệu API công khai và có thể không phản ánh mọi khía cạnh của hoạt động trung tâm dữ liệu thực tế.
Độ Chính xác của các giá trị xả thải môi trường khu vực cần được xem xét lại.
Hạn chế của suy luận thống kê đối với cấu hình phần cứng cụ thể.
Cần nghiên cứu nhiều hơn về môi trường triển khai và LLM đa dạng hơn.
👍