Mỗi prompt cho chatbot tiêu tốn bao nhiêu lít nước? Google chính thức cung cấp câu trả lời

Google vừa công bố báo cáo kỹ thuật đầu tiên về mức tiêu thụ năng lượng của mô hình Gemini, hé lộ những con số cụ thể chưa từng được công bố bởi một công ty Big Tech nào khác. Theo báo cáo, một prompt văn bản trung bình tiêu tốn 0,24 watt-giờ điện, tương đương một giây chạy lò vi sóng

Nghiên cứu của Google không chỉ tính năng lượng tiêu thụ bởi các chip AI (TPU tùy chỉnh của Google , tương đương GPU) mà còn tính cả hạ tầng hỗ trợ. Chip AI chỉ chiếm 58% trong tổng mức 0,24 watt-giờ, CPU và bộ nhớ chiếm thêm 25%, thiết bị dự phòng chiếm 10%, và 8% còn lại đến từ hệ thống vận hành trung tâm dữ liệu (làm mát, chuyển đổi điện).

Google cũng lưu ý rằng con số này chỉ là trung vị, không đại diện cho mọi loại prompt. Ví dụ, việc nạp hàng chục cuốn sách để yêu cầu Gemini tóm tắt chi tiết sẽ tiêu tốn nhiều năng lượng hơn, hay dùng mô hình reasoning vốn cần nhiều bước xử lý hơn cũng vậy. Báo cáo chỉ xét trên prompt văn bản, chưa bao gồm xử lý hình ảnh hay video vốn đòi hỏi nhiều năng lượng hơn.

Một phát hiện quan trọng là mức năng lượng tiêu thụ cho một prompt trung vị đã giảm tới 33 lần chỉ trong vòng một năm, nhờ cải tiến mô hình và phần mềm. Tuy nhiên, Google cũng thừa nhận rằng những truy vấn phức tạp hơn, như yêu cầu xử lý hàng chục cuốn sách hay sử dụng mô hình reasoning, sẽ tiêu tốn nhiều năng lượng hơn.

Google cũng ước tính khí thải CO₂ từ một prompt trung vị ở mức 0,03 gram, tính theo phương pháp dựa trên nguồn điện sạch - bao gồm điện từ Mặt Trời, gió, địa nhiệt, hạt nhân - mà Google mua được. Về nước, mỗi prompt tiêu thụ khoảng 0,26 ml, tương đương năm giọt nước, để làm mát trung tâm dữ liệu.

Jeff Dean, nhà khoa học trưởng của Google , cho biết mục tiêu là giúp người dùng hiểu rõ hơn tác động môi trường khi sử dụng AI : “ Mọi người không cần quá lo ngại về năng lượng hay nước khi dùng Gemini, vì mức tiêu thụ tương đương với những việc hằng ngày bạn làm mà thậm chí không nghĩ tới, như xem vài giây TV hay uống vài giọt nước ”.

Với bước đi này, Google đã tiên phong trong làn sóng minh bạch về chi phí năng lượng của AI . Những mong những công ty AI khác cũng noi theo để người dùng được an lòng.