AI agent: Cái giá tiêu thụ năng lượng cho trí tuệ nhân tạo thế hệ mới

Ảnh minh họa.

Theo nghiên cứu của nhóm chuyên gia thuộc Viện Khoa học và Công nghệ Tiên tiến Hàn Quốc (KAIST), sự phát triển nhanh của AI agent có thể kéo theo mức tiêu thụ điện năng tại các trung tâm dữ liệu tăng mạnh, tạo thêm áp lực đối với hạ tầng tính toán trong tương lai.

Khác với chatbot AI thông thường chỉ phản hồi câu hỏi rồi kết thúc phiên tương tác, AI agent được xây dựng trên nền tảng mô hình ngôn ngữ lớn (LLM) nhưng có khả năng tự phân tích mục tiêu, chia nhỏ nhiệm vụ, lập kế hoạch và chủ động sử dụng các công cụ bên ngoài như công cụ tìm kiếm, máy tính hoặc môi trường thực thi mã để hoàn thành yêu cầu của người dùng.

Nhờ khả năng phối hợp nhiều bước xử lý, AI agent đang được ứng dụng ngày càng nhiều trong phát triển phần mềm, nghiên cứu khoa học, phân tích dữ liệu và tự động hóa quy trình làm việc. Tuy nhiên, chính cách thức vận hành này cũng khiến nhu cầu tính toán và năng lượng gia tăng đáng kể.

Để đánh giá tác động của xu hướng trên, nhóm nghiên cứu KAIST đã phân tích chi phí tính toán, thời gian phản hồi, mức tiêu thụ điện năng cũng như nhu cầu năng lượng của các trung tâm dữ liệu khi vận hành AI agent.

Kết quả cho thấy, để hoàn thành một nhiệm vụ, AI agent phải gọi mô hình ngôn ngữ lớn trung bình nhiều hơn 9,2 lần so với phương pháp suy luận từng bước truyền thống. Trong quá trình xử lý, hệ thống liên tục đánh giá kết quả trung gian, kích hoạt thêm các công cụ hỗ trợ và điều chỉnh kế hoạch trước khi đưa ra câu trả lời cuối cùng.

Việc thực hiện nhiều vòng suy luận cũng khiến thời gian phản hồi tăng đáng kể. Trong một số trường hợp, AI agent mất thời gian tạo kết quả lâu hơn tới 154 lần so vơíchatbot AI truyền thống.

Một phát hiện đáng chú ý khác là trong thời gian AI agent gọi và chờ các công cụ bên ngoài xử lý, bộ xử lý đồ họa (GPU) gần như không thực hiện tính toán trong khoảng 55% tổng thời gian vận hành. Điều này phản ánh hiệu suất khai thác tài nguyên phần cứng chưa cao, làm gia tăng mức tiêu thụ năng lượng và chi phí vận hành.

Đối với các mô hình AI quy mô lớn, sự khác biệt càng rõ rệt. Với mô hình ngôn ngữ có 70 tỷ tham số, AI agent tiêu thụ trung bình khoảng 348 Wh điện cho mỗi truy vấn, cao gấp 137 lần so với chatbot AI chỉ thực hiện tác vụ hỏi - đáp.

Theo Giáo sư Yoo Minsoo, nghiên cứu đã lần đầu tiên lượng hóa được chi phí năng lượng phải đánh đổi để AI đạt mức độ tự chủ và thông minh cao hơn. Theo ông, khi năng lực của AI tiếp tục được nâng lên, yêu cầu về tài nguyên tính toán và điện năng cũng sẽ tăng tương ứng.

Các nhà nghiên cứu nhận định, trong bối cảnh nhiều doanh nghiệp công nghệ đang đẩy mạnh phát triển AI agent nhằm tự động hóa nhiều công việc trước đây do con người đảm nhiệm, bài toán tối ưu hiệu quả năng lượng sẽ trở thành yếu tố quan trọng bên cạnh việc nâng cao năng lực mô hình. Nếu không có các giải pháp cải thiện hiệu suất tính toán và khai thác hạ tầng, nhu cầu điện năng của các trung tâm dữ liệu có thể tăng nhanh hơn đáng kể trong những năm tới.

Hậu Thạch