Cựu lãnh đạo AI của IBM kêu gọi chấm dứt cuộc chạy đua LLM để giảm thiểu tác động môi trường của AI

• Seth Dobrin, cựu lãnh đạo AI toàn cầu của IBM, cho rằng tương lai có thể thuộc về các mô hình ngôn ngữ nhỏ (SLM) được thiết kế riêng cho các ứng dụng cụ thể và tiêu tốn ít năng lượng hơn nhiều để vận hành.

• Các chuyên gia cảnh báo rằng AI sẽ không thể đạt được tiềm năng đầy đủ cho đến khi giải quyết được sự phụ thuộc vào năng lượng. Arm Holdings dự đoán AI tạo sinh có thể tiêu thụ 1/4 tổng lượng điện tiêu thụ ở Mỹ vào năm 2030.

• Dobrin chỉ ra rằng cứ 25-50 lần nhắc nhở, tùy thuộc vào độ lớn, sẽ sử dụng khoảng nửa lít nước chỉ qua bay hơi khi sử dụng ChatGPT hoặc Claude.

• Khi công nghệ thu nhỏ tiến bộ xuống nút 2 và 3 nanomet, các thuộc tính nhiệt của chúng đang trở thành vấn đề lớn hơn. Quạt và điều hòa không thể tản nhiệt đủ nhanh.

• Tim Rosenfield, đồng sáng lập Sustainable Metal Cloud, tin rằng công ty của ông có giải pháp. Phần cứng trung tâm dữ liệu HyperCube linh hoạt, mô-đun của họ có thể giảm một nửa lượng khí thải carbon so với hệ thống làm mát bằng không khí thông thường bằng cách ngâm máy chủ trực tiếp trong bể dầu.

• Làm mát bằng cách ngâm chìm hiệu quả hơn nhiều so với không khí trong việc tản nhiệt và cũng ít dẫn điện hơn nước, khiến nó phù hợp hơn cho các giá đỡ máy chủ sẽ phải chạy các chip đào tạo và suy luận AI 2nm và 3nm tiên tiến.

• Tuy nhiên, công nghệ mới này đi kèm với những thách thức riêng về chi phí đầu tư ban đầu, bảo trì và sửa chữa. Do đó, kế hoạch của Rosenfield là cung cấp nó như một gói hoàn chỉnh gọi là làm mát như một dịch vụ.

• Dobrin khuyên trước khi sử dụng một công cụ mạnh mẽ như ChatGPT hoặc Claude, hãy quên đi sự phấn khích về AI tạo sinh và bắt đầu bằng cách tự hỏi liệu có thứ gì khác phù hợp cho nhiệm vụ không.

📌 Các chuyên gia AI cảnh báo về tác động môi trường nghiêm trọng của các mô hình ngôn ngữ lớn, với dự báo AI tạo sinh có thể tiêu thụ 25% điện năng Mỹ vào 2030. Giải pháp đề xuất bao gồm sử dụng mô hình nhỏ chuyên biệt và công nghệ làm mát ngâm chìm mới, có thể giảm 50% lượng khí thải carbon.

https://fortune.com/asia/2024/08/06/generative-ai-energy-power-large-language-models-sustainability-carbon-emissions/