Bất ngờ không: việc "huấn luyện" trí tuệ nhân tạo có thể thải ra tới 284 tấn CO2

Người ta thường so sánh ngành công nghiệp trí tuệ nhân tạo với ngành dầu mỏ: một khi ta khai thác được dữ liệu, ta có thể tinh lọc để biến nó thành một thứ hàng trao đổi quý giá. Phép so sánh này còn chỉ ra một điểm chung nữa, khi xét tới những ảnh hưởng môi trường của quá trình xử lý deep learning.

Trong báo cáo nghiên cứu mới, các nhà khoa học tại Đại học Massachusetts thực hiện đánh giá một vòng đời của một số khuôn mẫu trí tuệ nhân tạo quy mô lớn. Họ phát hiện ra rằng việc “huấn luyện AI” thải ra tới 284 tấn carbon dioxide ra môi trường, gấp 5 lần lượng khí thải trung bình của một chiếc xe ô tô tại Mỹ thải ra từ khi nó được chế tạo cho tới khi thành phế liệu.

Những nhà nghiên cứu AI đã từ lâu nghi ngờ những ảnh hưởng tới môi trường mà những cỗ máy xử lý khổng lồ có thể có. “Nhiều người trong chúng ta có thể thấy sự ô nhiễm này đôi chút trừu tượng và mù mờ, nhưng những con số không nói dối”, lời cảnh báo đưa ra bởi nhà khoa học máy tính Carlos Gómez-Rodríguez, người không tham gia vào nghiên cứu trên.

“Tôi hay những nhà nghiên cứu khác đã bàn luận về vấn đề này trước đây, có thể khẳng định đây là vấn đề có thực”.

Trong nghiên cứu mới, thử nghiệm được chỉ đích danh là quá trình xử lý ngôn ngữ tự nhiên (natural-language processing - NLP), một lĩnh vực nhánh thuộc ngành AI, tập trung vào việc dạy máy móc ngôn ngữ con người.

Trong hai năm vừa rồi, cộng đồng nghiên cứu NLP đạt được nhiều dấu mốc đáng chú ý, ví dụ như hoàn thiện câu nói, dịch thuật chính xác và những bài thử quy chuẩn khác. Hệ thống AI GPT-2 của OpenAI nổi tiếng với khả năng viết ra những bài báo không khác xa đồ thật là bao.

Nhưng những tiến bộ đó đi kèm với hệ lụy. Cỗ máy học ngôn ngữ cần rất nhiều dữ liệu đầu vào, và quá trình xử lý hết chỗ thông tin đó cần rất nhiều năng lượng.

Trong ngành AI hiện tại, có bốn cỗ máy đáng chú ý, đã tạo ra được những cột mốc quan trọng. Chúng là the Transformer, ELMo, BERT và GPT-2.

Trong thử nghiệm, người ta cho chạy từng hệ thống trên một GPU duy nhất trong suốt một ngày để đo mức năng lượng tiêu thụ của chúng. Sau đó lấy con số nhân với tổng thời gian chạy máy để ra được kết quả cuối cùng.

Lượng năng lượng tiêu thụ sẽ được quy đổi tương đương với lượng khí thải có thể thải ra. Con số cuối cùng khiến người ta giật mình, 284 tấn carbon dioxide.

Họ phát hiện ra rằng chi phí cho sức mạnh tính toán và phí bù carbon cho môi trường tăng tỷ lệ thuận với quy mô hệ thống, bùng nổ tại thời điểm tăng độ chính xác để ra được kết quả cuối cùng. Cụ thể, quá trình tăng độ chính xác có tên tìm kiếm cấu trúc mạng neural, tối ưu hóa độ chính xác bằng cách liên tục thực hiện phép thử loại, rất tốn năng lượng mà không được nhiều lợi ích.

Nếu bỏ qua bước kể trên, mô hình AI tốn kém nhất - BERT, sẽ “chỉ” thải ra 6.350 kg carbon dioxide.

Con số 284 tấn CO2 là lượng khí thải tạo ra bởi hệ thống Transformer xử lý dữ liệu và chạy song song NLP.

Chưa hết, các nhà nghiên cứu phát hiện ra con số đáng lo ngại vừa nêu chỉ có thể được sử dụng làm giới hạn dưới. “Khối lượng công việc khi huấn luyện một hệ thống máy học duy nhất mới chỉ ở mức tối thiểu”, Emma Strubell, người dẫn đầu nghiên cứu mới cho hay.

Trên thực tế, những nhà nghiên cứu AI sẽ phát triển thêm những hệ thống mới, có thể đi lên từ con số không hoặc cải tiến những hệ thống có sẵn để nó có thể xử lý thêm những loại dữ liệu khác; cả hai quá trình sẽ đều tốn kém thêm nhiều thời gian huấn luyện AI cũng như tinh chỉnh.

Để tính ra lượng khí thải carbon thải ra trong cả quá trình nghiên cứu AI và xử lý dữ liệu, Strubell và đồng nghiệp sử dụng sẵn những thông tin mình đang có: Quá trình xây dựng và thử nghiệm 4.789 hệ thống machine learning trong quãng thời gian 6 tháng. Quy đổi sang đơn vị khí thải CO2, kết quả sẽ là 35.380 kg, hơn 35 ngàn tấn.

Tính nghiêm trọng của những con số đáng lo ngại cũng lớn như chính chúng, nhất là khi ngành công nghệ hiện đại đang muốn tập trung nhiều hơn vào AI. Những hệ thống machine learning có thể thực hiện được rất nhiều tác vụ hữu ích, những tập đoàn lớn hay những viện nghiên cứu có thể thu lợi lớn từ việc phân tích dữ liệu.

Sớm muộn, ta cũng sẽ phải đặt ra câu hỏi “Liệu có đáng?”

Những kết quả nghiên cứu mới còn chỉ ra một vấn đề nan giải khác: ta cần đủ dữ liệu để cho những cỗ máy ngấu nghiến, để mà ra được một kết quả nghiên cứu đáng kể. Gánh nặng này đè lên vai những con người thuộc giới học viện, những người cung cấp đáng kể dữ liệu.

“Học viện không thể bắt kịp xu hướng mới trong huấn luyện hệ thống trí tuệ nhân tạo, những học sinh mới tốt nghiệp là đối tượng đặc biệt bị ảnh hưởng, bởi lẽ chúng tôi không sở hữu sức mạnh tính toán lớn”, Strubell nói.

“Đây là vấn đề công bằng giữa các nhà nghiên cứu trong học viện và các nhà nghiên cứu trong ngành AI”.

Strubell và cộng sự mong muốn các đồng nghiệp khác của mình hãy chú ý tới bài báo cáo, tìm cách cải tiến phần cứng hiện tại cũng như viết ra những thuật toán AI hiệu quả hơn.

Não bộ con người có thể xử lý thông tin một cách kỳ diệu mà cần không quá nhiều năng lượng, câu hỏi lớn là đây: làm sao để xây dựng được một hệ thống máy học có khả năng tương tự.

Tham khảo MIT Technology Review