YouTuber PewDiePie tự train AI, tuyên bố vượt GPT-4 nhưng lại "quay xe" vì lý do ngớ ngẩn

Streamer PewDiePie vừa công bố chi tiết hành trình tự huấn luyện một mô hình AI trong nhiều tháng, với mục tiêu cải thiện khả năng lập trình. Theo chia sẻ trong video mới nhất, mô hình do anh tinh chỉnh có thời điểm vượt qua GPT-4 trên một bài benchmark lập trình, trước khi chính anh phát hiện kết quả bị sai lệch do trùng dữ liệu huấn luyện.

Không xây dựng AI từ con số 0, PewDiePie thừa nhận anh chỉ fine-tune một mô hình ngôn ngữ lớn có sẵn, cụ thể là phiên bản 32B của Qwen 2.5. Mục tiêu của anh không phải cạnh tranh thương mại mà để học cách huấn luyện AI và hiểu rõ quy trình phía sau.

Benchmark mà anh sử dụng có tên Aider Polyglot, một bài kiểm tra đánh giá khả năng lập trình ở nhiều ngôn ngữ khác nhau. Theo lời PewDiePie, các mô hình hàng đầu như DeepSeek 2.5 hay Llama 4 Maverick chỉ đạt khoảng hơn 18% ở định dạng diff format. Mô hình ban đầu anh chọn để huấn luyện chỉ đạt 8%, và khi đổi sang định dạng khác có thể lên 16%.

Từ đây, anh bắt đầu quá trình thu thập và xử lý dữ liệu. PewDiePie cho biết đã tổng hợp khoảng 100.000 mẫu dữ liệu theo dạng bài toán - lời giải, kết hợp dữ liệu công khai, dữ liệu từ GitHub và cả dữ liệu tổng hợp do AI mạnh hơn tạo ra. Tuy nhiên, anh cũng thừa nhận dữ liệu tổng hợp có rủi ro vì AI có thể tạo ra lời giải trông đúng nhưng thực chất sai.

Sau nhiều tháng chuẩn bị, lần huấn luyện đầu tiên khiến mô hình còn tệ hơn ban đầu. Anh phát hiện vấn đề nằm ở bộ kiểm thử và dữ liệu nhiễu. Sau khi sửa lại, điểm số ổn định quanh mức 16%, tương đương trần hiệu suất trước đó.

Để cải thiện thêm, PewDiePie bổ sung dữ liệu có phần "reasoning", tức buộc mô hình phải viết ra các bước suy nghĩ trước khi đưa ra lời giải. Đây là kỹ thuật thường giúp AI xử lý bài toán phức tạp tốt hơn. Sau khi fine-tune thêm khoảng 15.000 mẫu reasoning, điểm số ban đầu đạt 17%, nhưng do benchmark có yếu tố ngẫu nhiên, anh tiếp tục chạy lại nhiều lần.

Ở một lần chạy, mô hình đạt 19,6%. PewDiePie tuyên bố đã vượt GPT-4 ở thời điểm tháng 11. Tuy nhiên, ngay sau đó anh phát hiện mình chưa kiểm tra hiện tượng benchmark contamination - tức dữ liệu huấn luyện có thể trùng với câu hỏi trong bộ kiểm tra. Sau khi rà soát lại, anh xác nhận có một phần dữ liệu bị trùng và quyết định hủy kết quả.

Không dừng lại, PewDiePie huấn luyện lại trên toàn bộ tập dữ liệu và đồng thời phát hiện trước đó mình đã fine-tune nhầm phiên bản thường thay vì phiên bản chuyên lập trình của Qwen 2.5. Khi chuyển sang bản coder chuyên biệt, kết quả ban đầu thậm chí rơi xuống 4,4%. Sau khi điều chỉnh và huấn luyện lại, điểm số tăng lên 25%.

Một phát hiện khác cho thấy benchmark chưa chạy đầy đủ các phần như C++ và JavaScript. Sau khi sửa lại bài test, mô hình đạt 36%. Tiếp tục hậu huấn luyện thêm 1.500 mẫu trong 5 epoch, điểm số cuối cùng đạt 39,1%.

Dù vậy, PewDiePie cũng thừa nhận ngay sau khi hoàn thành, phiên bản Qwen 3 đã ra mắt và đạt khoảng 40% trên cùng benchmark, đồng nghĩa mô hình của anh vẫn chưa vượt qua thế hệ mới nhất.

Toàn bộ quá trình không chỉ gặp lỗi phần mềm mà còn nhiều sự cố phần cứng. Anh cho biết từng làm cháy dây nguồn do hệ thống tiêu thụ hơn 2.000 W, một GPU bị hỏng và máy tính liên tục gặp lỗi do cấu hình tự lắp ghép để đáp ứng tải tính toán cao.

PewDiePie nhấn mạnh rằng đạt điểm cao ở một benchmark không đồng nghĩa với năng lực toàn diện. Anh cho biết cần kiểm tra thêm trên các bài test khác như SWE-bench trước khi cân nhắc chia sẻ mô hình công khai. Với anh, dự án này chủ yếu là hành trình học hỏi thông qua thất bại và thử nghiệm, thay vì tạo ra một sản phẩm cạnh tranh trực tiếp với các công ty AI lớn.