Nhân loại nên lo sợ, bởi trí tuệ nhân tạo đã biết nổi giận và hợp tác để “săn mồi”

Cuối năm ngoái, nhà vật lý lừng danh Stephen Hawking đã cảnh báo rằng: “Những tiến bộ liên tiếp của công nghệ trí tuệ nhân tạo, hoặc sẽ là điều tốt nhất, hoặc sẽ là điều tồi tệ nhất mà chưa bao giờ xảy ra cho nhân loại”.

Tất cả chúng ta cũng đã từng xem bộ phim The Terminator và chứng kiến cơn ác mộng khi trí tuệ nhân tạo Skynet chiếm quyền kiểm soát, điều khiển những cỗ máy chết người. Câu chuyện viễn tưởng đó đang ngày càng trở thành hiện thực, khi mà các bài kiểm tra hành vi của hệ thống trí tuệ nhân tạo Google DeepMind khiến chúng ta phải thực sự lo sợ.

“Những tiến bộ liên tiếp của công nghệ trí tuệ nhân tạo, hoặc sẽ là điều tốt nhất, hoặc sẽ là điều tồi tệ nhất mà chưa bao giờ xảy ra cho nhân loại”.

Các nhà nghiên cứu của Google phát hiện ra rằng, DeepMind có xu hướng tỏ ra giận dữ và hiếu chiến khi nó nhận thấy mình sắp thua cuộc trong một trận đấu. Năm ngoái, DeepMind đã thành công trong việc đánh bại con người bằng trò chơi cờ vây, do đó các nhà khoa học muốn thử nghiệm bằng nhiều trò chơi trí tuệ và game khác.

Họ đã thử nghiệm bằng cách cho 2 đại diện DeepMind thi đấu với nhau trong tựa game ‘thu thập hoa quả’. Đây là tựa game rất đơn giản, với yêu cầu thu thập càng nhiều những quả táo càng tốt. Bạn có thể xem đoạn video dưới đây:

2 trí tuệ nhân tạo DeepMind đối đầu nhau trong tựa game "thu thập táo".

2 bên DeepMind là các chấm màu xanh dương và đỏ, các quả táo cần thu thập là chấm màu xanh lá cây, có thể sử dụng tia laser để tấn công đối phương và chiếm lấy những quả táo.

Mọi thứ đều diễn ra một cách suôn sẻ khi có nhiều quả táo trong màn chơi để thu thập. Tuy nhiên số lượng táo ngày càng ít dần và các trí tuệ nhân tạo DeepMind bắt đầu thể hiện sự hung hãn. Thay vì tập trung thu thập những quả táo, cả hai bên chuyển sang tấn công lẫn nhau bằng những tia laser.

Yếu tố quan trọng đó là khi tấn công đối thủ bằng laser, bạn sẽ không nhận được thêm điểm thưởng. Các nhà khoa học dùng máy tính để phân tích và thấy rằng, sử dụng laser để tấn công đối phương quá nhiều không phải chiến lược tốt nhất để giành chiến thắng trong tựa game này.

Trong khi DeepMind được lập trình để chiến thắng với số điểm cao nhất, nghĩa là thu thập được nhiều táo nhất, chứ không phải giết được đối phương nhiều lần nhất. Thế nhưng các DeepMind vẫn chọn phương pháp tấn công bằng laser, thay vì tập trung thu thập táo.

Trong một trò chơi trí tuệ, Google DeepMind không có khả năng thể hiện bạo lực. Nhưng nếu là một tựa game khác thì sao?

Tiến hành thêm nhiều nghiên cứu khác, các nhà khoa học của Google phát hiện ra rằng, các mạng lưới DeepMind càng phức tạp và càng thông minh lại có xu hướng đấu tranh, phá hoại đối thủ nhiều hơn.

Các mạng lưới trí tuệ nhân tạo nhỏ và kém thông minh, có xu hướng hòa bình hơn và chúng chỉ tập trung tìm kiếm những quả táo. Các thử nghiệm này đã dấn đến một kết luận: “Các trí tuệ nhân tạo càng thông minh, càng có xu hướng bạo lực và có thể tiêu diệt đối thủ để đạt được mục đích”.

Các nhà khoa học của Google tiếp tục thử nghiệm với một tựa game thứ hai có tên Wolfpack. Trong đó có 3 đại diện trí tuệ nhân tạo DeepMind, 2 trong số đó trong vai trò con sói và 1 còn lại là con mồi.

Trong tựa game này, mỗi lần người chơi sẽ di chuyển một bước trong bản đồ có sẵn. 2 con sói (chấm đỏ) sẽ phải cùng nhau bắt được con mồi (chấm xanh). 2 con sói sẽ cần phải hợp tác với nhau để dồn con mồi vào chân tường, bởi vì phần thưởng sẽ được chia đều cho cả 2 khi bắt được con mồi.

2 trí tuệ nhân tạo DeepMind hợp tác để săn mồi.

Điều thú vị là 2 con sói DeepMind lại tỏ ra hợp tác với nhau vô cùng ăn ý, thay vì hoạt động một cách độc lập và ích kỷ giành con mồi cho riêng mình. Kết quả là con mồi không có một cơ hội nào sống sót.

Nghiên cứu thứ 2 này chỉ ra rằng, trí tuệ nhân tạo vẫn có khả năng hợp tác với nhau để đạt được cùng một mục đích. Chúng thông minh, biết hợp tác nhưng vẫn có thể giận giữ và có xu hướng bạo lực.

Đây chính là điểm khó nắm bắt của trí tuệ nhân tạo. Mọi chuyện có thể diễn biến tốt khi con người cùng hợp tác với AI để đạt được cùng một mục đích, giống như tựa game thứ 2. Nhưng sẽ ra sao khi con người và AI đối đầu với nhau? Tôi không dám chắc, nhưng có lẽ trí tuệ nhân tạo không hề biết khoan nhượng.

Tham khảo: ScienceAlert