Chuyên gia bày tỏ lo ngại khi biết có 2 sinh viên đã lập trình cho hệ thống AI cách tiêu diệt con người

Một cuộc thi vừa được tổ chức, một cuộc tranh tài giữa các trí tuệ nhân tạo AI với nhau trong trò chơi Doom phiên bản cổ điển đã cho chúng ta thấy AI đáng sợ tới mức nào. Nhiều người coi đây là mối lo ngại.

Trong cuộc thi ấy, đa số đội tham dự sẽ tạo nên một hệ thống AI để chiến đấu với nhau trong một trận đấu mạng LAN. Nhưng điều đáng chú ý và được nhiều người quan tâm là, có hai cậu sinh viên đã đăng tải một bản nghiên cứu online (bản nghiên cứu vẫn chưa được các nhà khoa học xem xét và kết luận), mô tả chi tiết về cách mà hệ thống AI họ tạo ra đã tiêu diệt được một người chơi thực ra sao

Hai cậu sinh viên đó là Devendra Chaplot và Guillaume Lample đang theo học chuyên ngành khoa học máy tính tại Đại học Carnegie Mellon. Họ đã sử dụng deep learning để “dạy dỗ” cho hệ thống này cách di chuyển trong môi trường 3D của Doom và tiêu diệt địch thủ như thế nào. Họ đặt tên cho nó là Arnold.

Bằng việc chơi đi chơi lại nhiều lần, Arnold trở thành một “chuyên gia săn người” trong Doom, mặc dù đó là hệ thống AI của máy, hay là một người chơi thực.

Trước đây, các nhà nghiên cứu mới chỉ thành công trong việc dạy AI cách chơi thuần thục các trò 2D hay những trò chơi bàn (như cờ vua, cá ngựa, ... là những trò chơi bàn). Nghiên cứu này cho thấy AI đã có thể đặt chân lên được lĩnh vực game 3D.

“Trong báo cáo nghiên cứu này, chúng tôi đã thể hiện cách Ai đã đối mặt với môi trường 3D như thế nào, với một game góc nhìn thứ nhất. Chúng tôi cho thấy rằng hệ thống AI được xây nên này đã vượt trội hơn so với những hệ thống AI có sẵn trong game, cũng như những đối thủ là con người khác”.

Hãy xem cách AI chơi Doom như thế nào, liệu bạn có thể chiến thắng được nó không?

Không phủ nhận rằng đây là một bước tiến trong lĩnh vực trí tuệ nhân tạo, nhưng việc huấn luyện một AI để nó học cách coi con người là đối thủ và tìm cách tiêu diệt đối thủ của mình đã khiến nhiều người chỉ trích.

Nhà báo Scott Eric Kaufman nói rằng điều nguy hiểm không phải là AI tìm và tiêu diệt một người chơi, mà là nó đã được thiết kế để di chuyển trong một thế chơi 3D như con người trong thế giới thực. Một hệ thống như vậy có thể được dễ dàng chuyển từ nền tảng này ra nền tảng khác.

“Tôi sợ rằng vì nó đã được thiết kế để ‘tìm và diệt’ trong trò chơi, rồi sẽ được mức thưởng cao hơn khi giết được nhiều hơn, thì việc nó bước ra đời thực sẽ thực sự đáng ngại. Nó sẽ không ‘thỏa mãn’ khi giết xong một người và nó sẽ phải tìm tiếp những mục tiêu mới”. Đúng như những gì nó đã được lập trình vậy.

Dù rằng việc hệ thống trí tuệ nhân tạo Arnold bước ra ngoài đời thật là khó khả thi (Terminator?) nhưng rõ ràng là nó khiến nhiều người lo ngại,

Thậm chí hệ thống AI này còn có tên là Arnold.

Nhiều cộng đồng khoa học máy tính cho rằng AI mà không được điều khiển một cách thích đáng thì đó sẽ là mối nguy hiểm cho con người. Hơn nữa hệ thống này còn được dạy cách tiêu diệt đối phương qua môi trường giả lập.

Năm ngoái, rất nhiều chuyên gia robot và AI đã lên tiếng ủng hộ việc cấm những hệ thống vũ khí tự động. Chỉ cách đây không lâu, một liên minh những ông lớn ngành công nghệ (gồm có Google, Facebook, Microsoft, Amazon và IBM) đã lập ra một liên minh nhằm điều hướng phát triền AI vào đúng hướng.

Điều đó làm chúng ta nhớ đến Luật Robot của nhà tiểu thuyết giả tưởng nối tiếng Isaac Asimov, với luật đầu tiên là “Một con robot không được làm hại con người, hay bằng việc không hành động mà khiến con người gặp tổn thương”.

Nhưng, phải xác định rằng hệ thống AI mà hai cậu sinh viên kia phát triển không định hướng một nguy hại cụ thể nào tới con người. Người ta chỉ bị tiêu diệt trong game chứ không phải ngoài đời thực.

Trong cuộc thi AI chơi Doom nói trên, có sự tham gia của cả hai ông lớn đã thành lập liên minh định hướng AI kia, đó là Facebook và Intel. Điều “đáng lo” là cả hai hệ thống AI của họ đứng đầu trong 2 màn bắn. Và một điều “đáng lo hơn”, Arnold chỉ xếp thứ 2 sau hai địch thủ kia, ở cả 2 màn. Có thể gọi Arnold là “kẻ về nhì vĩ đại”?

Chaplot và Lample, bất chấp những lời chỉ trích, nói rằng họ không làm gì sai cả. “Chúng tôi không tạo ra nó để giết người. Chúng tôi chỉ đơn giản huấn luyện nó để chơi game mà thôi”.

Tham khảo ScienceAlert