Mặt tối của Google Duplex: công nghệ tạo ra một trợ lý ảo nói chuyện giống người thật đến mức đáng sợ

Trước khi đi vào vấn đề, bạn nên biết hai thứ.

Đầu tiên, là màn giới thiệu Duplex, một tính năng thuộc Google Assistant. CEO Google, anh Sundar Pichai đã có một màn trình diễn thổi bay mọi kì vọng của người xem khắp nơi trên thế giới:

Và điều thứ hai, cho những bạn đọc chưa biết: Bài thử Turing – The Turing Test được phát triển bởi Alan Turing từ năm 1950. Về cơ bản, nó là một bài thử cho máy móc, xem chúng có khả năng biểu hiện sự thông minh ngang hàng con người, hay biểu hiện được những phẩm chất giống người, khiến con người không nhận ra được nó là máy móc.

Một người đứng ra áp dụng Bài thử Turing cho một cỗ máy sẽ đánh giá những cuộc hội thoại diễn ra, đánh giá tính chất tự nhiên của ngôn từ mà mà một cỗ máy nói ra. Vắn tắt là như vậy.

Có phải Google Duplex đã vượt qua được Bài thử Turing khi thực hiện những cuộc hội thoại ngắn với nhân viên hàng cắt tóc cũng như nhân viên nhà hàng? Cuộc hội thoại đã diễn ra rất tự nhiên: cực kì tự nhiên để lấy được những tràng vỗ tay hưởng ứng lớn từ phía khán giả và quá tự nhiên đến mức sẽ khiến cho nhiều người không thoải mái.

Những "ừm", những "ờm", những "ừ hứ", thậm chí cả cách ngắt nghỉ câu đều khiến người nghe êm tai một cách đáng ngạc nhiên và chẳng ai mảy may nghi ngờ mình đang nói chuyện với một trợ lý ảo,. Thực tế, họ đang nghe những từ ngữ được "mớm" cho bởi một hệ thống tính toán không cảm xúc. Quả thật, phải cúi mình bái phục Google khi làm ra được một trợ lý ảo thực đến thế: họ đã bỏ nhiều công sức để tạo nên được một hệ thống thực nhất có thể.

Trợ lý ảo kia đã có thể không ậm ừ để thêm thắt chút cảm xúc cho câu nói, nhưng nó vẫn đã làm thế (đúng hơn là vẫn được lập trình để làm thế).

Có thể khẳng định, đó là cuộc hội thoại giữa người và máy thật nhất tôi từng được nghe, và có lẽ đây là giới hạn gần vượt qua Bài thử Turing nhất mà một cỗ máy từng đạt được. Ngày đó, Turing đã nói rằng tới năm 2000, máy tính có thể đánh lừa người đang đàm thoại với mình, rằng chúng là một con người khác, với tỉ lệ thành công là 30%. Ông đã đúng, khi mà hồi năm 2014, một con chatbot có tên Eugene Goostman đã thành công trong việc "giả danh" một cậu bé lập trình 14 tuổi, sau nhiều đoạn chat dài với nhiều người khác nhau.

Cũng giống với hai điều bạn cần biết ở đầu bài viết, ta rút ra được hai mặt trái ngược của đồng xu mang tên Google Duplex.

Mặt ngửa, ta có bước phát triển thần kì của công nghệ. Với machine learning, deep learning, công nghệ speech-to-text ngày một hoàn thiện và với nhiều năm trời lắng nghe giọng nói của người dùng, Google đã tạo ra Duplex tốt đến mức này. Video demo trên đã cho bạn thấy rõ điều đó.

Đảm bảo bạn cũng sẽ bị lừa nếu như trò chuyện với con bot này qua điện thoại. Nó tốt đến vậy đó.

Không nghi ngờ gì công việc của chúng ta sẽ dễ dàng hơn nhiều, đúng như những gì Sundar Pichai đã nói trên sân khấu, đúng với mục đích của Google vẫn hướng tới.

Nhưng mặt sấp có vẻ nghiêm trọng hơn ta tưởng nhiều, từ đó đã dấy lên những câu hỏi về khía cạnh nhân đạo của hệ thống Duplex quá giống người thật này.

Những nhà phê bình công nghệ vốn vẫn coi AI ít nhiều là một mối đe dọa có lẽ đã không hé nổi một nụ cười khi theo dõi Google I/O. Nhà phê bình Zeynep Tufekci đã không ngần ngại gọi buổi trình diễn demo Duplex với những từ ngữ nặng nề như "đáng kinh sợ", "lệch lạc về nhân đạo", "tệ hại" và "hiển nhiên là sai trái".

"Thung lũng Silicon đã chẳng học được điều gì", bà kết luận như vậy.

Đáng lo ngại thay khi họ đã huấn luyện được một AI nói chuyện bình thường với con người, mà người ở đầu dây bên kia không hề hay biết mình đang trò chuyện với một nhân vật vô tri.

Blogger công nghệ nổi tiếng Marques Brownlee cho rằng nếu bản thân anh làm việc trong ngành dịch vụ, anh sẽ muốn biết cá nhân ở đầu dây bên kia thực sự là ai. Chẳng cần có lý do xác đáng để biết điều đó: khi mà người nói chuyện biết được rằng đằng sau những cái "ậm ừ", ngắt nghỉ câu kia là một hệ thống máy móc đang phân tích ngôn ngữ, người ta sẽ cảm thấy không tự nhiên một cách kì lạ.

Tôi đang nói tới thuật ngữ Thung lũng Kì lạ - Uncanny Valley, nơi mà tại đó, vật vô tri sẽ chạm tới giới hạn gần giống hệt con người nhưng chưa chạm tới mức con người, và gây ra cho con người những cảm giác kì lạ và đôi phần kì quái.

4 mức là: Hoàn toàn máy móc - Ưa nhìn - Thung lũng Kì lạ - Giống người.

Chính Google cũng đồng tình với những điều đó, và người phát ngôn của Google đã nói với trang tin công nghệ The Verge như thế này:

"Chúng tôi hiểu rõ và đánh giá cao những bàn luận xoay quanh Google Duplex – và như chúng tôi đã nói từ đầu, tính minh bạch trong công nghệ là rất quan trọng.

Chúng tôi sẽ đảm bảo rằng hệ thống sẽ tự xưng danh. Những gì chúng tôi thể hiện ra tại I/O chỉ đơn thuần là một bản demo công nghệ thôi, chúng tôi rất mong muốn có những phản hồi khác nữa, song song với việc phát triển công nghệ này thành một sản phẩm cụ thể".

Đó cũng là một bài toán khó mà Google sẽ phải giải: làm sao để người giao tiếp tiếp tục trò chuyện với một hệ thống trợ lý ảo, khi đã biết rằng đó là trợ lý ảo? Sẽ không ít người dùng sẽ dập máy khi nghĩ rằng đầu dây bên kia là một hệ thống vô tri đang đưa ra yêu cầu cho mình.

Google Assistant. Ảnh minh họa từ The Verge.

Đôi lời kết cho những tiến bộ công nghệ đi kèm với những khía cạnh đạo đức.

Trước hết, hai cuộc hội thoại mà Google Duplex đã thực hiện quá ngắn để có thể là một Bài thử Turing đạt chuẩn, nên có thể kết luận luôn là không, Duplex chưa vượt qua Bài thử huyền thoại này. Thực sự thì ai cũng tò mò xem nếu cuộc hội thoại tiếp diễn, người đầu dây bên kia có nhận ra sự khác lạ trong cách trò chuyện của trợ lý ảo không.

Nhưng qua đó, ta cũng cần phải xem xét lại về chặng đường phát triển trí tuệ nhân tạo hiện tại. Ta đã đi được rất xa, không phủ nhận điều đó, nhưng ta sẽ nên đi bao xa và đến lúc nào, ta cần những quy tắc chế tạo trí tuệ nhân tạo và một ban giám sát những bước phát triển mà đến giờ, vẫn như một quả tên lửa lao về phía trước nhưng không có ai chèo lái.

Không biết Alan Turing sẽ nghĩ gì khi chứng kiến Google Duplex trình diễn trên sân khấu của Google I/O.