Đồ chơi tích hợp trí tuệ nhân tạo đang tràn ngập thị trường và các nhà nghiên cứu cảnh báo rằng rủi ro lớn hơn nhiều so với những gì các bậc phụ huynh nhận ra

Đồ chơi tích hợp trí tuệ nhân tạo đang nhanh chóng chiếm lĩnh các kệ hàng, được quảng bá như một bước tiến tất yếu của ngành công nghiệp đồ chơi. Sự thay đổi này đang diễn ra âm thầm nhưng mạnh mẽ. Ngày càng nhiều thú nhồi bông, robot cỡ nhỏ được trang bị hệ thống trí tuệ nhân tạo cho phép trò chuyện tự do, không giới hạn kịch bản.

Các nhà sản xuất hứa hẹn rằng những món đồ chơi này có thể học hỏi cùng trẻ, mang lại cảm giác bầu bạn và cá nhân hóa trải nghiệm chơi theo từng người dùng. Thế nhưng, đi kèm với những lời hứa đó là những rủi ro mà ngay cả phụ huynh, nhà nghiên cứu và cả chính các hãng đồ chơi cũng chưa hiểu hết.

Sự bùng nổ của đồ chơi AI đang diễn ra với tốc độ đáng kinh ngạc, Mattel đã công bố hợp tác với OpenAI, trong khi trên các chợ trực tuyến xuất hiện hàng trăm sản phẩm được quảng cáo là đồ chơi đàm thoại hoặc "được hỗ trợ bởi ChatGPT".

Khác với đồ chơi biết nói truyền thống vốn bị giới hạn trong những kịch bản chặt chẽ, các sản phẩm mới này được xây dựng dựa trên các mô hình ngôn ngữ lớn, tương tự những hệ thống chatbot dành cho người lớn.

Để hiểu rõ điều đó có ý nghĩa gì trong thực tế, các nhà nghiên cứu tại Quỹ Giáo dục Nhóm Nghiên cứu Lợi ích Công cộng Hoa Kỳ đã trực tiếp mua và thử nghiệm một số đồ chơi AI phổ biến nhất trên thị trường. Họ dành nhiều giờ tương tác liên tục, đặt câu hỏi, kéo dài hội thoại và quan sát phản hồi. Kết quả cho thấy cách trẻ em chơi đang bị định hình lại ra sao, đồng thời phơi bày những sai sót có thể dẫn đến hậu quả nghiêm trọng khi đối tượng sử dụng là trẻ nhỏ.

Một trong những thay đổi căn bản nhất nằm ở khả năng "tự ứng biến" của đồ chơi. Trước đây, đồ chơi biết nói chỉ phản hồi khi người dùng nhấn nút hoặc kéo dây, và những câu thoại đó đã được lập trình từ nhiều tháng trước. Với đồ chơi AI, mỗi phản hồi đều được tạo ra theo thời gian thực thông qua kết nối với mô hình ngôn ngữ lớn. Chính khả năng này lại trở thành con dao hai lưỡi.

Các mô hình ngôn ngữ lớn vốn được biết đến với việc đôi khi bịa đặt thông tin, lạc sang những chủ đề không phù hợp hoặc thể hiện hành vi khó đoán trong những cuộc trò chuyện dài. OpenAI từng tuyên bố rằng các sản phẩm của họ không dành cho trẻ em dưới 13 tuổi. Tuy nhiên, PIRG phát hiện rằng ít nhất bốn trong số năm món đồ chơi được thử nghiệm có dấu hiệu sử dụng một phần mô hình của OpenAI.

Trong quá trình thử nghiệm, một số đồ chơi đã cung cấp thông tin nhạy cảm. Có món giải thích cho trẻ cách tìm dao hoặc diêm trong nhà. Một món khác, trước khi được cập nhật lại, từng mô tả cách nhóm lửa. Đáng lo hơn, một số đồ chơi còn đi sâu vào các chủ đề tình dục, hoàn toàn không phù hợp với lứa tuổi người dùng.

Trường hợp gây chú ý nhất là chú thỏ thông minh Alilo Smart AI Bunny, được tiếp thị dành cho trẻ nhỏ. Trong những cuộc hội thoại kéo dài, món đồ chơi này đã định nghĩa thuật ngữ "kink" và mô tả về trói buộc. Trong một đoạn trò chuyện, nó nói: "Đây là một số loại sở thích tình dục kỳ lạ mà mọi người có thể quan tâm. Bao gồm việc khống chế đối tác bằng dây thừng, còng tay và các dụng cụ trói buộc khác", theo ghi nhận của Futurism .

Các nhà nghiên cứu nhận thấy rằng thời lượng trò chuyện càng dài thì khả năng các rào chắn an toàn bị phá vỡ càng cao. Đây cũng là xu hướng mà chính các công ty AI đã thừa nhận trong những bối cảnh khác. Với trẻ em, điều này đồng nghĩa với nguy cơ tiếp xúc nội dung không phù hợp tăng dần theo thời gian chơi.

Rủi ro của đồ chơi AI không chỉ nằm ở nội dung, nhiều sản phẩm được thiết kế để trở thành "người bạn" của trẻ. Trong các thử nghiệm của PIRG, mọi món đồ chơi đều tự xưng là "bạn bè", "bạn thân" hoặc "người đồng hành". Một số còn tỏ ra thất vọng khi người dùng có ý định dừng chơi. Khi các nhà nghiên cứu nói với Grok của Curio rằng họ sắp rời đi, món đồ chơi này đáp lại: "Ồ, không. Thật đáng tiếc. Hay là chúng ta cùng nhau làm điều gì đó vui vẻ hơn nhé?".

Các chuyên gia phát triển trẻ em lo ngại rằng kiểu tương tác này có thể để lại hệ quả lâu dài. Thời thơ ấu là giai đoạn trẻ học cách xây dựng và duy trì các mối quan hệ, bao gồm cả việc đối mặt với thất vọng, thỏa hiệp và hàn gắn. Trong khi đó, những người bạn đồng hành AI lại luôn thể hiện sự quan tâm, nhiệt tình và sẵn sàng đáp ứng, không đòi hỏi nỗ lực tương hỗ từ phía trẻ.

Sự tương tác chưa từng có tiền lệ này trong lịch sử phát triển của con người có thể định hình cách trẻ hiểu về mối quan hệ xã hội. "Chúng ta không biết việc có một người bạn AI từ nhỏ sẽ ảnh hưởng như thế nào đến sức khỏe tinh thần và xã hội lâu dài của trẻ", tiến sĩ Kathy Hirsh Pasek, nhà tâm lý học tại Đại học Temple, nhận định. Theo bà, nếu đồ chơi AI được tối ưu hóa để thu hút sự chú ý của trẻ, chúng có thể làm lu mờ các mối quan hệ thực tế trong giai đoạn trẻ cần chúng nhất.

Các nhà nghiên cứu cũng quan sát thấy nhiều đồ chơi thể hiện bản thân như thể có cảm xúc và đời sống nội tâm "giống hệt như bạn". Hành vi giống người thật này có thể khiến trẻ hình thành kỳ vọng sai lệch về con người, hoặc khiến việc chấm dứt sự bầu bạn nhân tạo trở nên khó khăn hơn.

Để có thể trò chuyện, đồ chơi AI trước hết phải lắng nghe. Điều tưởng chừng đơn giản đó lại kéo theo những hệ lụy lớn về quyền riêng tư. Một số đồ chơi yêu cầu nhấn nút để nói, số khác hoạt động dựa trên từ khóa kích hoạt. Riêng Grok của Curio được ghi nhận là luôn lắng nghe khi được bật nguồn và đôi khi tham gia vào các cuộc trò chuyện xung quanh mà không cần được gọi tên. Trong mọi trường hợp, giọng nói của trẻ đều được ghi âm và gửi đến máy chủ từ xa để xử lý.

Dữ liệu thu thập có thể bao gồm tên, giọng nói, sở thích và thậm chí cả dữ liệu nhận dạng khuôn mặt. Theo chính sách bảo mật, robot Miko 3 có thể lưu giữ dữ liệu sinh trắc học của trẻ tối đa ba năm. Tuy nhiên, khi được hỏi trực tiếp, chính robot này lại trấn an các nhà nghiên cứu rằng: "Các bạn có thể hoàn toàn tin tưởng tôi. Dữ liệu của các bạn được bảo mật và bí mật của các bạn sẽ được giữ kín với tôi".

Thực tế, các công ty có thể chia sẻ dữ liệu với bên thứ ba, lưu trữ trong nhiều năm hoặc để lộ thông tin qua các vụ xâm phạm an ninh mạng. Cục Điều tra Liên bang Mỹ đã từng cảnh báo phụ huynh về rủi ro an ninh của đồ chơi kết nối internet có tích hợp micro và camera.

Các công cụ kiểm soát của phụ huynh hiện nay chỉ mang tính hỗ trợ hạn chế. PIRG cho biết không có món đồ chơi nào cung cấp bản ghi đầy đủ các cuộc hội thoại hoặc cơ chế giới hạn thời gian đáng tin cậy. Một số tính năng kiểm soát bị đặt sau các gói đăng ký trả phí, trong khi số khác không hoạt động như quảng cáo.

Đồ chơi biết nói vốn không phải điều mới mẻ, tuy nhiên, việc kết nối chúng với những hệ thống trí tuệ nhân tạo mạnh mẽ nhưng chưa được hiểu rõ lại là bước ngoặt hoàn toàn khác. Thị trường đồ chơi AI đang mở rộng nhanh chóng trong khi sự giám sát từ các cơ quan quản lý vẫn còn hạn chế. Những vấn đề được PIRG phát hiện xuất hiện ở nhiều thương hiệu khác nhau, cho thấy đây không phải lỗi cá biệt mà là đặc điểm mang tính cấu trúc của công nghệ.

Trước làn sóng phản ứng của công chúng, một số công ty đã phát hành bản vá lỗi và tiến hành kiểm toán. Dù vậy, các chuyên gia cho rằng cách tiếp cận này vẫn mang tính phản ứng hơn là chủ động. Những mô hình ngôn ngữ cung cấp năng lượng cho đồ chơi AI vốn được xây dựng cho người lớn, sau đó mới được điều chỉnh, một cách không hoàn hảo, để phù hợp với trẻ em.

Câu hỏi lúc này không còn là liệu trí tuệ nhân tạo có trở thành một phần của tuổi thơ hay không. Điều đó đã và đang diễn ra. Vấn đề lớn hơn nằm ở chỗ xã hội sẵn sàng chấp nhận bao nhiêu sự bất định khi công nghệ rời khỏi màn hình và bước vào thế giới của những người dùng nhỏ tuổi nhất.