Hiểm họa từ trào lưu "hồi sinh" người thân đã khuất bằng AI: Sẽ ra sao nếu AI gọi bạn "xuống đoàn tụ" với họ?

Chỉ còn vài ngày nữa là Trung Quốc bước vào Lễ Thanh Minh, hay còn được gọi là Ngày tảo mộ. Theo truyền thống, đây là dịp lễ lớn nhất năm để người Trung Quốc tưởng nhớ đến ông bà, tổ tiên và những người thân đã khuất của mình.

Trong Lễ Thanh Minh, người ta sẽ đến thăm nghĩa trang, dọn dẹp mộ phần cho người mất, cúng kiếng đồ ăn và đốt vàng mã.

Nhưng vào Lễ Thanh Minh năm nay, rơi vào ngày 26/2 Âm lịch này, hàng loạt công ty công nghệ tại Trung Quốc đang quảng cáo một dịch vụ hoàn toàn mới: Đưa người thân trở về từ thế giới bên kia, dựa trên các công cụ trí tuệ nhân tạo (AI).

Tìm kiếm nhanh trên nền tảng mua sắm trực tuyến lớn nhất Trung Quốc, Taobao, với các từ khóa như "AI, hồi sinh, cuộc sống kỹ thuật số", bạn sẽ thấy hàng trăm kết quả, trong đó, các công ty đang chào bán đủ loại dịch vụ "hồi sinh" với giá cả từ thấp đến cao.

Chỉ cần trả từ 99 Nhân dân tệ, tương đương với 340.000 VNĐ, khách hàng đã có thể nghe lại giọng nói của người thân đã khuất của mình và trò chuyện điện thoại với họ. Với giá 198 Nhân dân tệ, tương đương 680.000 VNĐ, bạn sẽ được xem video hoặc gọi Facetime với người thân ở thế giới bên kia. 

Cuối cùng, với 498 Nhân dân tệ, tương đương 1,7 triệu VNĐ, một ứng dụng di động sẽ "làm sống lại" bất kỳ ai dưới dạng một phiên bản kỹ thuật số, có khả năng nói chuyện, tương tác và thường xuyên an ủi những người thân đang đau buồn vì cái chết của họ.

Seakoo Wu, một người đàn ông trung niên Trung Quốc rút chiếc điện thoại trong túi mình ra khi đang đứng giữa một nghĩa trang tĩnh lặng ở Chiết Giang. Ông bật một phần mềm rồi đặt chiếc điện thoại lên phần mộ của đứa con trai 22 tuổi đã qua đời của mình.

Chiếc điện thoại sau đó phát ra giọng nói của cậu thiếu niên trẻ, pha chút ngữ âm của robot: "Con biết ngày nào bố mẹ cũng vì con mà vô cùng đau khổ. Rồi bố mẹ lại tự dằn vặt mình, cảm thấy có lỗi và bất lực khi nhìn con ra đi.

Nhưng bố mẹ ơi, dù thân xác con không thể ở bên bố mẹ được nữa, linh hồn con vẫn còn ở thế giới này và luôn dõi theo bố mẹ suốt đời. Con hi vọng sẽ được tiếp tục đồng hành cùng bố mẹ cùng với tình yêu thương ấm ấp. Cái chết không phải là điểm tận cùng của tình thương. Cả nhà ta hãy đoàn tụ cùng nhau, trong thế giới metaverse này nhé".

Trên thực tế, đó là những lời mà Yuanmo, con trai của ông Wu chưa bao giờ nói ra. Cậu bé đã mất từ năm 2022, sau một cơn đột quỵ khi còn đang du học ở Vương Quốc Anh.

"Thằng bé ngoan lắm. Nó lúc nào cũng muốn giúp đỡ mọi người", ông Wu kể về cậu, Yuanmo, từng theo học chuyên ngành tài chính kế toán ở Đại học Exeter, thích thể thao và thậm chí đã đăng ký hiến tạng sau khi qua đời.

Không chịu đựng nổi mất mát trước sự ra đi của cậu con trai duy nhất, ông Wu và vợ đã tìm đến sự giúp đỡ của AI Super Brain, một công ty cung cấp dịch vụ "hồi sinh" người quá cố ở Nam Kinh, Trung Quốc.

Mục tiêu của gia đình Yuanmo là có thể xây dựng được một bản sao kỹ thuật số của cậu bé, giúp họ có thể trò chuyện qua điện thoại và nhìn thấy hình ảnh của con mình mỗi ngày.

Để làm được điều đó, ông Wu đã thu thập toàn bộ hình ảnh, video, băng ghi âm của con trai mình và gửi nó đến cho AI Super Brain. Các kỹ thuật viên ở công ty này sau đó sẽ sử dụng một loạt công cụ AI như "deepfake" để học từ hình ảnh, video và băng ghi âm nhằm tái tạo lại khuôn mặt và giọng nói của Yuanmo.

Sau đó, họ sử dụng một mô hình ngôn ngữ giống ChatGPT để học giọng nói, ngữ điệu và phong cách trò chuyện của cậu sinh viên 22 tuổi. Mô hình tổng hợp sẽ được đưa vào một ứng dụng điện thoại.

Yuanmo bây giờ đã "sống lại" dưới một phiên bản kỹ thuật số, có thể trò chuyện, tương tác và an ủi bố mẹ mình, những người còn sống và chưa chấp nhận sự ra đi của cậu.

"Một khi chúng tôi có thể đồng nhất thế giới hiện thực với thế giới ảo, tôi sẽ có thể gặp lại con trai của mình. Thậm chí tôi có thể huấn luyện cho bản sao của nó nhận ra mỗi khi nhìn thấy tôi. Nó sẽ nhận ra tôi là bố của nó", ông Wu nói.

Gia đình Yuanmo chỉ là một trong số hàng ngàn khách hàng đã tìm đến AI Super Brain để hồi sinh người thân đã mất của họ.

Zhang Zewei, nhà sáng lập công ty cho biết cứ mỗi dịp Lễ Thanh Minh là AI Super Brain sẽ nhận được từ 40-50 đơn hàng mỗi ngày. Một nửa trong số đó là những bậc cha mẹ mất con ở tuổi trung niên và không có cách nào khác để vượt qua nỗi đau của mình.

Một trường hợp thường thấy khác là khi khách hàng mất đi bạn đời, vợ hoặc chồng, và hàng đêm vẫn nhớ nhung đến họ. Những người này chỉ muốn nghe lại giọng nói, nhìn thấy hình ảnh dù là thoáng qua của người thân trên điện thoại.

Một số lượng lớn khách hàng nữa là những người trẻ, muốn gặp ông hoặc bà của mình, đôi khi là bố mẹ vì họ đã qua đời từ khi còn rất trẻ. 

"Có rất nhiều nhu cầu xoa dịu cảm xúc ở Trung Quốc", Zhang nói trong một căn studio là trụ sở công ty của anh, rộng chỉ chừng 20 mét vuông. "Và điều này mang lại cho chúng tôi lợi thế về mặt thị trường".

Kể từ khi thành lập vào năm ngoái, AI Super Brain đã nhận được hơn 1.000 đơn hàng, mang về tổng doanh thu ở mức triệu đô. Tùy theo lượng dữ liệu đầu vào và chất lượng phiên bản "hồn ma" AI được hồi sinh, Zhang sẽ tính phí trung bình từ vài nghìn đến 10.000 Nhân dân tệ (tương đương 34 triệu VNĐ).

AI Super Brain sử dụng Alibaba Cloud để lưu trữ dữ liệu, Wenxin Yiyan Model 4.0 của Baidu để tạo ra các mô hình đối thoại, card đồ họa NVIDIA RTX 4090 để dựng mô hình "hồi sinh", chạy trên một số phần mềm mã nguồn mở được Zhang giữ kín như bí mật thương mại.

Với hệ thống này, AI Super Brain mất 7 ngày để "hồi sinh" một người đã khuất, dựa trên khoảng 20-30 phút mẫu ghi âm lời nói của họ và 1-2 phút mẫu video. Chi phí trung bình là 4.000-5.000 Nhân dân tệ (tương đương 17 triệu VNĐ).

Thế nhưng, Zhang cho biết với cỡ mẫu càng nhỏ thì thời gian sản xuất càng dài và chi phí nhân công, kỹ thuật sẽ càng cao. 

Chẳng hạn chỉ từ một bức ảnh và vài giây giọng nói, AI Super Brain vẫn có thể làm hồi sinh một người. Nhưng thời gian sẽ mất tới nửa tháng, đồng thời chi phí công nghệ và nhân công sẽ tốn khoảng 7.000 đến 8.000 Nhân dân tệ (tương đương 27 triệu VNĐ).

Tất nhiên, cỡ mẫu càng cao thì hình ảnh kỹ thuật số sẽ càng chân thực. Với những đơn hàng lớn, AI Super Brain sẽ nạp vào dữ liệu thu thập được trong hàng tháng, thậm chí hàng năm cuộc đời người đã khuất để tạo ra nhiều phiên bản "hồn ma" AI siêu thực.

Đó là một người mẹ đã khuất nhưng vẫn có thể gọi điện Facetime bất chợt để nhắc nhở đứa con của bà ấy ăn cơm đúng giờ và đi ngủ sớm. Một đứa trẻ mất vì tai nạn giao thông vẫn có thể hiện lên điện thoại và làm nũng bố mẹ, đòi dẫn mình đi công viên.

Một người con đi làm công nhân xa quê, đã mất vì tai nạn lao động, vẫn có thể gọi điện thoại về nhà để hỏi thăm sức khỏe của người bà, hứa sẽ gửi quà về mỗi dịp Tết và Trung Thu.

Đối với nhiều người già sử dụng dịch vụ này, nhất là khi gia đình muốn giấu chuyện một người thân của họ đã qua đời từ lâu, họ thậm chí không phân biệt được người đang nói chuyện với họ trên điện thoại thực ra đã mất.

Zhang cho biết anh có thể tái tạo lại tất cả cảm xúc, nét mặt, cử chỉ, giọng điệu của một người gần giống y như thật, chỉ cần có đủ dữ liệu. Những đơn hàng chi tiết nhất mà AI Super Brain từng nhận có giá lên tới 100.000 Nhân dân tệ (tương đương 350 triệu VNĐ).

Trung bình, lợi nhuận gộp trên mỗi đơn hàng của công ty là 50-60%, lợi nhuận ròng là 30-40%.

AI Super Brain không phải là công ty duy nhất cung cấp dịch vụ "hồi sinh" người đã khuất tại Trung Quốc. Tháng 12 năm ngoái, Fu Shou Yuan, tập đoàn dịch vụ tang lễ lớn nhất nước này cũng đã ra mắt sản phẩm "Tang lễ AI".

Trong đó, gia đình người đã khuất có thể cung cấp hình ảnh, video, bản ghi âm hoặc bất cứ câu chuyện nào về người quá cố của họ. Fu Shou Yuan sau đó sẽ tái tạo lại một phiên bản kỹ thuật số của người đã khuất, cho phép họ xuất hiện lại trong tang lễ, hoặc lễ tưởng niệm của chính mình.

Tang Yang, giám đốc truyền thông của Fu Shou Yuan, giải thích tầm quan trọng của sáng kiến này: "Công nghệ AI có thể tái tạo giọng nói, ngoại hình, đặc điểm và thậm chí cả kiểu suy nghĩ của người đã khuất cho 'con người kỹ thuật số'.

'Con người kỹ thuật số' sẽ an ủi những người đang đau buồn và giảm bớt nỗi thống khổ của họ, bảo vệ hình ảnh và nối dài di sản tinh thần gia đình mà họ đã xây dựng. Công nghệ này nhằm mang lại niềm an ủi cho những gia đình đau buồn, mang đến cho họ một cách mới để tưởng nhớ và tôn vinh những người thân yêu của họ".

Trong khi đó, Silicon Intelligence, một công ty có trụ sở tại tỉnh Giang Tô cũng đã đạt được một hợp đồng với Huawei, cho phép họ truy cập vào mô hình ngôn ngữ lớn Pangu của gã khổng lồ công nghệ Trung Quốc này.

Mục tiêu của Silicon Intelligence là sử dụng hình ảnh và các tập dữ liệu mô hình ngôn ngữ lớn (LLM) để tạo ra các phiên bản "bất tử kỹ thuật số" của con người. Công ty tuyên bố họ có thể làm điều đó cho bất kỳ ai, chỉ cần họ cung cấp một video của người thân quá cố có độ dài khoảng 1 phút.

Sun Kai, người sáng lập và phó chủ tịch của Silicon Intelligence, nói với giới truyền thông Trung Quốc rằng anh đã nhen nhóm ý tưởng này từ năm 2018, sau khi mẹ anh qua đời.

Sun cảm thấy hối hận vì không thể thể hiện tình yêu của mình với bà nhiều hơn. Bây giờ, anh đã có thể sử dụng dịch vụ của công ty để tạo ra một phiên bản kỹ thuật số của người mẹ trên điện thoại. Mẹ anh có thể nói chuyện với anh hàng ngày qua video chatbot. Nhờ đó, Sun cảm thấy rất được an ủi.

Theo dữ liệu từ iMedia Research, quy mô thị trường "hồi sinh" người đã khuất bằng AI ở Trung Quốc đã đạt 12,08 tỷ Nhân dân tệ (tương đương 1,6 tỷ USD) vào năm 2022, đồng thời đẩy quy mô thị trường các dịch vụ ăn theo lên 186,61 tỷ Nhân dân tệ (tương đương 25 tỷ USD).

Người ta ước tính rằng đến năm 2025, quy mô thị trường cốt lõi của con người kỹ thuật số ảo sẽ đạt 48,06 tỷ Nhân dân tệ (tương đương 6,6 tỷ USD) và quy mô thị trường xung quanh có thể đạt gần 640,27 tỷ Nhân dân tệ (tương đương 88 tỷ USD).

Không chỉ tại Trung Quốc, các dịch vụ "hồi sinh" người đã khuất bằng AI đang chinh phục nhiều thị trường khác trên thế giới. Chẳng hạn như tại Mỹ, một công ty tên là HereAfter AI đang cung cấp dịch vụ tạo bản sao kỹ thuật số cho những người muốn lưu trữ lại bản thân họ trước khi chết.

Khách hàng của HereAfter AI sẽ chủ động đến công ty để được quay video, quét hình ảnh, đồng thời trải qua hàng giờ phỏng vấn để thu thập dữ liệu lưu trữ. Họ sẽ được hỏi về mọi thứ, từ ký ức khi còn nhỏ, buổi hẹn hò đầu tiên, những kỷ niệm trong đời cho đến cả những gì họ tin sẽ xảy ra sau khi họ chết.

Mục tiêu là tạo ra được một bản sao kỹ thuật số hoàn hảo cho khách hàng, và bản sao này sẽ sống bất tử với những người thân ở lại.

StoryFile, một công ty khởi nghiệp khác đang cung cấp dịch vụ tương tự HereAfter AI, nhưng người sử dụng nó có thể trả lời các buổi phỏng vấn ngay tại nhà, bằng máy tính có webcam và micro, hoặc thậm chí ngay trên điện thoại thông minh của họ.

Sau khi tải tệp lên, StoryFile sẽ xử lý và biến những dữ liệu này thành một phiên bản kỹ thuật số của người mà bạn có thể nhìn thấy và nói chuyện, thông qua giao diện giống các dịch vụ video call.

Và nếu bạn theo dõi giới showbiz Âu Mỹ những năm gần đây sẽ biết, vào sinh nhật lần thứ 40 của Kim Kardashian, cô ấy đã được chồng Kanye West tặng cho một phiên bản hồi sinh dạng ảnh ba chiều của người cha đã khuất, Robert Kardashian.

Kim Kardashian đã rất vui mừng trước sự xuất hiện của bố cô giữa bữa tiệc sinh nhật của mình. Ai mà không vui sướng khi một lần nữa được nhìn thấy, nghe tiếng và trò chuyện cùng một người thân đã khuất từ lâu?

Thế nhưng, sự phổ biến của các công nghệ "hồi sinh" người đã khuất bằng AI khiến các nhà khoa học bây giờ phải tự hỏi: Liệu nó có mặt trái gì hay không?

Một nghiên cứu trên tạp chí Ethics and Information Technology xuất bản hồi tháng 1 cho biết, trong khi việc hồi sinh người chết dưới dạng công nghệ AI có thể đem lại cảm giác an ủi và hỗ trợ tâm lý nhất thời, nó không nên là một liệu pháp lâu dài khiến người dùng bị phụ thuộc vào nó.

Yi Zeng, tác giả nghiên cứu đến từ Viện Triết học, Viện Hàn lâm Khoa học Trung Quốc, Bắc Kinh, Trung Quốc lập luận các "hồn ma" AI có thể gây tổn hại sức khỏe tâm thần của con người bằng việc can thiệp vào quá trình đau buồn.

Sự đau buồn cần có thời gian để chữa lành và quá trình chữa lành tự nhiên đó được chia thành nhiều giai đoạn, có thể diễn ra trong nhiều năm. Khi mới mất người thân, những người đang đau buồn có thể thường xuyên nghĩ đến người thân đã khuất của mình. Họ có thể nhớ lại những kỷ niệm cũ và việc một người đang đau buồn gặp lại một người thân đã mất trong mơ là điều khá bình thường.

Thế nhưng, sinh thời nhà phân tâm học Sigmund Freud từng nghiên cứu cách con người phản ứng với trải nghiệm mất mát. Ông chỉ ra sự đau buồn có thể gia tăng nều cái chết của người thân gắn với những yếu tố tiêu cực.

Ví dụ, nếu một người có mâu thuẫn với ai đó mới chết, người đó có thể bị dằn vặt bởi cảm giác tội lỗi. Hoặc nếu một người chết trong hoàn cảnh khủng khiếp như một vụ giết người, một người đau buồn có thể khó chấp nhận điều này hơn.

Freud gọi trạng thái khó chấp nhận này là "u sầu", nhưng nó cũng có thể được gọi là "nỗi đau buồn phức tạp". Trong một số trường hợp cực đoan của nỗi u buồn phức tạp, một người có thể gặp hiện tượng ảo giác khi họ nhìn thấy người chết "hiện hồn" về và bắt đầu tin tưởng rằng họ thực ra vẫn đang còn sống.

Các mô hình "hồi sinh" người chết bằng AI hiện nay có thể lặp lại hiện tượng mà Freud đã mô tả. Nó có thể gây tổn thương thêm cho những người đang trải qua cái mà ông gọi là "nỗi đau buồn phức tạp", và có thể làm trầm trọng thêm vấn đề ảo giác.

Đồng ý với nhận định của Yi Zheng, Shen Yang, một giáo sư tại Đại học Thanh Hoa cho biết: "Mặc dù mục đích ban đầu của những bản mô phỏng người thân đã mất bằng AI này là để hỗ trợ tâm lý, nhưng chúng không thể nào đại diện hoàn toàn cho một con người thật ngoài đời.

Loại dịch vụ này có thể khiến một số khách hàng hiểu lầm và cho rằng họ thực sự có thể giao tiếp với những người thân đã khuất của mình. Bản thân quá trình giao tiếp này có thể gây ra tổn thương tâm lý và sự phụ thuộc, thậm chí cản trở quá trình đau buồn xảy ra một cách tự nhiên.

Ảnh hưởng lâu dài của những dịch vụ như vậy cần phải được xem xét, bao gồm cả việc liệu chúng có thể góp phần tạo nên sự gắn bó không lành mạnh với những người thân yêu đã qua đời hay không?".

Còn theo Nigel Mulligan, một Phó Giáo sư về Tâm lý trị liệu, tại Đại học Thành phố Dublin, Ireland cho biết, một trong số những nguy cơ lớn nhất mà những "hồn ma" AI có thể tạo ra là nó sẽ đưa ra những gợi ý có hại cho người đang chịu tang.

"Sẽ rất đau lòng nếu một người cha đã khuất bị con trai hoặc con gái biến thành một hồn ma AI khi nghe những lời nhận xét rằng họ không được yêu thương, hoặc không được cha cưng chiều. Hay trong một tình huống cực đoan hơn, nếu hồn ma AI đề nghị người dùng cùng chết với họ hoặc họ nên giết hoặc làm hại ai đó".

Khả năng đó hoàn toàn có thể xảy ra với công nghệ AI hiện tại. Vào năm ngoái, ChatGPT đã bị chỉ trích rộng rãi vì cung cấp thông tin không chính xác cho người dùng. Trong khi đó, chatbot của Bing đã làm đủ cách để khuyên Kevin Roose, một nhà báo thử nghiệm nó, nên bỏ vợ.

Những người tạo ra ChatGPT hiện thừa nhận rằng phần mềm của họ vẫn có nhiều lỗi và chưa hoàn toàn đáng tin cậy. Thỉnh thoảng AI này vẫn bịa đặt ra thông tin.

Vì vậy, ai biết được tin nhắn, email hoặc video của một người sẽ được diễn giải như thế nào trong các công nghệ AI "hồi sinh" người chết, và nó sẽ tạo ra nội dung gì?

Trong một kịch bản đáng sợ tại nghĩa trang ở tỉnh Chiết Giang, Trung Quốc, Seakoo Wu, người cha đã mất đứa con trai 22 tuổi của mình, có thể sẽ nghe thấy "hồn ma" AI của Yuanmo vẫy gọi: "Bố ơi, ở dưới này con lạnh lắm. Bố có thể xuống đây với con không?".

Điều này nghe có vẻ giống như cốt truyện của một bộ phim kinh dị nhưng thực sự không quá xa vời. Năm 2023, một người đàn ông ở Anh đã bị một "chatbot" mà anh ta xây dựng hình tượng như bạn gái của mình xúi giục ám sát Nữ hoàng.

Trường hợp này sau đó đã khiến Đảng Lao động Anh đã phải cấp tốc thông qua luật ngăn chặn đào tạo AI để kích động bạo lực.

Hiện tại, ở Trung Quốc chưa có bất kỳ luật nào quản lý thị trường "hồi sinh" người chết bằng AI. Chỉ có duy nhất một quy định về AI nói rằng dữ liệu và thông tin cá nhân của một người khi được sử dụng để tạo ra các phiên bản "deep fake" phải được sự cho phép của người đó.

Không hiểu một người đã khuất có thể tự cho phép họ sống lại dưới một phiên AI bằng cách nào? Trong tương lai, liệu họ có nên ghi điều đó vào di chúc hay không, về việc cho phép hay không cho phép người thân hồi sinh mình?

Về phần mình, Zhang Zewei, nhà sáng lập AI Super Brain cho biết bất kể công nghệ mới nào, bao gồm cả hồi sinh người chết bằng AI cũng là một "con dao hai lưỡi"

"Miễn là chúng tôi giúp đỡ được những người cần đến nó, chúng tôi thấy nó không có vấn đề gì", anh nói. Zhang cũng cho biết công ty của anh từng từ chối nhiều trường hợp mà cá nhân anh cho việc hồi sinh người thân của họ sẽ đem lại tác dụng tiêu cực.

Chẳng hạn, một người phụ nữ đã tìm đến AI Super Brain và yêu cầu hồi sinh con gái mình bằng AI. Zhang đã trực tiếp từ chối đề nghị này, sau khi anh biết người phụ nữ từng có ý định tự tử.

Khi đó, việc đem con gái cô ấy trở lại từ thế giới bên kia có thể tiềm ẩn nhiều nguy cơ, hơn là lợi ích mà cô ấy có thể nhận được. Lãng quên tự nhiên trong trường hợp này có lẽ mới là thứ lành mạnh.

Rõ ràng, có những người chết cần được yên nghỉ, và sự yên nghỉ của họ mới thực sự đem đến yên bình cho những người còn sống.

Tổng hợp