"Ác mộng" của nhiều nữ sinh khi bị bạn học cùng lớp dùng công cụ AI tạo ảnh khỏa thân

Gần một năm sau khi những hình ảnh khỏa thân giả mạo do AI tạo ra làm xôn xao một cộng đồng ở miền nam Tây Ban Nha, một tòa án dành cho vị thành niên mùa hè này đã tuyên phạt 15 học sinh, với mức hình phạt là một năm quản chế. Tuy nhiên, công cụ trí tuệ nhân tạo được sử dụng để tạo ra những bức ảnh giả mạo này vẫn dễ dàng truy cập trên internet, cho phép người dùng "lột đồ" bất kỳ bức ảnh nào chỉ trong vài giây.

Giờ đây, một nỗ lực mới nhằm đóng cửa ứng dụng này và các ứng dụng tương tự đang được thực hiện tại California (Mỹ), nơi thành phố San Francisco vừa đệ trình một vụ kiện lần đầu tiên thuộc loại này trong tuần này. Các chuyên gia cho rằng vụ kiện này có thể tạo ra một tiền lệ pháp lý quan trọng, nhưng cũng sẽ đối mặt với nhiều thách thức.

"Sự lan truyền của những hình ảnh này đã gây tổn hại cho vô số phụ nữ và trẻ em gái trên khắp thế giới," David Chiu, luật sư thành phố San Francisco, người đã khởi kiện vụ kiện chống lại một nhóm các trang web nổi tiếng có trụ sở tại Estonia, Serbia, Vương quốc Anh và nhiều nơi khác, cho biết.

"Những hình ảnh này được sử dụng để bắt nạt, làm nhục và đe dọa phụ nữ và trẻ em gái," ông nói trong một cuộc phỏng vấn với hãng tin AP. "Và tác động của chúng đến các nạn nhân là rất nghiêm trọng, ảnh hưởng đến danh tiếng, sức khỏe tâm lý, và trong một số trường hợp, khiến một số người có ý định tự tử."

Vụ kiện này được đệ trình thay mặt cho người dân California, cáo buộc rằng các dịch vụ này đã vi phạm nhiều luật của bang, bao gồm các hoạt động kinh doanh lừa đảo, phát tán nội dung khiêu dâm không có sự đồng ý và lạm dụng tình dục trẻ em. Tuy nhiên, việc xác định ai đứng sau các ứng dụng này là một thách thức lớn, vì chúng không có trên các cửa hàng ứng dụng điện thoại nhưng vẫn có thể dễ dàng tìm thấy trên internet.

Khi được liên hệ vào cuối năm ngoái, một trong những dịch vụ này cho biết qua email rằng "Giám đốc điều hành của chúng tôi hiện đang ở Hoa Kỳ và di chuyển nhiều nơi trong nước," nhưng không cung cấp bất kỳ bằng chứng nào hay trả lời các câu hỏi khác. AP đã quyết định không nêu tên cụ thể các ứng dụng đang bị kiện để tránh việc vô tình quảng bá cho chúng.

"Hiện có một số trang web mà chúng tôi chưa biết rõ ai là người điều hành và họ đang hoạt động từ đâu, nhưng chúng tôi có các công cụ điều tra và quyền triệu tập để tìm hiểu," Chiu cho biết. "Và chúng tôi chắc chắn sẽ sử dụng quyền lực của mình trong suốt quá trình tố tụng này."

Nhiều công cụ này đang được sử dụng để tạo ra những hình ảnh giả mạo "khỏa thân" từ các bức ảnh của phụ nữ trưởng thành, bao gồm cả người nổi tiếng, mà không có sự đồng ý của họ. Tuy nhiên, chúng cũng đã xuất hiện trong các trường học trên khắp thế giới, từ Úc đến Beverly Hills ở California, nơi các nam sinh tạo ra các hình ảnh của các bạn nữ cùng lớp và sau đó lan truyền rộng rãi qua mạng xã hội.

Trong một vụ việc đầu tiên được công bố rộng rãi vào tháng 9 năm ngoái tại Almendralejo, Tây Ban Nha, một bác sĩ có con gái là nạn nhân trong nhóm bị hại đã giúp đưa vụ việc ra ánh sáng. Bà cho biết bà hài lòng với mức án nghiêm khắc mà các học sinh cùng lớp phải đối mặt sau quyết định của tòa án vào mùa hè này.

Tuy nhiên, bà cũng nói thêm rằng trách nhiệm không chỉ thuộc về xã hội, giáo dục, cha mẹ và nhà trường, mà còn thuộc về các công ty công nghệ lớn đang thu lợi từ việc này. "Các công ty công nghệ lớn cần phải chịu trách nhiệm về việc này," Tiến sĩ Miriam al Adib Mendiri cho biết trong một cuộc phỏng vấn.

Bà hoan nghênh hành động của San Francisco nhưng nhấn mạnh rằng cần có thêm nhiều nỗ lực từ các công ty lớn như Meta và công ty con WhatsApp, nơi những hình ảnh giả mạo này đã được lan truyền ở Tây Ban Nha.

Trong khi các trường học và cơ quan thực thi pháp luật đã cố gắng trừng phạt những người tạo ra và chia sẻ những hình ảnh giả mạo này, việc xử lý các công cụ tạo ra chúng vẫn là một vấn đề nan giải.

Vào tháng 1, một lá thư từ cơ quan hành pháp của Liên minh châu Âu gửi đến một thành viên Nghị viện châu Âu cho biết rằng ứng dụng được sử dụng ở Almendralejo "không nằm trong phạm vi" các quy định mới của khối về an toàn trực tuyến, vì nó không phải là một nền tảng đủ lớn.

Các tổ chức đã theo dõi sự gia tăng của nội dung lạm dụng tình dục trẻ em do AI tạo ra sẽ theo dõi sát sao vụ kiện tại San Francisco này.

Vụ kiện "có tiềm năng tạo ra tiền lệ pháp lý trong lĩnh vực này," Emily Slifer, giám đốc chính sách tại tổ chức Thorn, một tổ chức hoạt động chống lại sự khai thác tình dục trẻ em, cho biết.

Một nhà nghiên cứu tại Đại học Stanford cho biết, vì nhiều bị cáo có trụ sở bên ngoài Hoa Kỳ, việc đưa họ ra trước công lý sẽ gặp nhiều khó khăn.

Chiu "đang đối mặt với một trận chiến khó khăn với vụ kiện này, nhưng có thể sẽ thành công trong việc đưa một số trang web offline nếu các bị cáo phớt lờ vụ kiện," Riana Pfefferkorn từ Stanford nói.

Bà cho biết điều đó có thể xảy ra nếu thành phố thắng kiện mặc định do các bị cáo không ra tòa, và nhận được các lệnh tác động đến các nhà cung cấp dịch vụ tên miền, dịch vụ web và xử lý thanh toán "khiến các trang web này phải đóng cửa ngay cả khi chủ sở hữu của chúng không xuất hiện trong vụ kiện."

Tham khảo Fortune