YouTube tăng cường nhân lực kiểm duyệt nội dung lên 10.000 người, kết hợp với AI để loại bỏ hoàn toàn những video không phù hợp với trẻ em

Mới đây, CEO Susan Wojcicki của YouTube cho biết bà sẽ bổ sung thêm nhân lực cho bộ phận kiểm duyệt cũng như tăng cường công nghệ AI và quá trình machine learning của nền tảng dịch vụ video trực tuyến lớn nhất thế giới này nhằm ngăn chặn những nội dung phản cảm đối với trẻ em.

Cụ thể, YouTube dự kiến sẽ tăng số lượng kiểm dịch viên nội dung lên con số 10,000 vào năm 2018 để “huấn luyện” khả năng nhận diện vào loại bỏ những video không phù hợp với trẻ em của các thuật toán machine learning. Một nguồn tin thân cận với YouTube tiết lộ nguồn nhân lực của YouTube sẽ tăng 25% so với con số hiện nay.

CEO Susan Wojcicki sẽ mở rộng nguồn nhân lực kiểm duyệt nội dung YouTube lên con số 10,000 người.

Trong hai tuần vừa qua, YouTube đã gỡ bỏ hàng trăm nghìn video có nội dung liên quan đến lạm dụng và bạo hành trẻ em, bao gồm cả những hành động nhức nhối nhất như bắt cóc giả, dùng băng dính trói vào tường hay thậm chí là ép trẻ chui vào máy giặt. Bên cạnh đó, YouTube cũng cho biết họ sẽ sử dụng phương pháp tương tự như trong mùa hè vừa qua bởi hiệu quả mà nó đem lại trong quá trình bài trừ những nội dung cực đoan là khá ấn tượng.

Hiện tại, khó có thể nói trước liệu công nghệ machine learning của YouTube có thể ngăn chặn và giới hạn những nội dung không phù hợp với trẻ em hay không bởi có rất nhiều video bị xếp vào dạng “khó phân biệt” đối với các thuật toán mà hãng sử dụng. Tuy nhiên, bà Wojcicki nhấn mạnh rằng khi kết hợp con người với AI thì lại là một câu chuyện hoàn toàn khác.

Kể từ tháng 6 năm nay, YouTube đã xóa bỏ hơn 150,000 video chứa nội dung bạo lực cực đoan. Họ cho biết thành tích này có được là nhờ công sức của “đội ngũ gồm 180,000 người liên tục làm việc đến 40 giờ một tuần”. YouTube cũng tuyên bố các thuật toán mà họ đang sử dụng ngày càng tiến bộ hơn trong việc xác định chính xác chủ nghĩa bạo lực cực đoan. Cụ thể, công nghệ AI của họ đã nhận ra đến 83% lượng video có nội dung không phù hợp trong tháng 10 vừa qua. Và đến nay, con số này đã tăng lên đến 98%.

Thuật toán của YouTube đang ngày càng tiến bộ hơn trong việc kiểm duyệt nội dung video.

Thay mặt YouTube, Wojcicki đã cam kết sẽ tìm ra một phương pháp quảng cáo trên YouTube phù hợp với cả các nhà quảng cáo lẫn bộ phận YouTuber đông đảo. Trong hai tuần vừa qua, YouTube đã tiến hành gỡ bỏ quảng cáo trên gần 2 triệu video và hơn 50,000 kênh “giả mạo nội dung thân thiện với người dùng”.

Đây là động thái mới nhất của YouTube sau khi giới truyền thông hé lộ có rất nhiều video triệu view chạy quảng cáo cho những thương hiệu lớn đã ngừng hợp tác với nền tảng video trực tuyến lớn nhất thế giới này trong tháng 11 vừa rồi.

Mặc dù Wojcicki không tiết lộ những kế hoạch cụ thể về chính sách quảng cáo mới của hãng nhưng bà khẳng định: “YouTube sẽ xem xét cẩn thận những kênh và video đủ điều kiện để quảng cáo. Bên cạnh đó, chúng tôi cũng sẽ áp dụng những tiêu chí chặt chẽ hơn, tiến hành kiểm tra thủ công nhiều hơn cũng như tăng cường đội ngũ đánh giá quảng cáo của mình”.

Hiện tại, chưa rõ khi nào thì những thay đổi trong chính sách quảng cáo của YouTube sẽ có hiệu lực nhưng tình trạng các video có nội dung gây tranh cãi tiếp tục chạy quảng cáo vẫn đang tiếp diễn. Cụ thể, trong một khảo sát mới đây của BuzzFeed, họ đã tìm ra rất nhiều đoạn quảng cáo vẫn hoạt động trên các video “tiêm phòng” nổi tiếng - chủ yếu ghi lại cảnh la hét và khóc lóc của trẻ em khi chích thuốc phòng chống cúm.

Vào chiều ngày thứ Hai vừa qua (4/12), hai video tương tự trên kênh “Shot Of The Yeagers” đã chạy quảng cáo cho Lyft, Adidas, Phillips, Pfizer cùng nhiều hãng khác. Trong đó, Lyft và Adidas đã tuyên bố ngừng các hoạt động quảng cáo trên nền tảng YouTube và sẽ xem xét vấn đề này.

Quảng cáo của Adidas vẫn xuất hiện trên các video có nội dung không phù hợp với trẻ em.

Phát ngôn viên của Lyft cho biết: “Lẽ ra quảng cáo của Lyft không được phép xuất hiện trên video này. Chúng tôi đã hợp tác với rất nhiều nền tảng nhằm tìm ra các biện pháp bảo vệ để ngăn quảng cáo của chúng tôi xuất hiện trên các video có nội dung như vậy. Chúng tôi đang làm việc với YouTube để xác định nguyên nhân của vụ việc trên”.

Trước đó vào ngày 23/11, đại diện của Adidas cũng đã lên tiếng: “Chúng tôi cho rằng điều này là không thể chấp nhận được và sẽ tiến hành những hành động xử lý thích đáng. Chúng tôi sẽ làm việc chặt chẽ với Google để ngăn chặn tình trạng trên”. Chưa đầy một giờ sau đó, những video “tiêm phòng” trên YouTube đã lập tức bị gỡ bỏ hoàn toàn.

Theo BuzzFeed