Để mặc AI bịa đặt thông tin trong báo cáo, một hãng kiểm toán danh tiếng phải cay đắng hoàn tiền cho khách hàng

Khi công nghệ trí tuệ nhân tạo trở thành "trợ thủ đắc lực" trong mọi ngành nghề, không ít tổ chức đã quá vội vàng trao cho nó những trọng trách quan trọng mà quên mất một điều căn bản: AI vẫn có thể "nói dối" một cách trơ trẽn. Và một trong những công ty tư vấn uy tín nhất thế giới đã phải gánh chịu hậu quả của sự tin tưởng mù quáng này vào các công cụ AI.

Mới đây, hãng Deloitte Australia đã đồng ý hoàn trả một phần tiền cho chính phủ Úc sau khi báo cáo do công ty này thực hiện bị phát hiện chứa nhiều lỗi nghiêm trọng do sử dụng trí tuệ nhân tạo.

Công ty tư vấn hàng đầu thế giới này được chính phủ ký hợp đồng trị giá 440.000 AUD (tương đương khoảng 290.000 USD), để tiến hành đánh giá đảm bảo chất lượng cho Khung Tuân thủ Mục tiêu, một phần của hệ thống công nghệ thông tin quản lý các khoản thanh toán phúc lợi và trợ cấp xã hội của quốc gia này.

Dự án kéo dài 7 tháng và hoàn thành vào tháng 6, tuy nhiên báo cáo cuối cùng được công bố vào tháng 7 lại để lộ nhiều sai sót đáng lo ngại. Theo báo cáo của Australian Financial Review, tài liệu chứa đựng nhiều trích dẫn học thuật về những người không hề tồn tại trong thực tế, đồng thời còn có một đoạn trích dẫn giả mạo được cho là từ phán quyết của Tòa án Liên bang. Những lỗi này được phát hiện bởi học giả Chris Rudge, một chuyên gia nghiên cứu về phúc lợi xã hội tại Úc, và ông đã báo cho các cơ quan truyền thông.

Phiên bản cập nhật của báo cáo đã được đăng tải trên trang web của Bộ Việc làm và Quan hệ Lao động vào thứ Sáu vừa qua. Bản sửa đổi này đã xóa bỏ hơn một chục trích dẫn và chú thích không tồn tại, viết lại toàn bộ danh mục tài liệu tham khảo, đồng thời sửa chữa nhiều lỗi đánh máy.

Điều đáng chú ý là trong phiên bản mới này, Deloitte đã tiết lộ rằng phương pháp luận của họ đã sử dụng một chuỗi công cụ dựa trên mô hình ngôn ngữ lớn sử dụng trí tuệ nhân tạo sinh, cụ thể là Azure OpenAI GPT-4o, được cấp phép bởi Bộ và lưu trữ trên hệ thống Azure của Bộ.

Thông tin về việc sử dụng công nghệ AI hoàn toàn không được đề cập trong phiên bản báo cáo công bố vào tháng 7, khiến dư luận đặt câu hỏi về tính minh bạch trong quá trình thực hiện dự án.

Người phát ngôn của Bộ Việc làm và Quan hệ Lao động đã xác nhận với Business Insider rằng Deloitte đã thừa nhận một số chú thích và trích dẫn không chính xác trong báo cáo đánh giá, và công ty đã đồng ý hoàn trả khoản thanh toán cuối cùng theo hợp đồng. Tuy nhiên, người phát ngôn cũng nhấn mạnh rằng những thay đổi này không ảnh hưởng đến nội dung cơ bản hay các khuyến nghị tổng thể về hệ thống Khung Tuân thủ Mục tiêu.

Vụ việc này một lần nữa cho thấy những rủi ro tiềm ẩn khi các tổ chức lớn quá tin tưởng vào công nghệ AI mà không có quy trình kiểm tra chất lượng nghiêm ngặt. Các mô hình ngôn ngữ lớn như GPT-4o hoạt động dựa trên xác suất, tính toán từ tiếp theo dựa trên các mẫu từ đã học được, chứ không đảm bảo tính chính xác tuyệt đối của thông tin.

Hiện tượng AI "ảo giác" hay bịa đặt thông tin không có thật là một vấn đề đã được biết đến, nhưng việc nó xảy ra trong một dự án quan trọng của chính phủ với giá trị hàng trăm nghìn USD lại đặt ra câu hỏi nghiêm túc về năng lực và trách nhiệm của đội ngũ thực hiện.

Deloitte chưa đưa ra phản hồi chính thức với Business Insider về việc liệu AI có phải là nguyên nhân trực tiếp gây ra các lỗi này hay không. Tuy nhiên, sự việc đã gióng lên hồi chuông cảnh báo cho các doanh nghiệp và tổ chức về việc cần phải có hiểu biết sâu sắc về công nghệ AI trước khi áp dụng, cũng như thiết lập quy trình xác minh và kiểm tra chặt chẽ khi sử dụng các công cụ này cho công việc quan trọng.

Trong khi AI có thể hỗ trợ nâng cao hiệu suất làm việc, việc phụ thuộc hoàn toàn vào nó mà không có sự giám sát của con người có thể dẫn đến những hậu quả nghiêm trọng, như trường hợp của Deloitte Australia là minh chứng đau đớn nhất cho điều này.