(KTSG) - Khi trí khôn nhân tạo bậc cao - Gen AI - bắt đầu nâng cấp các chức năng AI thì các xưởng sản xuất báo cáo khoa học giả gọi là Paper Mill và các trại sáng tác nội dung định hướng gọi là Content Farm cùng các trại sáng tác tin giả Disinformation Farm tích cực hoạt động.
Và nay, mạng xã hội tràn ngập thông tin giả, phong phú và tinh vi đến độ các nhà chuyên môn cũng khó nhận ra. Mạng xã hội đang đánh lừa xã hội và một cuộc chiến sàng lọc, đối phó với truyền thông giả mạo của Gen AI đã phải bắt đầu.
- Mang trợ lý ảo AI đến công ty – nên hay không?
- Nhờ AI làm nhạc: coi chừng đối mặt với ‘màn sương’ pháp lý
Gần đây, các nhà khoa học và giới báo chí đã vào cuộc với việc đưa ra những lời cảnh báo. BBC News tiếng Việt số ngày 28-8-2025 dẫn cuộc điều tra của Philippines Star và bản phân tích của công ty giám định công nghệ Thinkfi (Ấn Độ) cho biết một chiến dịch truyền thông AI chống Việt Nam về Biển Đông đã được thực hiện. Riêng trong khoảng thời gian từ tháng 11-2024 đến tháng 6-2025 đã có gần 1.000 bài viết của 71 tài khoản đăng trên mạng X (Twitter). Đó là những bài viết giống hệt nhau hoặc có nội dung tương tự, được đăng tải dồn dập theo từng đợt, và phát tán cực nhanh trong vòng chỉ vài giây hay vài phút.
Người ta kỳ vọng sự ra đời của các ứng dụng AI đủ nhanh, đủ mạnh để có thể phát hiện, đánh giá mức độ chân thực, và dán nhãn video/audio cho các nội dung số đăng lên mạng, nhằm giúp cho người sử dụng biết sản phẩm mình đang dùng đến từ đâu và độ chính xác đến mức nào. Trên thực tế, một số nhà sáng tạo nội dung số đã bắt đầu dán nhãn cho mình như với dòng chữ “Video này có sử dụng AI”.
Các Paper Mill hoạt động như những doanh nghiệp, bởi ở đó có kẻ đặt hàng, người mua, người bán và lực lượng sản xuất là các AI với nhiệm vụ thu thập, biến chế dữ liệu rồi viết thành bài theo từng đơn hàng. Hơn nữa ở đó cũng có những kẻ trung gian gọi là tạp chí săn mồi (Predatory Journals) nhằm giới thiệu và kết nối xưởng sản xuất với người mua công trình nghiên cứu khoa học - đa phần là các nhà nghiên cứu gian lận và những người viết luận văn các cấp học vị. Do năng lực của Gen AI và do lượng đặt hàng nay rất lớn nên các Paper Mill nhanh chóng trở thành một ngành công nghiệp, đúng hơn là một sự gian lận công nghiệp hóa, buộc các nhà xuất bản và biên tập viên phải tìm ra các biện pháp đối phó.
Các nhà khoa học đã giới thiệu các biện pháp để nhận diện những sản phẩm xuất xứ từ Paper Mill nhưng lại chưa có cách triệt tiêu chúng. Bởi không chỉ là AI tạo ra các thông tin giả, mà chính con người - trong đó có người có học hàm học vị cao - chia sẻ những công trình nghiên cứu ảo đó, lý do đơn giản là vì nó rất giống như thật. Một bài phân tích đăng trên The Nature cho biết từ 2-20% các bài báo học thuật được xuất bản trong một số lĩnh vực nhất định, đặc biệt là y sinh học, có nguồn gốc từ Paper Mill. Và một điều tra của Viện Max Planck cho thấy có đến 45% số câu trả lời trên các nền tảng mở như Prolific, nơi các nhà nghiên cứu vẫn thường dùng để phỏng vấn, lại đến từ AI. Cũng vậy, mạng xã hội nay tràn ngập các sản phẩm của Content Farm. Ở đó có những nội dung vô hại hay mang tính giải trí, nhưng cũng không ít nội dung định hướng lan truyền như một chiến dịch truyền thông.
AI mà nay là thế hệ Gen AI liên quan đến sự bùng nổ của các bài báo nghiên cứu chất lượng thấp. Ở đây chúng ta phát hiện sự gia tăng của các bài báo hay công trình nghiên cứu mang tính công thức, rập theo khuôn mẫu, và sử dụng các dữ liệu cộng đồng dễ tiếp cận - bao gồm những dữ liệu từ các bài báo AI tạo ra. Các bài báo thường liên kết với một biến số duy nhất mà bỏ qua các biên số khác. Các bằng chứng cũng cho thấy có hiện tượng thu thập dữ liệu hoặc sử dụng dữ liệu có chọn lọc để tìm ra các mối liên hệ mong muốn dẫn đến những kết luận đánh lừa khoa học, thậm chí không có cơ sở khoa học. Khi người ta tung ra một rừng bài viết về ô nhiễm vi nhựa, người ta bỏ qua thượng nguồn ô nhiễm của nó là các phụ gia độc hại chứ không phải các hạt polymer tạo nên sản phẩm nhựa!
Sự trỗi dậy của truyền thông AI tại Việt Nam, cũng như trên thế giới, rất đáng lo ngại bởi đang làm xói mòn niềm tin khoa học và lừa dối hay lấn át những thông tin thật. Các biên tập viên, nhà báo và nhà truyền thông truyền thống đang phải vật lộn với các vấn đề do truyền thông AI tạo ra. Deepfake và các công nghệ dựa trên AI khác đang được sử dụng để lan truyền tin giả, mạo danh người của công chúng, và thậm chí tạo ra các video và bản ghi âm giọng nói gian lận để tống tiền. Đây không chỉ là sự đánh lừa, hướng dẫn dư luận, mà còn là mối đe dọa an ninh. Nguy hiểm nhất là sự giao thoa giữa thông tin sai lạc do Gen AI tạo ra và công chúng. Một cá nhân hay nhà báo rất có thể tình cờ bắt gặp một bài báo gian lận, trông có vẻ hợp pháp, và rồi đưa vào bài viết của mình hoặc trích dẫn lên mạng xã hội.
Trong thời đại truyền thông AI phát triển như vũ bão thì các nhà xuất bản, tòa soạn báo chí và biên tập viên phải thực hiện việc chống công trình gian lận và thông tin giả mạo bằng thủ công! Việc này khó tránh được sai sót và nhất là không kịp thời trước khi mọi việc được lan truyền rộng rãi. Và nay, người ta kỳ vọng sự ra đời của các ứng dụng AI đủ nhanh, đủ mạnh để có thể phát hiện, đánh giá mức độ chân thực, và dán nhãn video/audio cho các nội dung số đăng lên mạng, nhằm giúp cho người sử dụng biết sản phẩm mình đang dùng đến từ đâu và độ chính xác đến mức nào. Trên thực tế, một số nhà sáng tạo nội dung số đã bắt đầu dán nhãn cho mình như với dòng chữ “Video này có sử dụng AI”.
