Thứ Năm, 10/10/2024
35.6 C
Ho Chi Minh City

Các ông lớn công nghệ ráo riết chống deepfake

Kinh tế Sài Gòn Online

Kinh tế Sài Gòn Online

Các ông lớn công nghệ ráo riết chống deepfake

Khánh Lan

(TBKTSG Online) - Google, Twitter và Facebook đang sốt sắng phát động cuộc chiến chống lại deepfake, tức những giọng nói, hình ảnh, video giả mạo trên mạng với số lượng đã tăng gấp đôi trong vòng một năm qua.

Deepfake, mối đe dọa đối với cử tri và người tiêu dùng Mỹ

Các ông lớn công nghệ ráo riết chống deepfake
Deepfake được sản xuất bằng các thuật toán học máy và công nghệ trí tuệ nhân tạo. Ảnh: The Daily Beast/Getty

Ba ông lớn công nghệ trên được hưởng lợi lớn nhờ giúp người dùng dễ dàng chia sẻ các hình ảnh, video nhưng giờ đây, họ phải nỗ lực ngăn chặn tình trạng phát tán những nội dung hình ảnh, video  bị chỉnh sửa trước thềm cuộc bầu cử tổng thống Mỹ vào năm sau.

Những hình ảnh và video bị chỉnh sửa như vậy, hay còn gọi là deepfake, được tạo ra nhờ các thuật toán học máy phức tạp và công nghệ trí tuệ nhân tạo, vì vậy, rất khó để nhận biết được chúng là giả. Điều nguy hại là công nghệ deepfake đang chủ yếu được sử dụng cho các mục đích ác ý, phổ biến nhất là ghép gương mặt của người khác (phần lớn là các nhân vật nổi tiếng) vào các video khiêu dâm. Bên cạnh đó, công nghệ này cũng có thể gây ra những nguy hại khôn lường cho các doanh nghiệp, chẳng hạn những kẻ lừa đảo có thể làm giả giọng nói của sếp một công ty lớn để yêu cầu kế toán chuyển tiền vào một tài khoản của chúng.

Thượng nghị sĩ đảng Cộng hòa Jerry Moran và Thượng nghị sĩ đảng Dân chủ Cortez Masto đang bảo trợ cho một dự luật  kêu gọi chi ngân sách cho các cuộc nghiên cứu xác định các nội dung video và hình ảnh bị thao túng. Moran gọi deefake là “một mối đe dọa rất cụ thể” đối với cử tri và người tiêu dùng Mỹ vì nó tạo những thông tin xuyên tạc nhưng rất khó để mọi người nhận ra.

Hôm 20-11, trong một thông báo cập nhật chính sách về quảng cáo chính trị, Google cho biết sẽ cấm sử dụng deepfake trong các quảng cáo chính trị và các quảng cáo khác trên các khắp các ứng dụng của Google như Google Search, YouTube.

Hồi đầu tháng này, Twitter cho biết đang nghiên cứu cách nhận diện các hình ảnh, video và âm thanh bị chỉnh sửa hay giả mạo được chia sẻ trên nền tảng của mạng xã hội này.

Yoel Roth, Giám đốc bộ phận liêm chính của Twitter, nói: “Những dạng truyền thông nhận tạo và sự xuyên tạc thông tin này  có nguy cơ gây suy giảm niềm tin công chúng và làm xói mòn khả năng của chúng tôi trong việc tạo ra cuộc thảo luận hữu ích về các vấn đề quan trọng”.

Trong khi đó,  Facebook, Microsoft và Amazon cũng đang làm việc với 7 trường đạo học như Cornell Tech, MIT, Oxford, UC Berkeley...để tổ chức một cuộc thi phát hiện deepfake bắt đầu vào tháng 12 tới.  Mike Schroepfer, Giám đốc công nghê của Facebook, cho biết cuộc thi này nhằm khuyến khích các nỗ lực nghiên cứu những phương hướng mới để phát hiện và ngăn chặn các dạng truyền thông bị thao túng, gây hiểu lầm cho mọi người.

“Cuộc chạy đua vũ trang” chống deepfake

Với các công cụ sản xuất deepfake gồm giọng nói giả, những kẻ có ý đồ dễ dàng thay đổi nội dung phát biểu của Tổng thống Mỹ Donald hay cựu tổng thống Barack Obama trong các video. Ảnh: AFP

Theo Công ty an ninh mạng Deeptrace, mối quan tâm của cộng đồng mạng về cách thức sản xuất deefake đang tăng nhanh. Những deepfake xuất hiện lần đầu tiên trên nền tảng chat Reddit cách đây 2 năm. Nhưng hiện nay, có ít nhất 20 trang web và diễn đàn trực tuyến chuyên về các cuộc thảo luận về cách sản xuất deefake tinh vi và hiệu quả hơn.

Các nhà nghiên cứu của Deeptrace cho biết các dịch vụ trực tuyến có thể tạo ra các deefake theo yêu cầu của khách hàng chỉ trong vòng 2 ngày và bán chúng với giá thấp chỉ 2,99 đô la/video.

Theo một nghiên cứu của Deeptrace, tính đến tháng 8-2019, số lượng deepfake được tung lên mạng trong khoảng thời gian từ đã lên đến con số 14.678, tức tăng gần 100% so với thời điểm tháng 12-2018.

Dana Rao, Phó Chủ tịch Công ty phần mềm Adobe, nổi tiếng với phần mềm chỉnh sửa hình ảnh Photoshop, cho biết các công cụ chế ra ảnh giả đang cải thiện quá nhanh đến nỗi chẳng bao lâu nữa, rất khó để phát hiện deepfake bằng công nghệ.

Vì vậy, ông nhận định cuộc chạy đua để chống lại deepfake sẽ chẳng khác nào “cuộc chạy đua vũ trang”.
“Sản xuất deepfake đòi hỏi rất nhiều kỹ năng”, Matt Turek, giám đốc của một chương trình giám sát các nỗ lực nghiên cứu và phát triển liên quan đến deepfake ở Cơ quan chỉ đạo các dự án nghiên cứu cấp cao về quốc phòng (DARPA) thuộc Bộ Quốc phòng Mỹ, nhận định. Lầu Năm Góc đang nghiên cứu deepfake vì lo ngại các nhà hoạch định quân sự có thể bị đánh lừa và ra các quyết định sai lầm nếu các hình ảnh bị chỉnh sửa không bị phát hiện
DARPA đã phát triển một công cụ phân tích truyền thông để trang bị cho cơ quan chính phủ nhằm giúp họ phát hiện ra các bức ảnh và video bị chỉnh sửa hoặc giả mạo. Cơ quan này muốn phát triển thêm một công nghệ giúp phát hiện ra âm thanh và tin nhắn giả mạo đồng thời giúp xác định được nguồn phát tán chúng và ý đồ đằng sau bất cứ nội dung bị thao túng nào.

Các ông lớn công nghệ, vốn hứng nhiều chỉ trích trong thời gian qua vì không hành không hành động nhiều hơn để chống tin giả,  đang dấn sâu hơn trong các nỗ lực chống deefake.

Chẳng hạn, Facebook đã thu thập hơn 100.000 video, phim ảnh có những diễn viên nổi tiếng tham gia đóng và các kỹ sư của Facebook đang dựa vào chúng để phát triển triển và thử nghiệm các hệ thống phát hiện deepfake.
Tương tự, Google cũng xây dựng một tập hợp dữ liệu tham chiếu để phát triển các công cụ phát hiện deepfake. Trong năm nay, Google đã tập hợp một khối lượng lớn các clip âm thanh để giúp các kỹ sư phát triển cách nhận diện giọng nói giả mạo được đưa vào một video.

Google cũng đang dựa vào các công cụ chuyển đổi văn bản thành âm thanh để phát triển các công cụ mới có thể giúp xác minh người thuyết minh.

Trong khi đó, Công ty phần mềm Adobe có cách tiếp cận khác. Công ty này phát triển một hệ thống cho phép các tác giả và nhà phát hành gắn thông tin vào nội dung, chẳng hạn như ai là người tạo ra nó và tạo ra vào thời điểm nào, ở địa điểm nào. Adobe,đang hợp tác với công ty truyền thông đại chúng New York Times, chủ sở hữu của tờ New York Times và sẽ chia sẻ công nghệ này với mục đích đưa nó trở thành một hệ thống xác minh nội dung được sử dụng rộng rãi trong ngành truyền thông. Adobe cho biết sẽ tích hợp công cụ xác minh này vào phần mềm Photoshop vào năm 2020.

Theo Wall Street Journal

BÌNH LUẬN

Vui lòng nhập bình luận của bạn
Vui lòng nhập tên của bạn ở đây

Tin liên quan

Có thể bạn quan tâm

Tin mới