 |
| Hình ảnh này được lấy từ video của một video giả mạo cựu Tổng thống Barack Obama, cho thấy các yếu tố lập bản đồ khuôn mặt được sử dụng trong công nghệ mới cho phép bất kỳ ai làm video giả mạo người thực, có mặt để nói những điều họ không bao giờ nói. (Ảnh AP) |
Các video này được gọi là "deepfake" - Giả như Thật (tạm hiểu như vậy, chờ ai đó dịch tốt hơn).
Tên gọi này xuất phát từ quá trình học sâu (deep learning), một dạng trí tuệ nhân tạo (AI - Artificial Intelligence). Các video này có thể được tạo bằng các chương trình máy tính để bán hoặc đẩy lên internet. Kỹ thuật này sử dụng bản đồ khuôn mặt và trí tuệ nhân tạo để tạo ra video giả gần như thực.
Các nhà lập pháp, các quan chức tình báo, và các chuyên gia truyền thông đã bày tỏ lo ngại về deepfake. Họ cảnh báo rằng các video giả có thể được sử dụng để đe dọa an ninh quốc gia Hoa Kỳ hoặc can thiệp vào các cuộc bầu cử.
Video được tạo bằng cách tải một tập hợp các chỉ dẫn phức tạp vào máy tính, cùng với nhiều hình ảnh và bản ghi âm. Chương trình máy tính sau đó sẽ học cách sao chép các biểu hiện khuôn mặt, các cử động, phát âm và các mẫu giọng nói của người đó.
Các chuyên gia kỹ thuật nói, với đủ video và âm thanh của một người, hệ thống có thể tạo ra các video giả của người nói bất cứ điều gì, mà người tạo ra chúng muốn.
Thượng nghị sĩ Florida Marco Rubio là một trong số nhiều nhà lập pháp Hoa Kỳ cảnh báo về những nguy hiểm của công nghệ như vậy. Ông nói rằng, cho đến nay, deepfake chủ yếu được sử dụng để chống lại những người nổi tiếng hoặc tạo ra những video hài hước. Ông thêm rằng, ông có thể hình dung các quốc gia khác có thể sử dụng chúng để làm hại nền dân chủ và xã hội Mỹ.
Rubio nói với Associated Press rằng tình báo nước ngoài có thể sử dụng công nghệ này. Một người bất kỳ có thể sản xuất các video giả về một chính khách sử dụng ngôn ngữ phân biệt chủng tộc, hoặc làm điều gì đó bất hợp pháp. Hoặc họ có thể tạo ra video giả về binh lính Mỹ giết thường dân nước ngoài, hoặc lãnh đạo nước ngoài đe dọa chiến tranh hạt nhân.
Rubio nói, "Đó là một vũ khí có thể được sử dụng - tại một thời gian và địa điểm một cách thích hợp - theo cùng cách như tin tức giả (fake news) được sử dụng." Ông nói thêm: Khi ở trong dạng video, tin tức như vậy có thể tạo ra sự nghi ngờ, hoảng loạn, trước một cuộc bỏ phiếu hoặc bất kỳ một quyết định quan trọng nào.
"Chúng ta biết có những người ở ngoài kia, đang cố gắng phân chia xã hội, ảnh hưởng đến bầu cử, và chúng ta biết khả năng này tồn tại. Do đó, nó sẽ rất hợp lý, khi có ai đó sẽ thực hiện bước tiếp theo biến nó thành vũ khí."
Vấn đề này đã thu hút sự chú ý vào đầu năm nay khi trang web BuzzFeed xuất bản một video chính trị giả như thật. Video giả mạo này cho thấy cựu Tổng thống Barack Obama đã đưa ra một phát biểu chỉ trích Tổng thống Donald Trump.
Bạn thấy đấy, tôi sẽ không bao giờ nói những điều này, ít nhất là không phải trong một phát biểu công cộng. Nhưng, ai đó đã làm thế.
Nó được tạo ra bằng cách kết hợp các chương trình chỉnh sửa video chuyên nghiệp và miễn phí, bằng cách sử dụng máy học (machine learning).
Hany Farid là một chuyên gia pháp y kỹ thuật số tại trường đại học Dartmouth ở Hanover, New Hampshire. Ông ta đồng ý rằng có một khả năng tuyệt vời là deepfake sẽ được sử dụng để cố gắng ảnh hưởng đến chính trị nước Mỹ. "Tôi hy vọng rằng ở đây tại Hoa Kỳ, chúng ta sẽ bắt đầu thấy điều này trong cuộc bầu cử giữa kỳ sắp tới và cuộc bầu cử quốc gia, hai năm nữa kể từ bây giờ. ”
Farid nói, vấn đề là nó sẽ rất dễ dàng cho hầu hết mọi người để tạo ra một video giả mạo có vẻ thực của các lãnh đạo thế giới. "Chúng tôi đã bước vào một thế giới mới, nơi sẽ rất khó để biết làm thế nào để tin những gì chúng ta thấy,” Ông nói với Associated Press.
Ông nói thêm rằng, kết quả ngược lại cũng đáng lo ngại. Mọi người sẽ trở nên quen với việc thấy những video giả mạo, và rồi họ sẽ nghi ngờ một video thực. Ông ta muốn cả thế giới biết rắc rối này.
Cơ quan về các Dự án Nghiên cứu Tiên tiến Quốc phòng Hoa Kỳ (DARPA) đã làm việc giúp phát triển công nghệ để xác định hình ảnh và video giả. Nhưng Thượng nghị sĩ Rubio cho biết, hiện tại quá trình nhận dạng phức tạp và mất nhiều thời gian.
"Phải mất một số bước pháp y thực sự, khả năng kỹ thuật, để có thể cho thấy rằng nó không thực. Và đến thời điểm đó, nó đã được phổ biến rộng rãi."
Rubio và các nhà lập pháp khác nói rằng, mọi người sẽ cần phải có nhiều trách nhiệm hơn để xác định đồ giả.
Dịch từ: ‘Deepfake’ Videos: a New Weapon in Disinformation Wars
Thượng nghị sĩ Florida Marco Rubio là một trong số nhiều nhà lập pháp Hoa Kỳ cảnh báo về những nguy hiểm của công nghệ như vậy. Ông nói rằng, cho đến nay, deepfake chủ yếu được sử dụng để chống lại những người nổi tiếng hoặc tạo ra những video hài hước. Ông thêm rằng, ông có thể hình dung các quốc gia khác có thể sử dụng chúng để làm hại nền dân chủ và xã hội Mỹ.
Rubio nói với Associated Press rằng tình báo nước ngoài có thể sử dụng công nghệ này. Một người bất kỳ có thể sản xuất các video giả về một chính khách sử dụng ngôn ngữ phân biệt chủng tộc, hoặc làm điều gì đó bất hợp pháp. Hoặc họ có thể tạo ra video giả về binh lính Mỹ giết thường dân nước ngoài, hoặc lãnh đạo nước ngoài đe dọa chiến tranh hạt nhân.
Rubio nói, "Đó là một vũ khí có thể được sử dụng - tại một thời gian và địa điểm một cách thích hợp - theo cùng cách như tin tức giả (fake news) được sử dụng." Ông nói thêm: Khi ở trong dạng video, tin tức như vậy có thể tạo ra sự nghi ngờ, hoảng loạn, trước một cuộc bỏ phiếu hoặc bất kỳ một quyết định quan trọng nào.
"Chúng ta biết có những người ở ngoài kia, đang cố gắng phân chia xã hội, ảnh hưởng đến bầu cử, và chúng ta biết khả năng này tồn tại. Do đó, nó sẽ rất hợp lý, khi có ai đó sẽ thực hiện bước tiếp theo biến nó thành vũ khí."
Vấn đề này đã thu hút sự chú ý vào đầu năm nay khi trang web BuzzFeed xuất bản một video chính trị giả như thật. Video giả mạo này cho thấy cựu Tổng thống Barack Obama đã đưa ra một phát biểu chỉ trích Tổng thống Donald Trump.
Bạn thấy đấy, tôi sẽ không bao giờ nói những điều này, ít nhất là không phải trong một phát biểu công cộng. Nhưng, ai đó đã làm thế.
Nó được tạo ra bằng cách kết hợp các chương trình chỉnh sửa video chuyên nghiệp và miễn phí, bằng cách sử dụng máy học (machine learning).
Hany Farid là một chuyên gia pháp y kỹ thuật số tại trường đại học Dartmouth ở Hanover, New Hampshire. Ông ta đồng ý rằng có một khả năng tuyệt vời là deepfake sẽ được sử dụng để cố gắng ảnh hưởng đến chính trị nước Mỹ. "Tôi hy vọng rằng ở đây tại Hoa Kỳ, chúng ta sẽ bắt đầu thấy điều này trong cuộc bầu cử giữa kỳ sắp tới và cuộc bầu cử quốc gia, hai năm nữa kể từ bây giờ. ”
Farid nói, vấn đề là nó sẽ rất dễ dàng cho hầu hết mọi người để tạo ra một video giả mạo có vẻ thực của các lãnh đạo thế giới. "Chúng tôi đã bước vào một thế giới mới, nơi sẽ rất khó để biết làm thế nào để tin những gì chúng ta thấy,” Ông nói với Associated Press.
Ông nói thêm rằng, kết quả ngược lại cũng đáng lo ngại. Mọi người sẽ trở nên quen với việc thấy những video giả mạo, và rồi họ sẽ nghi ngờ một video thực. Ông ta muốn cả thế giới biết rắc rối này.
Cơ quan về các Dự án Nghiên cứu Tiên tiến Quốc phòng Hoa Kỳ (DARPA) đã làm việc giúp phát triển công nghệ để xác định hình ảnh và video giả. Nhưng Thượng nghị sĩ Rubio cho biết, hiện tại quá trình nhận dạng phức tạp và mất nhiều thời gian.
"Phải mất một số bước pháp y thực sự, khả năng kỹ thuật, để có thể cho thấy rằng nó không thực. Và đến thời điểm đó, nó đã được phổ biến rộng rãi."
Rubio và các nhà lập pháp khác nói rằng, mọi người sẽ cần phải có nhiều trách nhiệm hơn để xác định đồ giả.
Dịch từ: ‘Deepfake’ Videos: a New Weapon in Disinformation Wars
Không có nhận xét nào :
Đăng nhận xét