Nhận diện và kiểm soát video giả mạo trên mạng xã hội

Giải mã video giả mạo

Video giả mạo (deepfake video) là một dạng video có sử dụng trí tuệ nhân tạo (AI) và công nghệ học sâu (deep learning) để thực hiện hoán đổi khuôn mặt của một người này sang cho người khác. Ở cấp độ cơ bản, video giả mạo được hiểu như một lời nói dối được nguỵ trang để trông giống sự thật. Những nhân vật xuất hiện trong video giả mạo là những nhân vật có thực ở ngoài đời nhưng lời nói và hành động của họ chưa bao giờ xảy ra trong thực tế. Các hình ảnh kỹ thuật số được xử lý bằng AI tinh vi và mang lại hình ảnh, âm thanh giả mạo giống như thật.

Thoạt đầu, công nghệ AI và công nghệ học sâu được các kỹ sư dồn tâm sức nghiên cứu để cải thiện điều kiện sống của con người, như giúp các nhà làm hình ảnh dễ dàng và nhanh chóng hơn trong công việc, thay vì phải quay đi quay lại nhiều cảnh quay thì chỉ cần sử dụng hình ảnh sẵn có. Về sau, công nghệ này bị những người không có đạo đức lợi dụng để tạo ra nội dung giả mạo, hoán đổi khuôn mặt nhằm mục đích xấu, gây ảnh hưởng tiêu cực đến mọi người trong xã hội.

Việc sử dụng công nghệ deepfake phi đạo đức tiềm ẩn những hậu quả nghiêm trọng nếu không được kiểm soát kịp thời. Ban đầu, những video giả mạo này nhắm đến thị trường phim khiêu dâm, dán gương mặt người nổi tiếng trên cơ thể của những diễn viên. Nhưng về sau, chúng lấn sang lĩnh vực chính trị, tạo ra những cuộc trò chuyện, tuyên bố không có thực của các chính trị gia. Dù chưa đến mức gây ra hậu quả trên quy mô toàn cầu, nhưng các video được tạo ra từ deepfake được cho là nguyên nhân dẫn đến vụ bê bối chính trị gần đây ở Malaysia, hay cuộc đảo chính quân sự ở cộng hoà Gabon. Sự việc này đã khiến cho chính phủ nhiều nước lo lắng và xem xét các cách điều tiết, giảm thiểu những tác động của các video giả mạo đang lan tràn trên mạng Internet.

Deepfake đã trở thành vấn nạn trên thế giới, khiến nhiều người lâm vào tình trạng khốn khổ sau khi bị phát tán những đoạn video giả mạo trên mạng. Tự do phát tán thông tin và hình ảnh cá nhân trên mạng xã hội là một trong những nguyên nhân khiến cho việc tạo ra một video giả mạo dễ dàng, nhanh chóng. Tại Việt Nam, không ít người vẫn vô tư chia sẻ những bức ảnh cá nhân, với khuôn mặt rõ nét lên mạng xã hội ở chế độ công khai (public). Bởi lối suy nghĩ chủ quan cho rằng, video giả mạo là chuyện xa vời, xảy ra đâu đó chứ không ảnh hưởng tới mình.

Có thể liệt kê ra đây những tác hại lớn của video giả mạo:

Làm hoen ố hình ảnh và phẩm giá của con người. Bất cứ ai cũng có thể là nạn nhân của những video giả mạo, đặc biệt là phụ nữ, những người nổi tiếng, chính trị gia và những nhân vật tầm cỡ - nhóm đối tượng dễ bị lợi dụng. Việc ngăn chặn những tin tức giả mạo và những tin đồn thất thiệt trong xã hội trở nên bất khả thi, nhất là khi thủ phạm cố tình và cố gắng bôi nhọ nhân cách của một cá nhân bằng cách tạo ra những nội dung giả mạo. Những kẻ có ý đồ xấu tạo ra các đoạn phim khiêu dâm mà nhân vật chính bị thay đổi hoặc hoán đổi bằng khuôn mặt của người nổi tiếng. Những video giả mạo phát tán trên phương tiện truyền thông xã hội và các kênh trực tuyến khác có thể ảnh hưởng đến tình cảm và nhận thức của công chúng tại thời điểm diễn ra cuộc bầu cử chính quyền ở bất kỳ quốc gia nào hoặc bôi nhọ nhân cách cá nhân. Vì năng lực kiểm chứng dạng video của cộng đồng chưa cao nên dễ khiến dưa luận chao đảo trong quá trình chuẩn bị bầu cử, hay bình chọn giải thưởng.

Tạo ra một xã hội thiếu niềm tin. Tác động ngấm ngầm của video giả mạo trên các phương tiện truyền thông xã hội là tạo ra một xã hội thiếu niềm tin, mọi người khó có thể hoặc không còn bận tâm đến việc phân biệt sự thật và giả dối. Khi niềm tin của công chúng bị xói mòn, sự nghi ngờ về các sự kiện cụ thể càng nảy sinh. Truyền thông xã hội là nền tảng chính dễ phát tán mạnh video giả mạo, gây hoang mang dư luận. Các chuyên gia cảnh báo rằng, phần mềm deepfake có thể bị biến thành một thứ vũ khí lợi hại để sản xuất thông tin sai lệch. Video giả mạo dễ dàng được tạo và chia sẻ nhanh chóng, cho phép đạt tới hàng triệu lượt xem chỉ trong vài giây. Deepfake đặt ra một mối đe dọa lớn hơn tin giả thông thường bởi vì video giả mạo khó phát hiện hơn và người xem thường có xu hướng tin vào những gì họ được tận mắt thấy. Truyền thông xã hội hiện đang là nền tảng trực tuyến phổ biến, nhưng khi không thể kiểm soát được video giả mạo, niềm tin của người dùng sẽ bị đánh mất.

Lừa đảo, gây thiệt hại cho các cá nhân, tổ chức. Khi công nghệ dễ tiếp cận hơn, các vụ lừa đảo dựa trên công nghệ AI ngày càng nở rộ. Giả giọng và gọi điện yêu cầu chuyển tiền vào một tài khoản ngân hàng là một trường hợp deepfake dễ dàng thực hiện. Vụ lừa đảo doanh nghiệp đầu tiên xảy ra với một giám đốc điều hành một công ty năng lượng có trụ sở ở Anh. Anh này đã tin rằng mình đang nói chuyện điện thoại với giám đốc điều hành của công ty mẹ đóng trụ sở tại Đức và thực hiện lệnh chuyển tiền cho một nhà cung cấp ở Hungary. Hoá ra, toàn bộ cuộc thảo luận là một trò lừa đảo giọng nói do AI tạo ra(1). Từ những âm thanh, video giả, người ta cũng dễ tạo ra bằng chứng giả mạo có thể gây nhầm lẫn, làm phức tạp hoá quá trình phán quyết của các toà án, nhất là trong các cuộc chiến giành quyền nuôi con hoặc các vụ việc về kinh tế. Ngoài ra, việc bảo mật thông tin và hình ảnh cá nhân lỏng lẻo là kẽ hở để deepfake có thể bắt chước dữ liệu sinh trắc và có khả năng đánh lừa các hệ thống dựa vào nhận dạng khuôn mặt, giọng nói, dáng đi. Nhìn chung, tiềm năng xảy ra lừa đảo là rõ ràng.

Nhận diện video giả mạo trên mạng xã hội

Thoạt đầu, video giả mạo khó phát hiện nếu chỉ bằng quan sát thông thường. Các nhà nghiên cứu cho biết, dựa trên đặc điểm sinh trắc học mềm, chẳng hạn như cách một người trò chuyện, cùng với những điểm thiếu tương đồng.. mới giúp nhận ra được sự bất thường trong video đang trình chiếu.

Các chuyên gia công nghệ của Norton đã thống kê những đặc điểm nhận dạng một video là thật hay giả như sau:

Chuyển động mắt trông không tự nhiên: Các chuyển động của mắt của nhân vật xuất hiện trong video giả mạo thường không tự nhiên, thậm chí thiếu đi sự chuyển động của mắt (chớp hoặc đảo mắt). Công nghệ AI vẫn chưa thể đạt đến trình độ tái tạo hành động chớp mắt giống thật tự nhiên.

Biểu cảm khuôn mặt trông không tự nhiên, thiếu cảm xúc: Sự biến đổi trên khuôn mặt hoặc các đường ghép của hình ảnh thường không biểu lộ cảm xúc trùng khít với những gì họ đang nói.

Định vị tính năng khuôn mặt lúng túng. Nếu khuôn mặt nhân vật hướng về một phía và mũi của họ hướng về phía khác thì nên nghi ngờ về tính xác thực của video.

Cơ thể hoặc tư thế trông lúng túng: Một dấu hiệu khác là hình dạng cơ thể của một người trông không tự nhiên hoặc có vị trí đầu và cơ thể không nhất quán. Những điểm không nhất quán này dễ phát hiện vì công nghệ deepfake thường tập trung vào các đặc điểm trên khuôn mặt hơn là vận động của toàn bộ cơ thể.

Chuyển động cơ thể trông không tự nhiên: Trong video giả, nhân vật xuất hiện méo mó, hoặc mất nhân dạng khi họ quay sang một bên hoặc di chuyển đầu, hoặc chuyển động của nhân vật bị giật và rời rạc từ khung hình này sang khung hình khác.

Màu không tự nhiên: Màu da bất thường, đổi màu, ánh sáng kỳ lạ và bóng đổ không đúng chỗ đều là những dấu hiệu cho biết những gì đang nhìn thấy có thể là giả.

Tóc trông không giống thật. Người xem khó có thể thấy những lọn tóc xoăn hoặc bồng bềnh vì hình ảnh giả sẽ không thể tạo ra những đặc điểm riêng lẻ này.

Răng trông không giống thật. Các thuật toán ít có khả năng tạo ra các răng riêng lẻ, vì vậy việc thiếu đi đường viền của từng răng có thể là một manh mối phát hiện video giả mạo.

Bị mờ hoặc lệch vị trí. Nếu đường nét của hình ảnh bị mờ hoặc lệch. Ví dụ: mặt và cổ lệch với vị trí cơ thể của họ là dấu hiệu không đúng.

Tiếng ồn hoặc âm thanh không nhất quán. Những người tạo deepfake thường dành nhiều thời gian cho hình ảnh video hơn là âm thanh. Kết quả, cử động môi với lời nói đồng bộ hóa kém, giọng nói giống robot, phát âm từ lạ, có tiếng ồn kỹ thuật số hoặc không có âm thanh.

Hình ảnh trông không tự nhiên khi làm chậm. Nếu xem video trên màn hình lớn hơn điện thoại thông minh hoặc qua phần mềm chỉnh sửa video có tính năng làm chậm quá trình phát video, người dùng có thể phóng to và kiểm tra hình ảnh kỹ hơn. Ví dụ: phóng to môi sẽ giúp biết liệu nhân vật trong video có đang thực sự nói hay không, mức độ đồng bộ hóa môi như thế nào.

Sự khác biệt về hashtag (dấu thăng). Một thuật toán mật mã giúp người tạo video chứng minh rằng video của họ là xác thực. Thuật toán được sử dụng để chèn thẻ bắt đầu bằng hashtag vào một số vị trí nhất định trong nội dung của video. Nếu thẻ bắt đầu bằng hashtag thay đổi, thì bạn nên nghi ngờ video đã bị can thiệp.

Dấu vân tay kỹ thuật số. Công nghệ chuỗi khối có thể tạo ra dấu vân tay kỹ thuật số cho video. Xác minh dựa trên blockchain giúp thiết lập tính xác thực của video. Các chuỗi khối hoạt động như sau: Khi video được tạo, nội dung được đính kèm một mã số đăng ký nhằm giúp chứng minh tính xác thực của video.

Đảo ngược tìm kiếm hình ảnh. Tìm kiếm hình ảnh gốc hoặc tìm kiếm hình ảnh ngược với sự trợ giúp của máy tính có thể khai quật các video tương tự trực tuyến để giúp xác định xem hình ảnh, âm thanh hoặc video có bị thay đổi theo bất kỳ cách nào hay không. Mặc dù công nghệ tìm kiếm video đảo ngược chưa được công bố rộng rãi, nhưng việc đầu tư vào một công cụ như thế này có thể là phương án khả thi⁽²⁾.

Nhìn chung, trên đây là những dấu hiệu cơ bản để nhận định một video là giả hay không. Nhưng phải khẳng định rằng, với sự phát triển như vũ bão của công nghệ, deepfake liên tục “tiến hoá”, càng ngày càng giống thật. Nhân vật giả trong video giả mạo có thể cử động chính xác tương tự như người thật, giống hệt cả về giọng nói. Deepfake đã lấy chất liệu từ hình ảnh đến âm thanh để giả tạo con người, khiến người dùng càng ngày càng khó nhận biết.

Kiểm soát video giả mạo

Trong thời đại công nghệ phát triển như hiện nay, việc sử dụng công nghệ deepfake để tạo ra một đoạn video giả là khá đơn giản. Thậm chí, trên các kho ứng dụng của các hãng sản xuất điện thoại di động, những phần mềm làm ghép mặt vào video như FaceApp, Zao, Facejang, Pitu… xuất hiện lan tràn. Những dịch vụ nhận làm các loại video giả mạo nhằm phục vụ mục đích xấu đã xuất hiện trên mạng. Trên một số diễn đàn mà người tham gia được ẩn danh, người ta chỉ cần bỏ ra 20 đô la Mỹ là có thể sở hữu một video ghép mặt⁽³⁾.

Việc chặn đứng và xoá bỏ vấn nạn video giả mạo trên Internet và mạng xã hội là bài toán khó đòi hỏi sự chung tay của chính quyền và các tổ chức, doanh nghiệp.

Sử dụng công nghệ để phát hiện ra video giả mạo. Một số công ty đã chung tay tìm ra các cách để thúc đẩy sự minh bạch của AI và bảo vệ mọi người khỏi những trò lừa đảo. Các nền tảng truyền thông xã hội như Twitter và Facebook đã cấm sử dụng các deepfake độc hại. Google đang nghiên cứu các công cụ chuyển đổi văn bản thành giọng nói để xác minh người nói. Adobe có một hệ thống cho phép người dùng đính kèm một loại chữ ký vào nội dung mà mình sáng tạo để chỉ rõ các chi tiết của việc tạo ra nó. Adobe cũng đang phát triển một công cụ để xác định xem hình ảnh trên khuôn mặt đã được chỉnh sửa hay chưa. Các nhà nghiên cứu tại Đại học Nam California và Đại học California ở Berkeley nỗ lực khám phá các công nghệ phát hiện mới. Bằng cách sử dụng công nghệ máy học kiểm tra sinh trắc học mềm như nét mặt và cách nói của một người, họ có thể phát hiện ra những lỗi giả mạo sâu với độ chính xác từ 92 đến 96%⁽⁴⁾.

Nhiều tổ chức cũng đã phát động những cuộc thi phát hiện deepfake rộng rãi trong cộng đồng. Tháng 6.2020, Facebook mở một cuộc thi phát hiện video do AI thao túng. Khoảng 2.144 người tham gia đã gửi hơn 35.000 thuật toán phát hiện chi tiết giả mạo cho cuộc thi. Họ đã được kiểm tra khả năng xác định các video giả mạo từ tập dữ liệu gồm 100.000 đoạn phim ngắn. Thuật toán chiến thắng trong cuộc thi đã phát hiện ra những video sử dụng công nghệ deepfake với độ chính xác trung bình là 66,18%. Điều đó cho thấy, vẫn còn nhiều việc phải làm trước khi các hệ thống tự động có thể phát hiện nội dung giả mạo một cách đáng tin cậy⁽⁵⁾.

Giáo dục tư duy phản biện và kiến thức kỹ thuật số. Ngay cả khi đã có sẵn các giải pháp công nghệ giúp phát hiện video hay giọng nói giả, vai trò của người dùng Internet trong việc chống lại deepfake cũng rất quan trọng. Một trong những nguyên nhân chính khiến tin tức giả lan truyền nhanh và mạnh trong thời Facebook là vì nhiều người có thói quen chia sẻ thông tin sốc mà không kiểm chứng. Việc kiểm chứng video giả mạo còn khó khăn hơn tin giả thông thường do nhiều người dùng chưa hề có kinh nghiệm, kiến thức về cách sản xuất “đặc biệt” của loại video này. Hiểu biết về truyền thông nên được ưu tiên cho mọi công dân, bất kể tuổi tác. Việc giáo dục đầy đủ về cách thức lan truyền thông tin sai lệch và nhận thức chung về những gì tạo nên tác hại trực tuyến sẽ không chỉ giúp công dân xác định các hành vi lừa dối, mà còn giúp họ xác định thông tin sai lệch ở những nơi khác trên Internet.

Xây dựng tư duy phản biện như kỹ năng tối cần thiết trong thế kỷ XXI, giúp người trẻ điều hướng chính xác trong thời đại thông tin kỹ thuật số. Trong một nghiên cứu gần đây, học sinh ở một trường quốc tế ở Phần Lan thể hiện sự vượt trội đáng kể về khả năng đo lường mức độ tin cậy của các tin tức và video giả mạo. Theo đó, những người trẻ tuổi được hướng dẫn để xác định mức độ thông tin giả mạo như “Ai đứng sau thông tin?” và “Bằng chứng là gì?”. Thế hệ trẻ hiện tại trở nên cảnh giác hơn, bởi dù sao họ đã lớn lên với công nghệ kỹ thuật số, do đó họ ít có khả năng chia sẻ điều gì đó mà chưa được xác minh tính xác thực⁽⁶⁾. Giáo dục người dùng và trang bị kiến thức truyền thông là vấn đề then chốt giúp người dùng nhận thức rõ hơn về tác hại và sự lây lan của các nội dung giả mạo trên mạng, qua đó tự hình thành bộ lọc của chính mình.

Hoạch định chính sách và sự phối hợp chặt chẽ giữa chính phủ với các mạng xã hội. Những sự thật cơ bản là nền tảng cho hoạt động của bất kỳ chính phủ nào. Vấn nạn deepfake đã đe doạ sự thật; đe doạ nghiêm trọng đến các quyền tự do cơ bản; sao chép chân dung một người nào đó mà họ không hề hay biết và đồng ý; đe doạ nhân cách của họ… Do đó, việc hoạch định chính sách tốt có thể bảo vệ xã hội đương đại cũng như thế hệ tương lai khỏi sự lạm dụng của công nghệ mới.

Chính phủ nên xem xét lại các điều luật về xúc phạm danh dự, gian lận và chiếm đoạt tài sản. Việc điều chỉnh, làm rõ các hành vi trong các điều luật cũng như tăng mức độ xử phạt sẽ giúp xác định chính xác sự độc hại của deepfake và sẽ bảo vệ tốt hơn những công dân khỏi trở thành nạn nhân của loại công nghệ phát triển này.

Tại Trung Quốc, luật mới liên quan đến vấn đề ngăn chặn deepfake được chính phủ ban hành ngày 29.11.2019. Theo đó, cả nhà cung cấp và người dùng dịch vụ âm thanh, video trực tuyến đều không được phép sử dụng công nghệ trí tuệ nhân tạo (AI) như học sâu (deep learning) và thực tế tăng cường (AR) để sản xuất hoặc và phát tán tin giả, trong đó có deepfake. Luật này bắt đầu có hiệu lực từ ngày 1.1.2020, yêu cầu nhà cung cấp và người dùng dịch vụ âm thanh, video trực tuyến phải dán nhãn rõ ràng nội dung liên quan đến công nghệ học sâu trong quá trình tạo, phân phối và phát sóng. Đồng thời, các công ty cung cấp dịch vụ mạng nước này có trách nhiệm sử dụng công nghệ để phát hiện và loại bỏ video và âm thanh bị xuyên tạc nội dung.

Tại Mỹ, ở một số bang như California, thống đốc đã thông qua đạo luật cấm deepfake vào đầu tháng 10.2019. Tuy nhiên, đạo luật này vẫn còn gây tranh cãi vì nó có thể ảnh hưởng đến quyền tự do ngôn luận. Tháng 11.2019, bang California khép tội hình sự với hành vi sản xuất và phân phối video, hình ảnh hoặc âm thanh giả mạo chính trị gia trong chiến dịch tranh cử⁽⁷⁾.

Ở Việt Nam, Luật An ninh mạng chính thức có hiệu lực thi hành từ đầu năm 2019. Nhiều văn bản quy định khác trong lĩnh vực bảo mật và an toàn thông tin đã được ban hành. Đây là cơ sở pháp lý quan trọng để chúng ta có thể xử lý vấn nạn deepfake. Bên cạnh đó, nhiều tổ chức, doanh nghiệp cũng đã và đang nghiên cứu các nguy cơ trên không gian mạng, phát triển các giải pháp để phát hiện video giả mạng trên Internet.

Bên cạnh đó, sự hợp tác chặt chẽ giữa chính phủ với ngành công nghiệp để đầu tư vào các giải pháp kỹ thuật tốt hơn và linh hoạt hơn sẽ giúp xác định, điều tiết những vấn để nảy sinh trong quá trình ứng dụng công nghệ trong cuộc sống. Việc xác định rõ hơn các deepfake sẽ giúp các nền tảng truyền thông xã hội tạo ra các chính sách thống nhất và sẽ giúp bảo vệ quyền thể hiện của mọi người mà không cho phép nội dung có hại phát triển.

Cuối cùng, chính phủ các nước cần thiết lập các hướng dẫn minh bạch về cách thức và thời điểm chính phủ sử dụng công nghệ deepfake. Cũng như, công dân có quyền được bảo vệ khỏi các chiến dịch thông tin sai lệch của nước ngoài, họ cũng có quyền biết chính phủ của họ triển khai AI khi nào và như thế nào.

Việc bảo vệ xã hội khỏi những hậu quả tiêu cực của những tiến bộ trong trí tuệ nhân tạo là không thể. Chúng ta phải thừa nhận rằng, công nghệ đem lại nhiều thuận lợi cho cuộc sống, đồng thời cũng đặt ra những thách thức khó giải quyết triệt để. Chúng ta chấp nhận đối mặt với thách thức, nghĩa là chúng ta phải tạo ra một cơ chế tự bảo vệ mình thông qua việc nâng cao hiểu biết về truyền thông sâu sắc, góp phần bảo vệ xã hội miễn nhiễm với những ảnh hưởng tiêu cực của sử dụng công nghệ phi đạo đức./.

 ____________________________________

(1) Joel Linsay and Thor Schueler, How will AI-generated deepfake content impact your business,19.3.2020, Avanade Insights https://www.avanade.com/en/blogs/avanade-insights/artificial-intelligence/ai-generated-deepfake-content

(2)  Jennifer van der Kleut, How to spot deepfake videos - 15 signs to watch for, NortonLifeLock, 2019, https://us.norton.com/internetsecurity-emerging-threats-how-to-spot-deepfakes.html

(3) Trần Anh, Mặt trái của công nghệ Deepfake, báo Nhân dân điện tử, 7.72019, (https://nhandan.com.vn/baothoinay-hosotulieu/mat-trai-cua-cong-nghe-deepfake-363788/)

(4) Jennifer van der Kleut, How to spot deepfake videos - 15 signs to watch for, NortonLifeLock, 2019, https://us.norton.com/ internetsecurity-emerging-threats-how-to-spot-deepfakes.html

(5) James Vincent, Facebook contest reveal deepfake detection is still an “unsolved problem”, 12.6.2020, https://www.theverge.com/21289164/facebook-deepfake-detection-challenge-unsolved-problem-ai

(6) Tom Chivers, What do we do about deepfake video?, The Guardian, 23.7.2019, https://www.theguardian.com/technology/2019/jun/23/what-do-we-do-about-deepfake-video-ai-facebook

(7) Mai Bảo Trâm (2000), Deepfake video (video giả mạo) trên các trang mạng xã hội hiện nay, khoá luận tốt nghiệp, tr.112.