Theo The Next Web, TikTok hiện chứa một lượng nội dung deepfake nhiều hơn so với bất kỳ nền tảng nào khác.
Đáng chú ý nhất là @deeptomcruise với hàng chục video deepfake giả khuôn mặt Tom Cruise và có hơn 3,6 triệu người theo dõi cùng gần 14 triệu lượt thích. Trong đó, video thu hút nhất đạt hơn 43 triệu lượt xem.
Bên cạnh đó, những tài khoản giả mạo diễn viên nổi tiếng như Robert Pattinson, Keanu Reeves, nhân vật công chúng như Mark Zuckerberg, Elon Musk, thậm chí là các chính trị gia như Barack Obama, Donald Trump cũng cũng nhận hàng trăm nghìn lượt theo dõi. Nhiều người chia sẻ ở phần bình luận rằng họ không thể phân biệt thật giả.
Deepfake là sự kết hợp giữa deep learning (học sâu) và fake (giả). Công nghệ này sử dụng AI để phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra đời hình ảnh hoặc video như thật.
Không chỉ TikTok, video deepfake từng được phát tán nhiều trên các nền tảng khác. Năm 2019, Facebook bị chỉ trích vì cho phép video giả chính trị gia người Mỹ Nancy Pelosi xuất hiện.
Năm 2020, Twitter cấm video mang tính lừa dối, gây nhầm lẫn hoặc gây hại cho mọi người, sau đó TikTok cũng thực hiện điều tương tự. Cùng năm, YouTube chặn video deepfake liên quan đến cuộc bầu cử Tổng thống Mỹ.
Deepfake thường được tạo ra để thể hiện sự sáng tạo, để mua vui, “hồi sinh” các diễn viên đã qua đời, hoặc phổ biến nhất là ghép mặt ai đó vào phim khiêu dâm.
Theo số liệu của công ty phần mềm chuyên phát hiện deepfake Deeptrace, hơn 90% deepfake được quét liên quan tới nội dung khiêu dâm.
Các ứng dụng miễn phí như DeepNude 2.0 (hiện không còn tồn tại) từng bị lạm dụng để tạo video khỏa thân về một người bất kỳ với mục đích tống tiền.
Tuy nhiên, giới chuyên gia tỏ ra lo ngại khi deepfake lan tràn trên TikTok do người dùng trẻ chiếm một lượng lớn trên nền tảng này.
Trong khi đó, deepfake ngày càng được triển khai nhiều trong các chiến dịch gây sai lệch thông tin, gian lận danh tính, gây mất uy tín…
Với công nghệ trở nên hoàn thiện hơn, không phải người nào, nhất là trẻ nhỏ, cũng có thể phân biệt được hình ảnh thật giả trên mạng xã hội.
Ngoài ra, deepfake cũng được sử dụng để lừa đảo và gian lận danh tính. Kẻ gian có thể gửi tin nhắn dạng video giả danh đồng nghiệp hoặc người thân để nhờ chuyển tiền hoặc giao dịch ngân hàng.
Theo công ty nghiên cứu và phân tích dữ liệu PYMNTS, lừa đảo gian lận danh tính gây thiệt hại hơn 20 tỷ USD tại Mỹ trong năm 2020.
Làm thế nào để phát hiện deepfake?
Theo các chuyên gia, dù ngày càng tinh vi, deepfake hiện vẫn có thể được phát hiện bằng mắt thường nếu để ý kỹ các chi tiết.
Chẳng hạn, video giả sẽ có khuôn mặt quá mịn, bóng xương gò má bất thường, chuyển động của mí mắt và miệng có vẻ gượng gạo, không tự nhiên.
Chi tiết về tóc dễ phát hiện nhất, bởi các công nghệ deepfake hiện nay đang gặp khó trong việc tạo khuôn mặt kết hợp với tóc để trông giống như thật.
Bên cạnh đó, bối cảnh cũng rất quan trọng. Người xem có thể đặt câu hỏi rằng nhân vật thật có thói quen thực hiện các hành động như trong video hay không. Nếu không, khả năng cao đó là deepfake.
Với người nổi tiếng, người dùng có thể tìm kiếm về nhân vật trong video trên Google để kiểm chứng các thông tin mới nhất. Ngoài ra, có thể đánh giá độ tin cậy của nguồn đăng video trước khi kết luận độ chính xác của nó.
Tham gia Cộng đồng We’re Marketer để thảo luận các chủ đề về Marketing và Business tại: Link
Giang Nguyễn | MarketingTrips
(Theo The Next Web – VnExpress)
