Khi nhập tên ngôi sao nhạc pop nổi tiếng vào ô tìm kiếm trên X, người dùng nhận được thông báo: “Rất tiếc, đã xảy ra lỗi”. Tuy nhiên, mạng xã hội không chặn một số cụm từ khác liên quan đến tên Taylor Swift. Ví dụ, cụm từ “Taylor Swift AI” và “Taylor AI” bị chặn nhưng “Swift AI”, “Taylor AI Swift” và “Taylor Swift deepfake” vẫn có thể được tìm kiếm.
“Việc không thể tìm tên Taylor Swift cho thấy X có lẽ không biết cách xử lý hàng loạt hình ảnh và video giả mạo trên nền tảng của mình”, trang Mashable nhận định.
NBCNews đã liên hệ với X về động thái mới nhưng chưa nhận được câu trả lời.
Trước đó, ngày 26/1, nhóm phụ trách các vấn đề an toàn của X thông báo đang tích cực xác định, xóa và thực hiện các hành động thích hợp với những tài khoản đăng ảnh, video khiêu dâm giả mạo.
Ngày 27/1, Nhà Trắng cũng bày tỏ lo ngại, kêu gọi các mạng xã hội tăng cường kiểm soát nội dung sau vụ lan truyền ảnh mạo danh Taylor Swift. “Chúng tôi lo ngại trước thông tin về những hình ảnh mới lan truyền trên mạng xã hội. Đó là ảnh giả mạo và là vấn đề đáng báo động”, thư ký báo chí Nhà Trắng Karine Jean-Pierre nói, đề cập tình trạng deepfake khiêu dâm của Taylor Swift bị phát tán trên mạng xã hội.
Mỹ chưa có quy định liên bang nhằm ngăn chặn hoặc răn đe những người tạo, chia sẻ ảnh deepfake khiêu dâm mà chưa được cho phép. Một số bang đã ra lệnh cấm deepfake, chủ yếu liên quan đến nội dung khiêu dâm và bầu cử, nhưng chưa có những quy định rõ ràng về tác động của AI.
Hình ảnh deepfake của Taylor Swift xuất hiện trên X đã có tới 47 triệu lượt xem trước khi bị khóa hôm 25/1. X cũng đình chỉ một số tài khoản đăng ảnh giả của nữ ca sĩ. Tuy nhiên, những ảnh này vẫn nhanh chóng lan truyền trên nhiều nền tảng khác, bất chấp nỗ lực ngăn chặn.
Ben Colman, CEO công ty an ninh mạng Reality Defender, xác nhận 90% ảnh giả mạo trên được tạo ra bằng mô hình AI Stable Diffusion. Nền tảng AI này có thể được truy cập thông qua hơn 100.000 ứng dụng và các công cụ online.
Special Offer từ MarketingTrips:
- Tham khảo giải pháp Agency Listing từ MarketingTrips: Agency Networks
- Đăng bài không giới hạn trên MarketingTrips với chi phí chỉ bằng 1 bài đăng (Booking): Content Partner
- Đăng ký (dành cho Agency): Sign up
Tham gia Cộng đồng We’re Marketer của MarketingTrips (Trang tin tức trực tuyến về Marketing, Digital Marketing, Thương hiệu, Quảng cáo và Kinh doanh) để thảo luận các chủ đề về Marketing và Business tại: We’re Marketer
