Nội dung lừa đảo tràn ngập các mạng xã hội, từ TikTok đến Facebook

Có thể là TikTok, Facebook hay thậm chí là các trang web hẹn hò, những kẻ lừa đảo ngày càng giỏi tạo nội dung thu hút nạn nhân. Điều đó một phần được kích hoạt bởi trí tuệ nhân tạo (AI).

Trên TikTok, người dùng có thể thưởng thức rất nhiều loại nội dung, mỗi loại nội dung đều có sức hấp dẫn riêng. Từ xu hướng TikTok đến các video giải thích cho đến các meme hài hước, nội dung trên TikTok không chỉ có thể gây nghiện mà còn có sức ảnh hưởng.

Nhiều người dùng cố gắng bắt chước nội dung hiện có trên TikTok, đặc biệt đối với các video đã lan truyền hoặc trở thành xu hướng. Điều này về danh nghĩa là vô hại – nhưng một số nội dung lại gây hại cho người xem.

Vì vậy, TikTok đã đầu tư các công cụ để phát hiện và xóa những nội dung có hại đó. Nhưng việc xác định nội dung có hại vẫn là một thách thức lớn, đặc biệt là khi những người sáng tạo liên tục tìm cách tránh bị thuật toán phát hiện và chặn.

Nguyên tắc cộng đồng dành cho nội dung của TikTok nêu rõ: “Nhằm đảm bảo trải nghiệm an toàn, đáng tin cậy và sôi động, chúng tôi duy trì một bộ Nguyên tắc cộng đồng bao gồm các quy tắc và tiêu chuẩn sử dụng TikTok. Các nguyên tắc này áp dụng cho mọi người và mọi thứ trên nền tảng của chúng tôi.

Nguyên tắc sẽ dựa trên các khuôn khổ pháp lý quốc tế, các phương pháp thực hành tốt nhất trong ngành và ý kiến đóng góp từ cộng đồng, các chuyên gia về an toàn và sức khỏe cộng đồng cũng như Hội đồng Cố vấn khu vực của chúng tôi.

Chúng tôi phát triển các nguyên tắc đó để giải quyết những rủi ro mới nổi và những tác hại tiềm ẩn có thể xảy ra từ những hành vi mới”.

Đồng thời, ứng dụng mạng xã hội có hơn 1,67 tỷ người dùng trên toàn thế giới này vẫn tiếp tục phải giải quyết các vấn đề pháp lý trên toàn thế giới.

Mỹ muốn cấm hoàn toàn TikTok do lo ngại ứng dụng này đang theo dõi người dùng và một số bang đã ra lệnh cấm. Một số quốc gia khác cũng đã có động thái chặn sử dụng ứng dụng này trên các thiết bị của chính phủ.

Nhưng điều này không ngăn cản gã khổng lồ truyền thông xã hội phát triển lượng người hâm mộ. Lượng fan đông đảo cũng mang đến cơ hội quảng cáo rất lớn cho doanh nghiệp. Theo thống kê, TikTok đã tạo ra 4 tỷ USD từ doanh thu quảng cáo, con số này dự kiến sẽ tăng gấp đôi vào năm 2024 và tăng gấp 4 lần vào năm 2026.

NHỮNG KẺ LỪA ĐẢO ĐANG TRÀN NGẬP NỘI DUNG TIKTOK

Với mức độ phổ biến mạnh mẽ, những kẻ lừa đảo đã tận dụng nền tảng này. Nội dung TikTok đã được chứng minh là có sức ảnh hưởng, đặc biệt là trong việc thu hút người dùng dùng thử sản phẩm mới hoặc thậm chí là đầu tư. Một số người dùng thậm chí còn thích nhận tin tức trên ứng dụng thay vì dựa vào các trang web tin tức thực tế.

Theo báo cáo của Bleeping Computer, TikTok gần đây đã chứng kiến sự gia tăng các chương trình quà tặng tiền điện tử giả. Các video có vẻ đang lợi dụng danh tiếng Elon Musk. Những trò lừa đảo này đã xuất hiện được một thời gian nhưng lại xuất hiện trở lại trên TikTok.

Khi người dùng lướt qua ứng dụng, một video deepfake về Musk nói về tiền điện tử sẽ xuất hiện. Trong khi hầu hết người dùng sẽ bỏ qua nó, một số người sẽ tiếp tục xem và thậm chí nhấp vào liên kết trên clip.

Báo cáo cũng cho biết những kẻ lừa đảo đã thiết lập hàng trăm trang web giả vờ là các trang web trao đổi tiền điện tử hoặc tặng quà để nhắc người dùng đăng ký tài khoản nhận tiền điện tử miễn phí. Tuy nhiên, những trò lừa đảo này chỉ đơn giản là đánh cắp thông tin, tiền bạc và người dùng không nhận được gì.

Cuối cùng, nạn nhân sẽ mất tiền khi họ cố gắng rút số tiền họ đã đầu tư vào vụ lừa đảo. Mặc dù không rõ số tiền thiệt hại do các vụ lừa đảo này là bao nhiêu, nhưng các báo cáo cho thấy ngày càng có nhiều nạn nhân rơi vào các phương thức lừa đảo như vậy trên TikTok.

TỪ TIKTOK ĐẾN X, NỘI DUNG LỪA ĐẢO CÓ Ở KHẮP MỌI NƠI

TikTok không phải là nền tảng truyền thông xã hội duy nhất tràn ngập nội dung lừa đảo. Các báo cáo cho thấy ngay cả X (Twitter) cũng chứa đầy các tweet tương tự, với mục đích lừa đảo người dùng đầu tư tiền của họ vào các vụ lừa đảo tiền điện tử.

Các ứng dụng hẹn hò cũng đang lừa nạn nhân rơi vào những trò lừa đảo như vậy. Một báo cáo gần đây của Sophos đã nêu bật một hoạt động lừa đảo sử dụng các nhóm giao dịch giả tiền điện tử để đánh cắp hơn 1 triệu USD.

Vụ việc bắt đầu từ việc một nạn nhân kết nối trên ứng dụng hẹn hò MeetMe với một kẻ lừa đảo. Sau nhiều tuần trò chuyện, kẻ lừa đảo vừa đưa ra những lời hứa lãng mạn vừa cố tình thuyết phục nạn nhân đầu tư vào tiền điện tử.

Nạn nhân đã mở một tài khoản Trust Wallet (một ứng dụng hợp pháp để chuyển đổi USD sang tiền điện tử) và kết nối với trang web nhóm thanh khoản mà kẻ lừa đảo đã đề xuất.

Trên thực tế, trang web này là một trang web lừa đảo sử dụng thương hiệu Allnodes, một nhà cung cấp nền tảng tài chính phi tập trung có uy tín, làm vỏ bọc. Sau khi đầu tư 22.000 USD vào kế hoạch này, những kẻ lừa đảo đã lấy sạch ví kỹ thuật số của nạn nhân.

Vào năm 2022, Sophos đã theo dõi hàng chục trang web ‘nhóm thanh khoản’ lừa đảo này và hiện họ đã phát hiện có hơn 500 trang web.

NHỮNG KẺ LỪA ĐẢO NGÀY CÀNG GIỎI SÁNG TẠO NỘI DUNG

Có thể là TikTok, Facebook hay thậm chí là các trang web hẹn hò, những kẻ lừa đảo ngày càng giỏi hơn trong việc phát triển nội dung thu hút nạn nhân.

Điều đó một phần được kích hoạt bởi trí tuệ nhân tạo (AI). Các công cụ AI sáng tạo ngày nay có thể giúp những kẻ lừa đảo không chỉ tạo ra các email lừa đảo hoàn hảo mà còn tạo ra nội dung có vẻ chân thực.

Đối với các ứng dụng hẹn hò, AI có thể được sử dụng để tạo ra các tính cách và thậm chí đưa ra những câu trả lời lãng mạn để thu hút nạn nhân. Nhưng điều đáng lo ngại hơn là việc sử dụng công nghệ deepfake.

Những kẻ lừa đảo có thể giả mạo hình ảnh của người thật và sử dụng chúng để săn lùng nạn nhân. Elon Musk chỉ là một ví dụ về hành vi lừa đảo trên mạng xã hội TikTok. Đối với các trang web hẹn hò, những kẻ lừa đảo có thể sử dụng ảnh hồ sơ deepfake và thậm chí sử dụng AI để tạo ra nhân cách nhằm thuyết phục nạn nhân mắc bẫy.

TikTok có thể đang cố gắng xóa những nội dung như vậy, nhưng với công nghệ ngày càng trở nên tốt hơn, có thể phải mất một thời gian nữa để ứng dụng này thực sự phát hiện được các nội dung giả mạo sâu trên trang web của mình.

Điều tương tự cũng xảy ra với các trang web hẹn hò.

Tham gia Cộng đồng We’re Marketer của MarketingTrips (Trang tin trực tuyến về Marketing và Kinh doanh) để thảo luận các chủ đề về Marketing và Business tại: We’re Marketer

Hà Anh  | MarketingTrips