Liên quan đến một TikToker mới đây đã bị cộng đồng mạng tẩy chay vì có những phát ngôn không phù hợp, nhiều người đặt ra câu hỏi là liệu thuật toán của TikTok có liên quan đến vấn nạn này như thế nào.
Các chuyên gia nhận định, bên cạnh chiêu trò câu view của người làm nội dung, việc để nội dung xấu lan truyền trên mạng xã hội còn thuộc về phía nền tảng mạng xã hội.
Đây không phải lần đầu TikTok bị chỉ trích liên quan đến nội dung bẩn và độc hại trên nền tảng. Đầu tháng 7, Trung tâm Luật pháp nạn nhân mạng xã hội Mỹ (SMVLC) đã nộp đơn kiện TikTok lên tòa án tại Los Angeles vì đã tiếp tay cho trào lưu Blackout (Thử thách ngạt thở), trong đó yêu cầu người tham gia thực hiện một số hành động gây ngạt để rơi vào trạng thái ngất xỉu tạm thời.
Theo Washington Post, ít nhất 7 trẻ em thiệt mạng vì trào lưu này. Không ít nội dung độc hại khác cũng từng lan truyền trên TikTok và gây phẫn nộ như Veneer Vlog (mài răng), Penny Challenge (cắm hờ sạc điện thoại vào ổ điện, sau đó thả đồng xu vào khe hở để tạo tia lửa), khiến các chuyên gia phải lên tiếng cảnh báo vì sự nguy hiểm.
Thuật toán AI của TikTok đang cố giữ chân người dùng bằng nội dung được cho là hấp dẫn.
“Động lực thực sự của TikTok không phải giải trí mà là lợi nhuận. Thuật toán AI của nền tảng đang cố giữ chân người dùng bằng nội dung được cho là hấp dẫn, bất chấp nó nguy hiểm hoặc phản cảm ra sao”, Johannes Eichstaedt, chuyên gia về AI tại Viện Stanford, nhận định trên Wired.
Trong khi đó, theo Catherine Wang, chuyên gia AI tại Google, mỗi ngày TikTok có hàng triệu nội dung được tải lên.
Các lỗ hổng trong hệ thống đánh giá khiến nội dung độc hại dễ dàng vượt qua vòng sàng lọc, trong khi việc duyệt thủ công từng video là không thể với lượng người dùng khổng lồ của TikTok.
Trong nghiên cứu đăng trên Towards Data Science, Wang cho biết trong khi AI phân loại nội dung có dấu hiệu vi phạm một cách máy móc, đội kiểm duyệt thủ công thường dựa vào ba tiêu chí chính là tiêu đề, ảnh đại diện và khung hình chính của video để quyết định video đó được xuất hiện trên nền tảng không.
Sau khi lọt qua vòng kiểm duyệt, video bắt đầu được TikTok phân bổ khắp thế giới bằng thuật toán. Đây cũng là đáp án cho câu hỏi vì sao những “content bẩn” trên TikTok lại có tốc độ lan truyền chóng mặt như vậy.
Theo Wang, điểm đặc biệt của thuật toán TikTok là không thiên vị người đăng video có nổi tiếng hay chỉ là tài khoản bình thường. Khi một nội dung mới xuất hiện, thuật toán sẽ phân bổ đến 200-300 người dùng đang hoạt động để đo mức độ tương tác.
Nếu trên 10% thích video, thuật toán tiếp tục đưa nó đến 10.000-100.000 người dùng khác. Cứ thế, AI lan truyền nội dung đến hàng triệu người chỉ trong thời gian ngắn mà không đặt nặng vấn đề độc hại hay hữu ích.
Thuật toán của TikTok bỏ qua khâu sàng lọc dẫn đến việc nhiều nội dung độc hại tồn tại trên nền tảng.
Trong khi các mạng xã hội khác ưu tiên hiển thị video của những tài khoản “được xác minh” để giảm thiểu nội dung độc hại, thuật toán TikTok bỏ qua khâu sàng lọc quan trọng này.
AI của TikTok cũng tiếp tục đo đếm hiệu quả tương tác của video để quyết định đưa nó vào kho tiềm năng, tức gợi ý cho người dùng nội dung họ có thể “chưa biết là mình có nhu cầu xem”. Bước này góp phần quan trọng khiến không ít người tò mò, mở video có nội dung không phù hợp, dù đã thiết lập bộ lọc nhóm nội dung.
Mục Xu hướng của TikTok cũng là kênh phân phối cho nội dung lạ. “Không đến 1% video tải lên mỗi ngày được lên mục xu hướng. Nhưng một khi lên đây, nó sẽ được đề xuất cho người dùng một cách ngẫu nhiên, kể cả đó là nội dung bẩn”, Wang lưu ý.
Cuối cùng, thuật toán TikTok khuyến khích nhà sáng tạo nội dung tiếp tục làm thêm những video tương tự. Nhiều chủ tài khoản cho biết nội dung của họ được “ưu ái” hơn sau nhiều tuần đăng video đều đặn.
Sau nhiều phân tích, Wang phát hiện TikTok có một thuật toán gọi là “gravedigger” chuyên xem xét nội dung cũ và tìm kiếm các ứng viên mới có thể sản xuất video “chất lượng”.
“Nếu thuật toán chọn nội dung của bạn, những video khác trong cùng tài khoản cũng được ưu tiên phân phối nhiều hơn”, Wang nói.
Ngoài ra, nếu một tài khoản có video được lên xu hướng, AI sẽ kéo thêm nhiều người đến với tài khoản. Họ tò mò thêm về những video khác, đó là lý do vì sao “content bẩn” trên TikTok trở thành vấn đề khiến các nhà quản lý đau đầu hơn bất kỳ nền tảng nào.
Sau khi nghiên cứu tài liệu “TikTok Algo 101” của Catherine Wang được công bố cuối 2021, Guillaume Chaslot, người sáng lập Algo Transparency, nói: “Thật điên rồ khi để thuật toán TikTok điều khiển cuộc sống của những đứa trẻ.
Mỗi video một đứa trẻ xem, TikTok thu về một phần thông tin và tiếp tục phân phối nội dung”. Các chuyên gia lo ngại thuật toán bí mật của TikTok không chỉ gây nghiện với người dùng mà còn khiến những video có nội dung độc hại được lan tỏa mạnh mẽ hơn so với bất kỳ mạng xã hội nào khác.
Trong báo cáo minh bạch đầu năm, TikTok cho biết Việt Nam nằm trong 30 thị trường có số video bị xóa cao nhất, với khoảng 2,4 triệu video đã bị gỡ bỏ vì vi phạm chính sách cộng đồng.
Tham gia Cộng đồng We’re Marketer để thảo luận các chủ đề về Marketing và Business tại: We’re Marketer
Hà Anh | MarketingTrips
