LinkedIn giới thiệu mô hình kiểm duyệt nội dung mới với sự hỗ trợ của AI

Mạng xã hội LinkedIn vừa thông báo giới thiệu mô hình hay hệ thống đánh giá và kiểm duyệt nội dung (content review framework) mới với sự hỗ trợ của AI (trí tuệ nhân tạo), mô hình được cho là có thể xoá đến 60% lượng nội dung độc hại.

Nhờ vào sức mạnh của AI, mô hình đánh giá nội dung mới của LinkedIn có thể được xem là tương lai của hoạt động đánh giá và kiểm soát nội dung (content moderation) trên các nền tảng, đặc biệt là với mạng xã hội.

Cách hệ thống của LinkedIn kiểm soát các nội dung vi phạm.

Bên cạnh việc sử dụng các yếu tố công nghệ tự động, LinkedIn cũng có các nhóm kiểm duyệt nội dung thủ công chuyên đánh giá các nội dung có thể vi phạm chính sách của nền tảng.

Kết hợp các mô hình AI, cùng với những báo cáo từ các thành viên LinkedIn, LinkedIn có thể phát hiện những nội dung có hại và xóa nội dung đó.

Nếu như các mô hình trước đây (FIFO) có khá nhiều hạn chế khi LinkedIn phải mất rất nhiều thời gian để xem xét và đánh giá, quy trình mới được cho là sẽ tăng tốc hơn nhiều.

Mô hình kiểm duyệt nội dung mới của LinkedIn sử dụng XGBoost.

Theo báo cáo của LinkedIn, mô hình kiểm duyệt nội dung mới sử dụng mô hình học máy XGBoost để dự đoán mẫu nội dung nào có khả năng vi phạm chính sách.

XGBoost là từ viết tắt của Extreme gradient Boosting, một thư viện máy học mã nguồn mở (open source machine learning) giúp phân loại và xếp hạng các mẫu (items) trong tập dữ liệu.

XGBoost sử dụng các thuật toán để đào tạo mô hình, nó hoạt động bằng cách tìm kiếm các mẫu (nội dung, dữ liệu) cụ thể trên tập dữ liệu được gắn nhãn (tập dữ liệu được gắn nhãn cho biết mục nội dung nào đang vi phạm).

Theo LinkedIn:

“Với mô hình (framework) này, các nội dung đưa vào hàng đợi đánh giá sẽ được một bộ mô hình AI chấm điểm để tính toán xác suất nội dung đó có khả năng vi phạm chính sách của chúng tôi.

Nội dung có khả năng không vi phạm cao sẽ không được ưu tiên, ngược lại, các nội dung có khả năng vi phạm chính sách cao hơn sẽ được ưu tiên hơn để từ đó có thể phát hiện và xóa nhanh hơn.”

Những tác động có thể có của mô hình kiểm duyệt nội dung mới của LinkedIn.

LinkedIn báo cáo rằng mô hình mới có thể đưa ra quyết định tự động đối với khoảng 10% nội dung được xếp hàng để đánh giá, với mức mà LinkedIn gọi là mức độ chính xác “cực kỳ cao”.

Đáng chú ý, mô hình mới giúp giảm thời gian trung bình để phát hiện nội dung vi phạm chính sách đến 60%.

Mô hình mới sẽ được sử dụng để đánh giá các bài đăng và nhận xét trên nguồn cấp dữ liệu của LinkedIn. Công nghệ này đã được chứng minh là thành công và theo thời gian nó có thể trở nên phổ biến hơn khi nó được ứng dụng rộng rãi hơn.

Tham gia Cộng đồng We’re Marketer của MarketingTrips (Trang tin trực tuyến về Marketing và Kinh doanh) để thảo luận các chủ đề về Marketing và Business tại: We’re Marketer