TikTok xử lý nghiêm ngặt chiêu trò “lừa đảo” và những thông tin tiêu cực trên ứng dụng
Theo Vietnamnet, Hơn 10.000 thanh thiếu niên, bậc phụ huynh và các giáo viên được TikTok khảo sát khi họ rơi vào những thử thách và trò lừa đảo trực tuyến họ sẽ trải nghiệm như thế nào.
Sau khảo sát cho thấy, 48% đa số các thanh niên cảm thấy thử thách mà họ trải nghiệm là an toàn và thú vị. 32% số người khảo sát cảm thấy có phần rủi ro, nhưng họ vẫn thấy an toàn.
Có đến 46% số thanh thiếu niên được phỏng vấn muốn thêm thông tin để hiểu rõ về rủi ro tiềm ẩn trên môi trường mạng xã hội. 31% thanh thiếu niên cảm thấy bị ảnh hưởng tiêu cực từ những chiêu tò lừa đảo về tự tử và tự làm hại bản thân. Tuy nhiên, có tới 37% các bậc phụ huynh cho rằng vấn đề này chưa cấp thiết và họ gần như không đề cập với con em về những trò lừa bịp trực tuyến.
Theo chia sẻ với VietNamNet, đại diện truyền thông TikTok cho biết, khi họ nhận thức được mối nguy hại về những thông tin tiêu cực và chiêu thức lừa bịp trên môi trường mạng, họ đã tập trung nguồn lực vào việc nghiên cứu các chính sách và kỹ thuật nhằm phát hiện tác động tiêu cực và thực hiện trên quy mô lớn theo tiêu chuẩn cộng đồng.
TikTok dựa trên các tiêu chuẩn ngành nhằm xác định hàng loạt hình ảnh, video vi phạm nhờ vào việc dùng hoạt công nghệ dạng chuỗi để tạo đoạn mã nhận dạng kỹ thuật số riêng biệt.
Chẳng hạn như, khi phát hiện ra nội dung về xâm hại tình dục ở trẻ em, mã nhận dạng sẽ tiến hành rà soát và xóa toàn bộ các nội dung liên quan, đồng thời các nội dung tương tự sẽ được ngăn chặn triệt để từ khi người dùng bắt đầu đưa dữ liệu lên.
Báo cáo Minh bạch mới nhất đã đưa tin, TikTok đã gỡ bỏ 87,5% video vi phạm khi chưa có lượt xem. Điều này đã cho thấy rõ hiệu quả của công nghệ này.
Tuy rằng, công nghệ có thể giúp loại bỏ các vi phạm, nhưng đội ngũ kiểm duyệt cũng vô cùng quan trọng. Nhóm đối tượng đóng vai trò là xử lý chặt chẽ các nội dung được báo cáo.
Hệ thống machine learning (máy học) sẽ được cải thiện nhờ vào các phân tích và phản hồi của đội ngũ kiểm duyệt, từ đó nắm bắt được xu thế mới và điều chỉnh chức năng rà soát nội dung trong tương lai.
Những phản hồi của đội ngũ kiểm duyệt là yếu tố cần thiết giúp cho mạng TikTok cải tiến độ chính xác của quy trình kiểm duyệt nội dung. Như vậy, để loại bỏ nguy cơ nội dung vi phạm lan rộng trên nền tảng xã hội thì các video triệu view sẽ được xem xét lạ.
Và không chỉ dừng lại TikTok còn nghiên cứu sâu hơn về các quyết định kiểm duyệt nội dung nhằm tìm hiểu lý do vì sao những nội dung vi phạm vẫn chưa được loại bỏ sớm hơn và đưa ra xu hướng của nội dung vi phạm trên nền tảng.