TikTok Mengecek 160 Juta Video Setiap Hari, Begini Caranya
Di balik layar, ada tiga langkah yang memastikan keamanan konten di TikTok: pengecekan oleh AI, laporan komunitas, dan tinjauan ulang moderator manusia.
1. Otomatisasi yang Ketat dengan Pembelajaran Mesin
Langkah pertama dalam penyaringan video dilakukan oleh sistem kecerdasan buatan (AI). AI TikTok dilatih untuk mengenali pola tertentu dalam konten, seperti kekerasan, ujaran kebencian, dan ketelanjangan.
Ini mencakup deteksi obyek berbahaya bagi anak-anak dan remaja seperti senjata, rokok, dan alkohol; bagian tubuh yang memperlihatkan ketelanjangan; hingga simbol atau bendera organisasi terlarang.
“Mesin ditunjukkan 100 konten yang memuat obyek berbahaya seperti pisau. Setelah mesin melihatnya untuk ke 101-kalinya, mesin dapat mengenalinya. Mesin terus belajar melalui pengulangan, untuk mengingat hal-hal dengan benar,” ujar Tim Transparency and Accountability Center (TAC) TikTok di Singapura, Selasa (6/5/2025).
Walaupun efektif, TikTok mengakui sistem otomatis ini tidak sempurna. Sistem pembelajaran mesin sangat bergantung pada dataset atau kumpulan data yang tersedia. Semakin besar dan beragam data, semakin mudah bagi mesin untuk mengenali.
2. Tinjauan Ulang oleh Manusia
Setelah melewati pemeriksaan otomatis, konten tertentu akan diperiksa ulang oleh moderator manusia—terutama yang mengandung ambiguitas atau perlu penilaian kontekstual.
“Keputusan akhirnya sering kali melibatkan pemahaman tentang konteks budaya, bahasa, sosial, dan emosi yang terkandung dalam video. Itulah mengapa moderator manusia tetap sangat penting dalam proses ini,” kata Tim TAC TikTok.
Contohnya, sebuah video yang memperlihatkan pisau mungkin terlihat berbahaya, padahal bisa jadi itu adalah dokumentasi pembuatan pisau di pabrik. Konteks inilah yang hanya bisa dipahami manusia, bukan mesin.
TikTok mempekerjakan ribuan moderator manusia tersebar di berbagai belahan dunia. Mereka beroperasi 24 jam sehari, 7 hari seminggu, untuk meninjau konten yang ditandai oleh sistem otomatis atau dilaporkan pengguna.
Bagi pengguna yang merasa kontennya tidak adil dihapus atau dibatasi, TikTok menyediakan mekanisme koreksi yang dikenal dengan istilah banding atau appeal. Ketika sebuah video ditandai atau dihapus, pengguna dapat mengajukan banding untuk meminta tinjauan ulang oleh moderator manusia.
3. Keterlibatan Komunitas lewat Mekanisme Pelaporan
Selain AI dan tim internal, TikTok juga mengandalkan komunitasnya untuk membantu menjaga platform tetap aman. Pengguna dapat melaporkan video yang dianggap melanggar melalui fitur pelaporan (reporting) yang tersedia di setiap konten.
“Kami menerima jutaan laporan dari pengguna setiap hari, dan setiap laporan dianalisis untuk menentukan langkah selanjutnya,” kata tim TAC TikTok.
Laporan yang masuk akan terlebih dahulu diproses oleh sistem otomatis. Bila ditemukan potensi pelanggaran, konten dapat langsung dihapus atau masuk antrean peninjauan moderator.
“Mesin bisa belajar dari pola, tapi komunitas bisa menangkap nuansa. Pelaporan dari pengguna menjadi salah satu sumber data yang paling berharga untuk terus meningkatkan sistem kami,” tambah Tim TAC TikTok.
Dalam beberapa kasus, TikTok juga mengirimkan notifikasi kepada pengguna yang melaporkan untuk memberi tahu status konten yang dilaporkannya, sebagai bentuk transparansi dan apresiasi atas partisipasi mereka.
Dengan kombinasi kecanggihan teknologi, pengawasan manusia, dan partisipasi komunitas, TikTok terus berupaya menciptakan ruang digital yang aman, inklusif, dan bertanggung jawab.
