Begini Cara YouTube Deteksi Konten Negatif di Platformnya
Published: 10 Aug 2017, oleh Dikdok
Selain dimanfaatkan untuk melakukan berbagai hal positif, nyatanya tak sedikit pula yang memanfaatkan media sosial untuk melakukan hal negatif. Contohnya saja, YouTube yang dimanfaatkan oleh pihak ekstrimis dan teroris untuk menyebarkan berbagai konten propaganda. Namun, YouTube memiliki cara tersendiri untuk menanggulangi hal tersebut.
Memanfaatkan teknologi machine learning, pengelola YouTube dikabarkan tengah mengembangkan cara untuk mempercepat pendeteksian video-video berkonten negatif tersebut. Pihak YouTube mengklaim, bahwa melalui teknologi ini, membuat YouTube mampu mengendus keberadaan video-video ekstrimis, bahkan sebelum video-video tersebut terdeteksi oleh manusia.
"Lebih dari 75 persen video yang dihapus karena mengandung ekstrimisme dan kekerasan pada bulan lalu berhasil dideteksi sebelum ada pengguna yang menandai (flag) video bersangkutan," klaim YouTube dalam blog resminya.
Selain memiliki kecepatan dan tingkat efisiensi yang lebih baik, YouTube juga menyebutkan bahwa teknologi penyaringan video dengan menggunakan machine learning ini bahkan memiliki tingkat keakuratan yang lebih baik dibandingkan dengan pencarian manual oleh manusia.
Namun, tim yang beranggotakan manusia sungguhan juga tetap dikerahkan oleh pihak pengelola untuk menyisir konten negatif yang mungkin saja tidak terdeteksi oleh machine learning.
Video-video yang dianggap melanggar ketentuan YouTube nantinya akan dihapus secara otomatis oleh YouTube. Namun, juga ada video-video lain yang tidak melanggar namun akan tetap mendapatkan flag karena mengandung konten-konten seperti hate speech, atau yang bersifat memancing kontroversi.
Dalam kasus tersebut, video-video itu tidak akan dihapus, namun akan dikenakan sejumlah pembatasan (limited state). Video-video tersebut, misalnya, akan dibuat tidak bisa menayangkan iklan dan tidak akan masuk ke daftar rekomendasi. Fitur-fitur seperti komentar dan like pun akan diputus.
Pembatasan video dengan “limited state” ini rencananya akan mulai dihadirkan oleh YouTube dalam "beberapa minggu ke depan."
"Pendekatan baru ini membutuhkan tool internal dan proses yang signifikan. Butuh waktu sebelum bisa diimplementasikan sepenuhnya," ujar YouTube.