Hive, sebuah perusahaan yang menyediakan sistem moderasi konten untuk platform media sosial, baru-baru ini mengumumkan kolaborasi dengan Internet Watch Foundation (IWF), sebuah organisasi nirlaba yang berbasis di Inggris. Kerja sama ini bertujuan untuk meningkatkan kemampuan Hive dalam mengidentifikasi dan menghapus konten eksploitasi seksual anak (CSAM) yang berbahaya di internet.
Dalam pernyataannya, CEO Hive, Kevin Guo, menyebut bahwa sistem moderasi konten mereka berfungsi seperti 'antivirus modern' yang dapat mendeteksi konten berbahaya, termasuk gambar dan video yang menyangkut eksploitasi anak. Dengan adanya kemitraan ini, Hive akan mengintegrasikan basis data dari IWF, yang memuat daftar sekitar 8.000 situs web yang telah terkonfirmasi mengandung gambar CSAM, baik yang asli maupun yang dihasilkan oleh kecerdasan buatan (AI).
Selain itu, database tersebut juga mencakup frasa unik dan kata kunci yang sering digunakan oleh pelanggar untuk menyembunyikan konten tersebut dari sistem moderasi. Dengan menggunakan data ini, Hive akan lebih efektif dalam menemukan dan menghapus konten yang melanggar dari platform pelanggannya.
Sebagai bagian dari kesepakatan ini, pelanggan Hive juga akan mendapatkan akses ke 'hashes' IWF, yang merupakan sidik jari digital dari jutaan gambar dan video CSAM yang telah dikenal. Ini adalah langkah penting dalam memerangi penyebaran konten eksploitasi anak secara online.
Kerja sama ini merupakan lanjutan dari kolaborasi Hive tahun 2024 dengan Thorn, sebuah organisasi nirlaba nasional yang mengembangkan teknologi deteksi CSAM. Dengan menggabungkan sumber daya dan teknologi dari kedua organisasi, Hive bertujuan untuk memperluas jangkauannya dan membersihkan lebih banyak konten yang melanggar dari platform yang mereka layani.
Penting bagi semua pengguna internet untuk memahami betapa seriusnya masalah konten eksploitasi anak. Dengan adanya teknologi dan kolaborasi seperti ini, diharapkan internet bisa menjadi tempat yang lebih aman bagi semua orang, terutama anak-anak.
Hive IWF konten eksploitasi anak teknologi moderasi konten