Departemen kepolisian di beberapa wilayah dekat perbatasan Amerika Serikat-Meksiko dilaporkan mengeluarkan ratusan ribu dolar untuk teknologi yang belum terbukti dan bersifat rahasia. Teknologi ini menggunakan persona online yang dihasilkan oleh kecerdasan buatan (AI) untuk berinteraksi dengan dan mengumpulkan informasi tentang "pengunjuk rasa kampus," aktivis politik yang dianggap "radikal," serta tersangka pelaku perdagangan narkoba dan manusia.
Perusahaan bernama Massive Blue memperkenalkan produk mereka yang disebut Overwatch. Mereka memasarkan produk ini sebagai "pengganda kekuatan bertenaga AI untuk keselamatan publik." Overwatch mengklaim mampu mengerahkan agen virtual yang tampak nyata, yang dapat menyusup dan berinteraksi dengan jaringan kriminal di berbagai saluran.
Menurut dokumen presentasi yang diperoleh oleh 404 Media, Massive Blue menawarkan persona virtual kepada kepolisian yang dapat dikerahkan di internet dengan tujuan khusus untuk berinteraksi dengan tersangka melalui pesan teks dan media sosial. Meskipun teknologi ini menarik perhatian, hingga musim panas lalu, belum ada laporan yang menunjukkan bahwa teknologi ini telah menghasilkan penangkapan.
Penemuan ini menimbulkan kekhawatiran baru, terutama setelah pemerintahan Trump mencabut visa ratusan mahasiswa, banyak di antaranya adalah mereka yang telah melakukan protes terhadap perang Israel di Gaza. Hal ini menunjukkan bahwa alat seperti yang ditawarkan oleh Massive Blue dapat digunakan untuk memantau dan mengawasi mereka yang terlibat dalam aksi protes.
Dalam presentasi tersebut, terdapat beberapa karakter AI yang ditawarkan. Salah satunya adalah "persona protes AI radikal," yang menyamar sebagai seorang wanita berusia 36 tahun yang sudah bercerai, merasa kesepian, tidak memiliki anak, dan tertarik pada memasak, aktivisme, serta "positivitas tubuh." Ada juga persona AI lain yang disebut "Honeypot AI Persona."
Laporan kami menunjukkan bahwa polisi membayar perusahaan tersebut untuk membantu mereka menggunakan bot bertenaga AI di media sosial dan internet. Tujuannya adalah untuk berbicara dengan orang-orang yang mereka curigai, mulai dari pelaku kejahatan seksual hingga "pengunjuk rasa" yang didefinisikan secara samar, dengan harapan dapat menghasilkan bukti yang bisa digunakan melawan mereka.
Namun, Mike McGraw, salah satu pendiri Massive Blue, belum memberikan jawaban atas sejumlah pertanyaan spesifik mengenai cara kerja Massive Blue, departemen kepolisian mana yang bekerja sama, dan apakah teknologi ini telah digunakan untuk menghasilkan penangkapan.
teknologi AI polisi aktivis perbatasan pengunjuk rasa