Kemajuan teknologi kecerdasan buatan (AI) telah menciptakan masalah baru di dunia maya, yaitu penyebaran gambar telanjang palsu yang menyerupai orang nyata. Sebagai tanggapan atas masalah ini, Microsoft telah mengambil langkah signifikan dengan bermitra bersama StopNCII, sebuah organisasi yang berfokus pada pemberantasan penyebaran pornografi balas dendam (revenge porn).
Pada Kamis (5/9), Microsoft mengumumkan bahwa Bing, mesin pencari miliknya, akan bekerja sama dengan StopNCII. Melalui kemitraan ini, korban pornografi balas dendam dapat membuat “sidik jari digital” dari gambar-gambar eksplisit mereka.
Sidik jari digital, atau “hash,” tersebut akan digunakan untuk mencegah gambar-gambar tersebut muncul di berbagai platform digital. Dengan langkah ini, Bing mengikuti jejak beberapa platform besar lainnya seperti Facebook, Instagram, TikTok, Snapchat, Reddit, Pornhub, dan OnlyFans yang sebelumnya sudah bekerja sama dengan StopNCII.
Dalam sebuah postingan di blog resminya, Microsoft mengungkapkan bahwa melalui uji coba dengan StopNCII hingga akhir Agustus, mereka telah mengambil tindakan terhadap 268.000 gambar eksplisit yang sebelumnya muncul di hasil pencarian gambar Bing. Microsoft juga menyatakan bahwa metode pelaporan langsung yang sebelumnya digunakan tidak cukup untuk menangani masalah ini secara efektif.
“Kami mendengar banyak kekhawatiran dari para korban, ahli, dan pihak terkait lainnya bahwa pelaporan oleh pengguna saja tidak cukup untuk menangani masalah ini, terutama risiko bahwa gambar-gambar tersebut masih dapat diakses melalui mesin pencari,” tulis Microsoft dalam blog mereka.
Di sisi lain, Google sebagai mesin pencari terbesar di dunia juga menghadapi masalah serupa. Meskipun Google telah menawarkan alat pelaporan untuk menghapus gambar eksplisit dari hasil pencariannya, perusahaan ini mendapat kritik karena belum bermitra dengan StopNCII. Investigasi yang dilakukan oleh Wired mengungkapkan bahwa sejak tahun 2020, pengguna Google di Korea Selatan telah melaporkan sekitar 170.000 tautan pencarian dan video YouTube yang berisi konten seksual yang tidak diinginkan.
Masalah gambar telanjang palsu yang dihasilkan oleh AI semakin meluas. Sayangnya, alat StopNCII hanya berlaku untuk individu berusia 18 tahun ke atas, sementara situs yang menyebarkan gambar palsu ini telah menargetkan pelajar sekolah menengah di berbagai negara. Hingga kini, Amerika Serikat belum memiliki undang-undang khusus terkait pornografi deepfake, sehingga penegakan hukum terkait masalah ini masih tergantung pada undang-undang negara bagian dan lokal.
Pada Agustus lalu, jaksa di San Francisco mengajukan gugatan hukum untuk menutup 16 situs yang dikenal menyebarkan gambar telanjang palsu. Berdasarkan pelacak undang-undang pornografi deepfake yang dibuat oleh Wired, hingga kini 23 negara bagian di Amerika Serikat telah mengesahkan undang-undang untuk mengatasi masalah ini, sementara sembilan negara bagian lainnya menolak proposal terkait.
