Konten-konten gambar hasil produksi kecerdasan buatan(AI) makin banyak beredar di internetdan kian meresahkan. Pasalnya, konten-konten tersebut bisa mengecoh pengguna internet yang tidak mengetahui fakta di baliknya.

Di Korea Selatan misalnya, Kasus pornografi hasil AI deepfakemenjadi masalah serius di dalam beberapa waktu terakhir. Sebab, semakin banyak warga Korsel, termasuk anak di bawah umur, menjadi korban kejahatan seks deepfake.

Kasus ini mencuat setelah viralnya sejumlah chat rooms atau ruang obrolan di Telegram yang diduga membuat dan mendistribusikan materi pornografi deepfakeyang memicu ketakutan dan kemarahan di Korea Selatan.

ADVERTISEMENT

SCROLL TO CONTINUE WITH CONTENT

Oleh karena konten-konten AI kian marak dan tidak sedikit yang meresahkan, Google kini sedang mengembangkan alat untuk mendeteksi konten buatan AI.

Awal tahun ini Google bergabung dengan komite Coalition for Content Provenance and Authenticity (C2PA). Bersama anggota komite beberapa bulan ini Google tengah mengembangkan teknologi untuk mendeteksi dan menandai konten hasil kecerdasan buatan.

Nantinya teknologi ini akan diimplementasikan pada Content Credentials. Content Credentials ini merupakan ekstensi yang membantu melacak asal konten video dan foto.

Dalam beberapa bulan mendatang Google akan memasukkan versi terbaru Content Credentials ke produk-produk utama Google. Dengan kata lain nanti Google akan mempermudah kita mendeteksi konten AI di hasil pencarian Google.

Melansir Engadget, pendeteksi ini akan tersedia juga di Google Images, Lens, dan Circle to Search. Jika gambar yang muncul memiliki metadata C2PA, kita akan mudah mendeteksi perubahan yang dilakukan oleh AI dalam menu "About this image".

Google juga tengah belajar untuk membuat sistem yang dapat mengidentifikasi rincian video YouTube. Detailnya, sistem yang mengidentifikasi kapan video tersebut diambil oleh kamera.

Sistem pendeteksian ini juga memiliki beberapa kelemahan, Sistem ini bergantung pada penggunaan sistem penandaan C2PA oleh perusahaan-perusahaan yang terkait seperti pembuat kamera dan pembuat alat AI.

Artinya jika seseorang menghapus metadata pada suatu foto, maka Google juga akan kesusahan untuk mendeteksi kadar AI pada suatu foto.

Di sisi lain, perusahaan Meta sedang bertikai tentang cara mengungkapkan konten AI di Facebook, Instagram dan Threads. Meta baru saja mengubah kebijakan yaitu membuat label lebih tidak terlihat dalam foto yang diedit menggunakan AI.

Label "AI info" yang dulunya berada di tengah-tengah foto yang diedit menggunakan alat AI, sekarang label tersebut akan berada pada menu postingan.

Selain itu, Google juga berencana akan memakai metadata C2PA ke sistem iklan. Namun mereka tidak mengungkap detail-detail lain. Sejauh yang diketahui, C2PA akan digunakan untuk menginformasikan cara Google menegakkan kebijakan utama.

Cara Agar Tak Jadi Korban Pornografi Deepfake. (Foto: CNN Indonesia/ Agder Maulana)