banner large

Wajah yang dihasilkan AI mengambil alih internet

Comment
X
Share

Times diprofilkan seorang wanita Ukraina berusia 18 tahun bernama “Luba Dovzhenko” pada bulan Maret untuk menggambarkan kehidupan di bawah pengepungan. Dia, menurut artikel itu, mempelajari jurnalisme, berbicara “bahasa Inggris yang buruk,” dan mulai membawa senjata setelah invasi Rusia.

Masalahnya, bagaimanapun, adalah bahwa Dovhenko tidak ada dalam kehidupan nyata, dan cerita itu dihapus tak lama setelah diterbitkan,

Luba Dovhenko adalah persona online palsu yang dirancang untuk memanfaatkan minat yang meningkat dalam kisah perang Ukraina-Rusia di Twitter dan mendapatkan banyak pengikut. Akun tersebut tidak hanya tidak pernah men-tweet sebelum Maret, tetapi juga memiliki nama pengguna yang berbeda, dan pembaruan yang telah di-tweet, yang mungkin menarik perhatian The Times, telah dicopot dari profil asli lainnya. Bukti paling memberatkan dari penipuannya, bagaimanapun, ada di wajahnya.

Dalam foto profil Dovhenko, beberapa helai rambutnya terlepas dari sisa kepalanya, beberapa bulu mata hilang, dan yang terpenting, matanya sangat terpusat. Itu semua adalah tanda-tanda wajah buatan yang dibatukkan oleh algoritma AI.

Pemosisian fitur wajah bukan satu-satunya anomali di @lubadovzhenko1foto profil; bukan rambut yang terlepas di bagian kanan bawah gambar dan sebagian bulu mata yang hilang (antara lain). pic.twitter.com/UPuvAQh4LZ

— Konspirasi Norteño (@konspirator0) 31 Maret 2022

Wajah Dovhenko dibuat oleh teknologi di balik deepfake, teknik yang semakin populer yang memungkinkan siapa pun untuk menempatkan wajah di atas wajah orang lain dalam sebuah video dan digunakan untuk segala hal mulai dari porno balas dendam hingga memanipulasi pidato para pemimpin dunia. Dan dengan memasukkan jutaan gambar orang sungguhan ke dalam algoritme seperti itu, gambar tersebut dapat digunakan kembali untuk membuat wajah seperti aslinya seperti Dovhenko. Ini adalah masalah yang berkembang yang membuat perang melawan informasi yang salah menjadi lebih sulit.

Pasukan wajah palsu yang dihasilkan AI

Selama beberapa tahun terakhir, ketika jejaring sosial menindak troll anonim tanpa wajah, AI telah mempersenjatai aktor dan bot jahat dengan senjata yang tak ternilai: kemampuan untuk tampil sangat otentik. Tidak seperti sebelumnya, ketika troll hanya merobek wajah asli dari internet dan siapa pun dapat membuka kedok mereka dengan membalikkan gambar gambar profil mereka, hampir tidak mungkin bagi seseorang untuk melakukan hal yang sama untuk foto yang dihasilkan AI karena mereka segar dan unik. Dan bahkan setelah diperiksa lebih dekat, kebanyakan orang tidak dapat membedakannya.

Sophie Nightingale, seorang profesor psikologi di Universitas Lancaster Inggris, menemukan bahwa orang hanya memiliki peluang 50% untuk melihat wajah yang disintesis AI, dan banyak yang bahkan menganggap mereka lebih dapat dipercaya daripada yang asli. Sarana bagi siapa saja untuk mengakses “konten sintetis tanpa pengetahuan khusus tentang Photoshop atau CGI,” katanya kepada Digital Trends, “menciptakan ancaman yang jauh lebih besar untuk penggunaan jahat daripada teknologi sebelumnya.”

Ilustrasi gambar alami yang dihasilkan FFHQ dan StyleGAN2 yang sulit dibedakan
Ilustrasi gambar alami yang dihasilkan FFHQ dan StyleGAN2 yang sulit dibedakan.

Apa yang membuat wajah-wajah ini begitu sulit dipahami dan sangat realistis, kata Yassine Mekdad, peneliti keamanan siber di University of Florida, yang modelnya untuk melihat gambar yang dihasilkan AI memiliki akurasi 95,2%, adalah bahwa pemrograman mereka (dikenal sebagai Generative Adversarial Network) menggunakan dua jaringan saraf berlawanan yang bekerja melawan satu sama lain untuk meningkatkan gambar. Satu (G, generator) bertugas menghasilkan gambar palsu dan menyesatkan yang lain, sedangkan yang kedua (D, diskriminator) belajar membedakan hasil pertama dari wajah asli. “Permainan zero-sum” di antara keduanya memungkinkan generator menghasilkan “gambar yang tidak dapat dibedakan.”

Dan wajah yang dihasilkan AI memang telah mengambil alih internet dengan sangat cepat. Terlepas dari akun seperti Dovhenko yang menggunakan persona yang disintesis untuk mengumpulkan pengikut, teknologi ini akhir-akhir ini mendukung kampanye yang jauh lebih mengkhawatirkan.

Ketika Google memecat peneliti etika AI, Timnit Gebru, pada tahun 2020 karena menerbitkan makalah yang menyoroti bias dalam algoritme perusahaan, jaringan bot dengan wajah yang dihasilkan AI, yang mengaku pernah bekerja di divisi penelitian AI Google, muncul di jejaring sosial dan menyergap siapa pun yang mendukung Gebru. Kegiatan serupa oleh negara-negara seperti China telah terdeteksi mempromosikan narasi pemerintah.

Pada ulasan Twitter sepintas, tidak butuh waktu lama bagi saya untuk menemukan beberapa anti-vaxxers, pro-Rusia, dan banyak lagi — semuanya bersembunyi di balik wajah yang dibuat oleh komputer untuk mendorong agenda mereka dan menyerang siapa pun yang menghalangi mereka. Meskipun Twitter dan Facebook secara teratur menghapus botnet seperti itu, mereka tidak memiliki kerangka kerja untuk menangani troll individu dengan wajah sintetis meskipun kebijakan identitas yang menyesatkan dan menipu “melarang peniruan identitas individu, kelompok, atau organisasi untuk menyesatkan, membingungkan, atau menipu orang lain, atau menggunakan identitas palsu dengan cara yang mengganggu pengalaman orang lain.” Inilah sebabnya ketika saya melaporkan profil yang saya temui, saya diberitahu bahwa mereka tidak melanggar kebijakan apa pun.

Sensity, sebuah perusahaan solusi penipuan berbasis AI, memperkirakan bahwa sekitar 0,2% hingga 0,7% orang di jejaring sosial populer menggunakan foto yang dihasilkan komputer. Itu sepertinya tidak banyak, tetapi untuk Facebook (2,9 miliar pengguna), Instagram (1,4 miliar pengguna,) dan Twitter (300 juta pengguna), itu berarti jutaan bot dan aktor yang berpotensi menjadi bagian dari kampanye disinformasi. .

Persentase kecocokan ekstensi Chrome pendeteksi wajah yang dihasilkan AI oleh V7 Labs menguatkan angka Sensity. CEO-nya, Alberto Rizzoli, mengklaim bahwa rata-rata, 1% dari foto yang diunggah orang ditandai sebagai palsu.

Pasar wajah palsu

Kumpulan wajah yang dihasilkan AI di Foto yang Dihasilkan.
Foto yang Dihasilkan

Salah satu alasan mengapa foto yang dihasilkan AI berkembang biak begitu cepat adalah betapa mudahnya mendapatkannya. Pada platform seperti Generated Photos, siapa pun dapat memperoleh ratusan ribu wajah palsu beresolusi tinggi dengan beberapa dolar, dan bagi orang-orang yang membutuhkan beberapa untuk tujuan satu kali seperti kampanye pencemaran nama baik pribadi, mereka dapat mengunduhnya dari situs web seperti thispersondoesnoexist .com, yang secara otomatis menghasilkan wajah sintetis baru setiap kali Anda memuat ulang.

Situs web ini telah membuat hidup menjadi sangat menantang bagi orang-orang seperti Benjamin Strick, direktur investigasi di Pusat Ketahanan Informasi Inggris, yang timnya menghabiskan berjam-jam setiap hari untuk melacak dan menganalisis konten penipuan online.

“Jika kamu berguling [auto-generative technologies] ke dalam paket profil berwajah palsu, bekerja di startup palsu (melalui inistartupdoesnotexist.com),” kata Strick kepada Digital Trends, “ada resep untuk rekayasa sosial dan basis untuk praktik yang sangat menipu yang dapat disiapkan dalam hitungan menit .”

Ivan Braun, pendiri Generated Photos, berpendapat bahwa itu tidak semuanya buruk. Dia berpendapat bahwa foto GAN memiliki banyak kasus penggunaan positif — seperti menganonimkan wajah di tampilan jalan Google Maps dan mensimulasikan dunia virtual dalam game — dan itulah yang dipromosikan platform. Jika seseorang berkecimpung dalam bisnis menyesatkan orang, Braun mengatakan dia berharap pertahanan antipenipuan platformnya akan dapat mendeteksi aktivitas berbahaya, dan pada akhirnya jejaring sosial akan dapat memfilter foto yang dihasilkan dari foto asli.

Tetapi mengatur teknologi generatif berbasis AI juga rumit, karena itu juga mendukung layanan berharga yang tak terhitung jumlahnya, termasuk filter terbaru pada fitur pencahayaan pintar Snapchat dan Zoom. CEO Sensity Giorgio Patrini setuju bahwa melarang layanan seperti Generated Photos tidak praktis untuk membendung munculnya wajah yang dihasilkan AI. Sebaliknya, ada kebutuhan mendesak untuk pendekatan yang lebih proaktif dari platform.

Sampai itu terjadi, adopsi media sintetis akan terus mengikis kepercayaan pada lembaga publik seperti pemerintah dan jurnalisme, kata Tyler Williams, direktur investigasi di Graphika, sebuah firma analisis jaringan sosial yang telah mengungkap beberapa kampanye paling luas yang melibatkan persona palsu. . Dan elemen penting dalam memerangi penyalahgunaan teknologi tersebut, Williams menambahkan, adalah “kurikulum literasi media yang dimulai dari usia muda dan pelatihan verifikasi sumber.”

Bagaimana cara mengenali wajah yang dihasilkan AI?

Beruntung bagi Anda, ada beberapa cara jitu untuk mengetahui apakah sebuah wajah dibuat secara artifisial. Hal yang perlu diingat di sini adalah bahwa wajah-wajah ini disulap hanya dengan memadukan banyak foto. Jadi meskipun wajah sebenarnya akan terlihat nyata, Anda akan menemukan banyak petunjuk di tepinya: Bentuk telinga atau anting-anting mungkin tidak cocok, helai rambut mungkin beterbangan di mana-mana, dan trim kacamata mungkin aneh — daftarnya terus. Hadiah paling umum adalah ketika Anda menelusuri beberapa wajah palsu, semua mata mereka akan berada di posisi yang sama persis: di tengah layar. Dan Anda dapat menguji dengan “tiket kereta lipat” hack, seperti yang ditunjukkan di sini oleh Strick.

Nightingale percaya bahwa ancaman paling signifikan yang ditimbulkan oleh foto-foto yang dihasilkan AI adalah memicu “pembohong” — keberadaan mereka saja memungkinkan media apa pun untuk dianggap palsu. “Jika kita tidak dapat bernalar tentang fakta-fakta dasar dunia di sekitar kita,” ia berpendapat, “maka ini menempatkan masyarakat dan demokrasi kita pada risiko yang substansial.”

Rekomendasi Editor






Leave a Reply

Your email address will not be published.