banner large

Amazon Alexa Ingin Memalsukan Nenek Anda

Comment
X
Share

Foto Amazon Echo

Bayangkan suara orang terkasih yang telah meninggal keluar dari speaker Alexa yang lucu dan menggemaskan di lorong.
Foto: Lagu Victoria / Gizmodo

“Orang-orang terkasih yang aneh itu kembali dari kematian untuk mengunjungimu” stunts ditarik oleh selebriti seperti Kanye West akan segera menjadi kenyataan melalui asisten digital Anda.

Di Amazon re:MARS konferensi, perusahaan mengumumkan sedang mengerjakan fitur yang dapat mensintesis klip audio pendek dari suara seseorang dan kemudian memprogram ulang sebagai ucapan yang lebih panjang. Wakil Presiden Senior dan Kepala Ilmuwan Amazon untuk Alexa, Rohit Prasad, memamerkan demonstrasi di mana, sebagai TechCrunch dijelaskan, “suara orang yang dicintai yang telah meninggal (seorang nenek, dalam hal ini), digunakan untuk membacakan cerita pengantar tidur cucu.”

Prasad mencatat bahwa perusahaan dapat melakukan output audio semacam ini hanya dengan satu menit pidato sebelum melanjutkan: “Cara kami mewujudkannya adalah dengan membingkai masalah sebagai tugas konversi suara dan bukan jalur pembuatan suara.”

Tidak banyak rincian lebih lanjut di luar demonstrasi awal ini. Reuters melaporkan bahwa Prahad menyebutkan tujuan dari teknologi ini adalah untuk “membuat kenangan bertahan” setelah “begitu banyak dari kita kehilangan seseorang yang kita cintai,” yang membuatnya tampak agak intens.

Itu mengingatkan Speaker pintar Takara Tomy kami melaporkan beberapa bulan yang lalu, yang dapat meniru suara orang tua pada waktu tidur sehingga mereka dapat membaca untuk anak-anak mereka bahkan ketika secara fisik tidak tersedia. Ini adalah ide yang bagus untuk orang tua yang sering bepergian untuk bekerja atau hanya bosan membaca buku yang sama. Tapi itu meningkatkan pertanyaan tentang jika salinan palsu yang dalam dari suara seseorang dapat menawarkan kenyamanan dan keamanan yang sama seperti orang berdarah panas di dalam ruangan.

Untuk itu, teknologi semacam ini juga memunculkan pertanyaan, seperti emosi apa yang akan ditimbulkan oleh suara orang yang dicintai yang hilang karena COVID atau penyakit tak tersembuhkan lainnya pada seseorang? Bukankah itu hanya akan membuat mereka semakin marah karena orang mereka telah tiada? Dan bagaimana interaksi dengan almarhum ini bekerja dengan seseorang yang secara aktif bekerja melalui kesedihan? Apakah itu mengganggu proses atau membantunya? Selanjutnya, apa yang akan dipikirkan almarhum?

Tentu saja, selalu ada risiko keamanan dari peniruan identitas palsu yang mendalam, meskipun tidak jelas bagaimana fitur tersebut sampel suara akan disimpan.

Amazon re: konferensi MARS dimaksudkan untuk menyoroti usaha perusahaan dalam komputasi ambien, yang mencakup fungsionalitas Alexa. “MARS” adalah singkatan dari pembelajaran mesin, otomatisasi, robot, dan ruang. Diharapkan bahwa Amazon akan membagikan lebih banyak berita di konferensi Las Vegas selama beberapa hari ke depan.

Leave a Reply

Your email address will not be published. Required fields are marked *