Bahaya Teknologi AI Suara dan Tips untuk Menghadapinya

Sumber: Euronews

Penipuan online sudah lazim terjadi menggunakan berbagai trik seperti spam melalui pesan berkedok hadiah dan penipuan pinjaman ilegal. Tingginya usaha yang dilakukan oleh mereka pun sepertinya menghasilkan hasil yang banyak. Hal tersebut terefleksikan dari hasil riset yang menunjukkan bahwa kerentanan masyarakat terhadap penipuan online sangatlah tinggi. Oleh karena itu, kejahatan siber tersebut tidak boleh kamu remehkan.

Kini, penipuan pun sudah semakin canggih dengan memanfaatkan teknologi AI suara yang dapat menghasilkan berkas audio yang mirip dengan suaramu atau suara siapapun yang kamu masukkan sebagai sample. Nantinya, suara tersebut dapat dimanfaatkan oleh mereka untuk menipu orang-orang terdekatmu dengan meminta uang atau pembayaran. Seram sekali ya? Yuk simak pembahasan berikut agar kamu terhindar dari penipuan tersebut!

Berita Teknologi AI Manipulasi Suara
Federal Trade Commission atau FTC menghimbau pelanggan untuk berhati-hati terhadap penipu yang diam-diam akan merekam suaramu. Nantinya, suara tersebut akan mereka tiru melalui proses manipulasi untuk mereka gunakan saat menghubungi kerabatmu dan meminta uang dari mereka, seolah-olah kamu lah yang memintanya. Jadi, saat kamu mengangkat panggilan dari nomor telepon yang tidak kamu kenal, biarkan mereka yang berbicara duluan ya!

Peristiwa di atas dapat terjadi akibat berkembangnya aplikasi yang ditenagai oleh AI seperti ChatGPT dan Vall-E, sebuah tool yang Microsoft pamerkan pada Januari lalu untuk mengkonversi teks ke suara. Saat ini aplikasi tersebut belum tersedia untuk publik, tetapi banyak perusahaan yang membuat alat serupa seperti Resemble AI dan ElevenLabs.

Cukup menggunakan sample berdurasi tiga detik dari suara siapapun, aplikasi-aplikasi tersebut dapat mengkonversi teks ke suara yang mirip dengannya. Sayangnya, kemudahan ini dimanfaatkan oleh para kriminal untuk menipu korban yang dibuat percaya bahwa orang-orang terdekatnya sedang dalam masalah dan membutuhkan uang sesegera mungkin.

Hal tersebut terjadi kepada Jennifer DeStefano, seorang ibu yang menerima panggilan yang ia kira dari anak perempuannya Brianna yang berumur 15 tahun. Saat menjawab panggilan tersebut, ia disambut dengan teriakan dan tangisan. Ibunya mengaku bahwa suara yang ia dengar tersebut sangatlah mirip dengan suara Brianna.

Jennifer menjadi semakin panik setelah terdengar suara seorang pria yang mengaku bahwa anaknya tersebut sedang bersama dirinya. “Dengarkan, putrimu ada bersamaku. Kalau kamu menelepon polisi atau menelepon siapa pun, aku akan memberi anakmu sesuatu yang penuh dengan obat-obatan. Aku akan pergi bersamanya lalu mengantarnya ke Meksiko, dan kamu tidak akan pernah melihatnya lagi,” ancam sang pria.

Siapapun yang mendengar ancaman tersebut akan merasa takut, apalagi Jennifer, yang merupakan sosok ibunya. Ia bergetar dan langsung buru-buru mencari bantuan. Namun setelah berbagai upaya yang dilakukannya, termasuk uang tebus sebesar 1 juta dolar Amerika, “penculikan” tersebut rupanya hanyalah scam belaka. Brianna yang akhirnya dapat dihubungi merasa bingung dan mengatakan bahwa semuanya baik-baik saja.

Sumber: Attheu

Risiko AI Bisa Menirukan Suara Manusia
Dari peristiwa kasus penipuan di atas, kita menjadi tahu bahwa ancaman tersebut bukan hanya hipotesis semata. Sudah banyak sekali orang-orang yang menjadikan teknologi AI suara menjadi alat yang berbahaya.

Microsoft, selaku pengembang Vall-E, telah menyinggung permasalahan di atas dengan menyematkan peringatan bahwa teknologi mereka memiliki potensi risiko dalam penyalahgunaan model, seperti memalsukan suara atau meniru identitas pembicara tertentu. Mereka mencatat bahwa jika tool tersebut diluncurkan ke publik, mereka harus menyertakan protokol untuk memastikan bahwa pembicara menyetujui penggunaan sample suaranya.

Selain Microsoft, ElevenLabs juga membuat tweet yang berbunyi, "Kami juga melihat semakin banyak kasus penyalahgunaan kloning suara." Atas masalah tersebut, perusahaan itu akan menjalankan verifikasi identitas untuk mengurangi konten merugikan. Di samping itu, teknologi tersebut tidak akan dapat lagi diakses secara gratis sehingga penggunaannya terbatas dan tak lagi bebas.

Tips untuk Terhindar dari Penipuan Manipulasi Suara
Banyaknya orang yang menggunakan teknologi dengan niat jahat membuat kita semua menjadi harus berhati-hati. Seperti yang sempat disebutkan di atas, jika kamu mendapat panggilan dari nomor yang tidak dikenal, biarkan mereka berbicara terlebih dahulu. Hal ini perlu kamu lakukan karena sekali pun kamu hanya mengatakan tiga kata seperti “Ini siapa ya?”, mereka dapat memanfaatkan itu sebagai sample audio untuk meniru suaramu.

Menurut FTC, kamu tidak lagi dapat mempercayai suara-suara yang mirip dengan teman ataupun keluarga. Saat kamu menerima telepon dari mereka dari nomor yang tidak kamu kenal, sebaiknya buat panggilan kepada nomor yang kamu tahu bahwa itu miliknya dan pastikan bahwa kabar yang kamu terima itu benar. Apabila nomor tersebut tidak dapat diraih, cobalah untuk menghubungi mereka melalui orang-orang terdekatnya.

Hany Farid, seorang profesor di University of California, membagikan kisahnya yang tidak lagi menjawab telepon kecuali dia sudah memiliki janji sebelumnya. Selain itu, apabila dia mendapat panggilan dari orang-orang terdekat seperti istrinya yang mencurigakan, dia akan bertanya satu kata yang merupakan kode yang telah mereka tentukan sebelumnya. “Ini seperti kata sandi yang tidak kamu bagikan dengan siapa pun,” kata Hany Farid kepada CBS MoneyWatch.

Satu hal lain yang perlu kamu perhatikan adalah saat seseorang meminta uang atau pembayaran melalui gift card atau cryptocurrency. Alasannya adalah karena metode-metode pembayaran tersebut akan menyulitkan kamu untuk mendapat uangmu kembali. Selalu berhati-hati ya!

Sumber: ConcordiaUniversityofEdmonton

Sisi Positif dari Teknologi AI Suara
Di samping risiko dan bahayanya, terdapat sisi positif di tengah perkembangan teknologi AI suara yang dapat menghasilkan konten audio dengan cepat. Sebagai contoh, Modulate AI memiliki program untuk melindungi para pemain game online perempuan. Perubah suara memungkinkan mereka untuk membuat suara mereka terdengar sebagaimana mereka inginkan sehingga mereka tidak perlu khawatir mengalami perundungan karena jenis kelamin, usia, dan etnis.

Adapun, meski teknologi telah menciptakan masalah yang mengkhawatirkan, AI bukanlah masalahnya. Yang menjadi masalah adalah orang-orang yang menggunakan AI untuk tindak kejahatan.

Itulah berita sebuah kejadian yang diakibatkan oleh teknologi AI suara serta berbagai upaya yang dapat dilakukan supaya kamu tidak menjadi korban. Meski memiliki beberapa risiko, terdapat pula manfaat yang dihadirkan oleh teknologi tersebut. Dengan begitu, kita harus menyikapi hal ini secara bijak, bukan berarti kita harus tertinggal dari inovasi seperti penggunaan perangkat canggih yang bisa kamu dapatkan di Eraspace.

Yuk, daftar akun baru di website resmi Eraspace dan download aplikasinya sekarang! Banyak sekali promo dan tawaran menarik lainnya yang menunggu untuk kamu dapatkan. Selain pasti gratis ongkir dan cashback, kamu juga berkesempatan untuk meraih hadiah eksklusif dari berbagai merek favoritmu. Tidak usah pusing lagi mencari tempat membeli perangkat elektronik, karena yang terbaik hanya ada di Eraspace!