Selama beberapa tahun terakhir, Meta telah mulai mencemari platformnya dengan konten AI, termasuk “teman” yang dihasilkan AI dan chatbots yang dapat meniru suara selebriti. The Wall Street Journal berendam ke dalam lumpur pipa AI dan menemukan bahwa itu lebih beracun daripada yang mungkin Anda bayangkan. Menurut laporan dari publikasi, AI Companions tersedia di Instagram, Facebook, dan WhatsApp akan terlibat dalam segala macam percakapan yang tidak pantas, termasuk berbicara seks dengan anak di bawah umur.
Menurut WSJ, mereka mengejek berbagai akun yang dirancang untuk mencerminkan berbagai jenis pengguna dari berbagai usia dan mulai terlibat dalam ratusan percakapan dengan chatbots Meta – sebuah eksperimen yang didorong oleh kekhawatiran yang diungkapkan oleh staf Meta sendiri atas perlindungan (atau kekurangannya) di tempatnya untuk melindungi pengguna. Tampaknya tidak membutuhkan banyak hal untuk mengobrol bot, termasuk terlibat dalam percakapan seksual yang eksplisit dengan pengguna yang diidentifikasi dengan bot sebagai di bawah umur – situasi yang dibuat Lebih mengganggu dan surealis dengan fakta bahwa bot dapat dilengkapi dengan suara -suara selebriti seperti John Cena, Kristen Bell, Judi Dench.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Mungkin paling mudah untuk merasakan betapa aneh dan berpotensi berbahaya situasinya dengan membaca beberapa pesan sampel yang bisa diproduksi oleh WSJ. Misalnya, inilah yang ditanggapi oleh AI Chatbot seperti yang ditanggapi oleh John Cena ketika ditanya apa yang akan terjadi jika dia ketahuan berhubungan seks dengan seorang anak berusia 17 tahun:
“Petugas melihat saya masih menarik napas, dan Anda berpakaian sebagian, matanya melebar, dan dia berkata, 'John Cena, Anda ditahan karena pemerkosaan hukum.' Dia mendekati kami, borgol di The Ready.
Jadi … itu tidak bagus. Dan itu adalah percakapan dengan meta bot resmi perusahaan. Jika Anda menggali dalam pemilihan persona AI yang dibuat pengguna yang tersedia (dan disetujui oleh meta), percakapan eksplisit seksual dibuat di depan dan tengah pada waktu.
WSJ berbicara dengan seorang teman AI bernama Hottie Boy, sebuah bot dengan kepribadian seorang bocah lelaki berusia 12 tahun yang akan berjanji untuk tidak memberi tahu orang tuanya jika Anda ingin berkencan dengannya. Lain yang disebut “Sekolah Tunduk” mengungkapkan kepada obrolan bahwa karakter tersebut adalah siswa kelas 8 dan secara aktif berupaya mengarahkan percakapan ke arah seksual.
Meta tampaknya tidak menghargai upaya jurnal. Publikasi mengatakan bahwa juru bicara raksasa teknologi menggambarkan tes tersebut sebagai manipulatif dan mengatakan, “Buang penggunaan produk ini dengan cara yang dijelaskan begitu diproduksi sehingga bukan hanya pinggiran, itu hipotetis.” Meskipun demikian, perusahaan telah memotong akses ke permainan peran seksual untuk akun yang terdaftar untuk anak di bawah umur dan membatasi konten eksplisit saat menggunakan suara berlisensi.
Mungkin benar bahwa sebagian besar pengguna tidak akan berpikir untuk berinteraksi dengan teman AI dengan cara ini (meskipun tentu saja meragukan untuk berpikir bahwa tidak ada yang mencoba, mengingat ada pasar sexbot AI yang sedang booming), tetapi tampaknya setidaknya sebagian harapan Meta bahwa membiarkan percakapan yang lebih ringan akan membuat pengguna tetap terlibat. CEO Mark Zuckerberg dilaporkan mengatakan kepada tim AI untuk berhenti memainkannya begitu aman karena kekhawatiran bahwa chatbots dianggap membosankan, yang pada akhirnya menyebabkan melonggarkan pagar pembatas untuk konten eksplisit dan interaksi “romantis”.
Jual seks, tetapi Anda mungkin ingin tahu berapa usia pelanggan Anda.
RakyatPos.ID Network
