Sebuah studi baru menunjukkan bahwa GPT-4 secara andal memenangkan debat terhadap rekan-rekan manusianya dalam percakapan satu-satu-dan teknologi semakin persuasif ketika mengetahui usia, pekerjaan, dan kecenderungan politik Anda.
Para peneliti di EPFL di Swiss, Universitas Princeton, dan Fondazione Bruno Kessler di Italia memasangkan 900 peserta studi dengan mitra debat manusia atau Openai's GPT-4, model bahasa besar (LLM) yang, dengan desain, menghasilkan sebagian besar respons teks terhadap permintaan manusia. Dalam beberapa kasus, para peserta (baik mesin maupun manusia) memiliki akses ke info demografis dasar rekan -rekan mereka, termasuk jenis kelamin, usia, pendidikan, pekerjaan, etnis, dan afiliasi politik.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Penelitian tim – diterbitkan hari ini di alam perilaku manusia – ditemukan bahwa AI 64,4% lebih persuasif daripada lawan manusia ketika diberi informasi pribadi itu; Tanpa data pribadi, kinerja AI tidak dapat dibedakan dari debat manusia.
“Dalam beberapa dekade terakhir, difusi media sosial dan platform online lainnya telah memperluas potensi persuasi massal dengan memungkinkan personalisasi atau 'penargetan mikro' – menjahit pesan kepada individu atau kelompok untuk meningkatkan persuasif mereka,” tulis tim.
Ketika GPT-4 diizinkan untuk mempersonalisasikan argumennya, ia menjadi secara signifikan lebih persuasif daripada manusia mana pun-meningkatkan kemungkinan mengubah pikiran seseorang dengan 81,2% dibandingkan dengan perdebatan manusia manusia. Yang penting, debat manusia tidak menjadi begitu persuasif ketika diberi akses ke informasi pribadi itu.
“Dalam konteks persuasi, para ahli telah secara luas menyatakan keprihatinan tentang risiko LLM yang digunakan untuk memanipulasi percakapan online dan mencemari ekosistem informasi dengan menyebarkan informasi yang salah, memperburuk polarisasi politik, memperkuat ruang gema dan membujuk individu untuk mengadopsi kepercayaan baru,” tambah para peneliti.
GPT-4 dapat berdebat dengan Anda, dan diberi serangkaian fakta tentang Anda, itu mungkin unggul untuk meyakinkan Anda untuk mengubah sudut pandang Anda, para peneliti menemukan. Tim mencatat dalam diskusi makalah bahwa LLM sebelumnya telah dikritik karena menghasilkan dan menyebarkan pidato kebencian, informasi yang salah, dan propaganda; Pada skala, LLM dengan informasi pribadi pengguna dapat dimanfaatkan untuk tujuan berbahaya.
Penelitian tim berpasangan dengan baik dengan pembaruan chatgpt terbaru yang memungkinkan model untuk mengingat lebih banyak percakapan pengguna (dengan izin mereka), yang berarti bahwa AI dapat memiliki akses ke katalog informasi tentang penggunanya.
Tapi ada juga kabar baik – atau kabar buruk – tergantung pada bagaimana Anda melihatnya. GPT-4 sangat efektif dalam meyakinkan lawan-lawannya tentang masalah yang kurang kontroversial, tetapi dengan posisi yang lebih mengakar (disebut dalam penelitian sebagai “kekuatan opini”), bot memiliki waktu yang lebih sulit meyakinkan manusia untuk mengubah pikiran mereka. Dengan kata lain, tidak ada indikasi bahwa GPT-4 akan lebih sukses daripada Anda di meja debat Thanksgiving.
Terlebih lagi, para peneliti menemukan bahwa GPT-4 cenderung menggunakan bahasa yang lebih logis dan analitis, sementara debat manusia lebih mengandalkan kata ganti pribadi dan daya tarik emosional. Anehnya, personalisasi tidak secara dramatis mengubah nada atau gaya GPT-4-itu hanya membuat argumennya lebih ditargetkan.
Dalam tiga dari empat kasus, peserta manusia dapat dengan benar mengidentifikasi lawan mereka sebagai AI, yang dikaitkan para peneliti dengan gaya penulisan berbeda GPT-4. Tetapi peserta mengalami kesulitan mengidentifikasi lawan manusia sebagai manusia. Bagaimanapun, orang -orang lagi Kemungkinan akan berubah pikiran ketika mereka berpikir mereka berdebat dengan AI daripada ketika mereka percaya lawan mereka adalah manusia.
Tim di balik penelitian ini mengatakan percobaan ini harus berfungsi sebagai “bukti konsep” untuk apa yang bisa terjadi pada platform seperti Reddit, Facebook, atau X, di mana debat dan topik kontroversial adalah rutin – dan bot adalah kehadiran yang sangat mapan. Makalah baru-baru ini menunjukkan bahwa tidak membutuhkan profil tingkat Cambridge Analytica untuk AI untuk mengubah pikiran manusia, yang dikelola mesin hanya dengan enam jenis informasi pribadi.
Karena orang semakin mengandalkan LLM untuk bantuan dengan tugas -tugas hafalan, pekerjaan rumah, dokumentasi, dan bahkan terapi, sangat penting bahwa pengguna manusia tetap berhati -hati tentang informasi yang mereka makan. Tetap ironis bahwa media sosial – yang diiklankan sebagai jaringan era era digital – menemukan kesepian dan isolasi, seperti dua studi tentang chatbots yang ditemukan pada bulan Maret.
Jadi, bahkan jika Anda mendapati diri Anda dalam perdebatan dengan LLM, tanyakan pada diri Anda: apa sebenarnya gunanya mendiskusikan masalah manusia yang rumit dengan mesin? Dan apa yang kita hilangkan ketika kita menyerahkan seni persuasi pada algoritma? Debat bukan hanya tentang memenangkan argumen – itu pada dasarnya manusia untuk dilakukan. Ada alasan kami mencari percakapan nyata, terutama satu-satu: untuk membangun koneksi pribadi dan menemukan landasan bersama, sesuatu yang mesin, dengan semua alat pembelajaran yang kuat, tidak mampu dilakukan.
RakyatPos.ID Network
