Pasar saham sudah menjadi tempat yang tidak dapat diprediksi, dan sekarang Bank of England telah memperingatkan bahwa adopsi AI generatif di pasar keuangan dapat menghasilkan monokultur dan semakin memperkuat pergerakan saham. Ini mengutip laporan oleh Komite Kebijakan Keuangan Bank yang berpendapat bahwa bot otonom mungkin belajar volatilitas dapat menguntungkan bagi perusahaan dan dengan sengaja mengambil tindakan untuk mengayunkan pasar.
Pada dasarnya, bank khawatir bahwa frasa “Beli Dip” mungkin diadopsi oleh model dengan cara jahat dan bahwa peristiwa seperti “flash crash” 2010 yang terkenal bisa menjadi lebih umum. Dengan sejumlah kecil model dasar yang mendominasi ruang AI, terutama yang dari Openai dan Anthropic, perusahaan dapat menyatu dengan strategi investasi yang sama dan menciptakan perilaku kawanan.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Tetapi lebih dari sekadar mengikuti strategi yang sama, model berfungsi pada sistem penghargaan – ketika mereka dilatih menggunakan teknik yang disebut pembelajaran penguatan dengan umpan balik manusia, model belajar bagaimana menghasilkan jawaban yang akan menerima umpan balik positif. Itu telah menyebabkan perilaku aneh, termasuk model yang menghasilkan informasi palsu yang mereka tahu akan lulus ulasan. Ketika model diinstruksikan untuk tidak membuat informasi, telah ditunjukkan bahwa mereka akan mengambil langkah -langkah untuk menyembunyikan perilaku mereka.
Ketakutannya adalah bahwa model dapat memahami bahwa tujuan mereka adalah untuk mendapat untung bagi investor dan melakukannya melalui cara yang tidak etis. Model AI, bagaimanapun, bukan manusia dan tidak secara intrinsik memahami benar versus salah.
“Misalnya, model mungkin belajar bahwa peristiwa stres meningkatkan peluang mereka untuk menghasilkan keuntungan dan dengan demikian mengambil tindakan secara aktif untuk meningkatkan kemungkinan peristiwa tersebut,” membaca laporan oleh Komite Kebijakan Keuangan.
Perdagangan algoritma frekuensi tinggi sudah umum di Wall Street, yang telah menyebabkan pergerakan saham yang tiba-tiba dan tidak terduga. Dalam beberapa hari terakhir, S&P 500 naik lebih dari 7% sebelum menabrak kembali setelah sebuah pos media sosial salah menafsirkan komentar oleh administrasi Trump untuk menyarankan bahwa hal itu akan menghentikan tarif (yang tampaknya benar -benar terjadi sekarang, setelah penolakan sebelumnya). Tidak sulit membayangkan chatbot seperti X Grok yang menelan informasi ini dan membuat perdagangan berdasarkan itu, menyebabkan kerugian besar bagi sebagian orang.
Secara umum, model AI dapat memperkenalkan banyak perilaku yang tidak dapat diprediksi sebelum manajer manusia memiliki waktu untuk mengambil kendali. Model pada dasarnya adalah kotak hitam, dan mungkin sulit untuk memahami pilihan dan perilaku mereka. Banyak yang mencatat bahwa pengenalan AI generatif Apple ke dalam produknya tidak biasa, karena perusahaan tidak dapat mengendalikan output teknologi, yang mengarah ke pengalaman yang tidak memuaskan. Ini juga mengapa ada kekhawatiran tentang AI yang digunakan di bidang lain seperti perawatan kesehatan di mana biaya kesalahan tinggi. Setidaknya ketika manusia memegang kendali ada seseorang yang harus dimintai pertanggungjawaban. Jika model AI memanipulasi pasar saham dan manajer perusahaan perdagangan tidak mengerti bagaimana model bekerja, dapatkah mereka dimintai pertanggungjawaban atas pelanggaran peraturan seperti manipulasi saham?
Yang pasti, ada keragaman model AI yang berperilaku berbeda, jadi itu bukan jaminan bahwa tiba -tiba akan ada stok runtuh karena saran satu model. Dan AI dapat digunakan untuk merampingkan pekerjaan administrasi, seperti menulis email. Tetapi di bidang dengan toleransi yang rendah terhadap kesalahan, penggunaan AI yang meluas dapat menyebabkan beberapa masalah buruk.
RakyatPos.ID Network
