AI yang meloretnya repositori artikel jurnal yang luas di internet telah mereproduksi kesalahan yang masuk ke lusinan makalah penelitian – dan sekarang tim peneliti telah menemukan sumber masalah ini.
Ini pertanyaan di ujung lidah semua orang: apa itu “mikroskop elektron vegetatif”? Ternyata, istilah ini tidak masuk akal.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Kedengarannya teknis – mungkin bahkan kredibel – tetapi itu omong kosong lengkap. Namun, itu muncul di makalah ilmiah, respons AI, dan bahkan jurnal yang ditinjau oleh peer-review. Jadi … bagaimana frasa hantu ini menjadi bagian dari pengetahuan kolektif kita?
Seperti yang dilaporkan dengan susah payah oleh Retraction Watch pada bulan Februari, istilah tersebut mungkin telah ditarik dari kolom teks paralel dalam kertas 1959 di dinding sel bakteri. AI tampaknya telah melompati kolom, membaca dua baris teks yang tidak terkait sebagai satu kalimat yang berdekatan, menurut seorang penyelidik.
Teks Farkakte adalah kasus buku teks dari apa yang oleh para peneliti menyebut fosil digital: kesalahan yang disimpan di lapisan data pelatihan AI dan muncul secara tak terduga di output mendatang. Fosil digital “hampir tidak mungkin untuk dihapus dari repositori pengetahuan kami,” menurut tim peneliti AI yang melacak kasus aneh “mikroskop elektron vegetatif,” sebagaimana dicatat dalam percakapan.
Proses fosilisasi dimulai dengan kesalahan sederhana, seperti yang dilaporkan tim. Kembali pada 1950 -an, dua makalah diterbitkan dalam ulasan bakteriologis yang kemudian dipindai dan didigitalkan.
Tata letak kolom saat muncul dalam artikel -artikel itu membingungkan perangkat lunak digitalisasi, yang menumbuk kata “vegetatif” dari satu kolom dengan “elektron” dari yang lain. Fusion adalah apa yang disebut “frasa yang disiksa” —satu yang tersembunyi di mata telanjang, tetapi jelas untuk model perangkat lunak dan bahasa yang “membaca” teks.
Seperti yang dicatat oleh Retraction Watch, hampir 70 tahun setelah makalah biologi diterbitkan, “mikroskop elektron vegetatif” mulai bermunculan di makalah penelitian dari Iran.
Di sana, kesalahan terjemahan Farsi mungkin telah membantu memperkenalkan kembali istilah: kata -kata untuk “vegetatif” dan “pemindaian” berbeda hanya dengan titik dalam naskah Persia – dan pemindaian mikroskop elektron adalah hal yang sangat nyata. Hanya itu yang diperlukan untuk terminologi palsu untuk kembali ke catatan ilmiah.
Tetapi bahkan jika kesalahan dimulai dengan terjemahan manusia, AI mereplikasi di seluruh web, menurut tim yang menggambarkan temuan mereka dalam percakapan. Para peneliti mendorong model AI dengan kutipan makalah asli, dan memang, model AI dengan andal diselesaikan dengan istilah BS, bukan yang valid secara ilmiah. Model yang lebih lama, seperti GPT-2 dan Bert Openai, tidak menghasilkan kesalahan, memberi para peneliti indikasi kapan kontaminasi data pelatihan model terjadi.
“Kami juga menemukan kesalahan tetap ada dalam model selanjutnya termasuk GPT-4O dan Claude 3.5 Anthropic,” tulis kelompok itu dalam posnya. “Ini menunjukkan istilah omong kosong sekarang dapat tertanam secara permanen dalam basis pengetahuan AI.”
Kelompok ini mengidentifikasi dataset CommonCrawl – repositori raksasa dari halaman internet yang dikikis – sebagai sumber yang mungkin dari istilah malang yang akhirnya diambil oleh model AI. Tapi sama sulitnya menemukan sumber kesalahan, menghilangkannya bahkan lebih sulit. CommonCrawl terdiri dari petabyte data, yang membuatnya sulit bagi para peneliti di luar perusahaan teknologi terbesar untuk mengatasi masalah pada skala. Itu selain fakta bahwa perusahaan AI terkemuka terkenal menolak untuk berbagi data pelatihan mereka.
Tetapi perusahaan AI hanyalah bagian dari masalah-penerbit yang haus jurnal adalah binatang buas lainnya. Seperti yang dilaporkan oleh Retraction Watch, raksasa penerbitan Elsevier mencoba membenarkan kepekaan “mikroskop elektron vegetatif” sebelum akhirnya mengeluarkan koreksi.
Journal Frontiers memiliki bencana sendiri tahun lalu, ketika dipaksa untuk menarik kembali sebuah artikel yang mencakup gambar AI-dibuat AIR yang tidak masuk akal dari alat kelamin tikus dan jalur biologis. Awal tahun ini, tim peneliti dalam ulasan informasi Harvard Kennedy School menyoroti masalah yang memburuk dari apa yang disebut “ilmu sampah” di Google Cendekia, yang pada dasarnya bycatch tidak ilmiah yang diterangi oleh mesin.
AI memiliki kasus penggunaan yang asli di seluruh sains, tetapi penyebarannya yang berat pada skala penuh dengan bahaya informasi yang salah, baik untuk para peneliti maupun untuk publik yang cenderung secara ilmiah. Setelah peninggalan digitalisasi yang keliru menjadi tertanam dalam catatan fosil internet, penelitian terbaru menunjukkan mereka sangat sulit untuk dimasukkan.
RakyatPos.ID Network
