Orang -orang berbicara di dekat tanda meta di luar kantor pusat perusahaan di Menlo Park, Calif.
Jeff Chiu/AP
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Sembunyikan keterangan
Caption beralih
Jeff Chiu/AP
Selama bertahun -tahun, ketika Meta meluncurkan fitur baru untuk Instagram, WhatsApp dan Facebook, tim pengulas mengevaluasi kemungkinan risiko: dapatkah itu melanggar privasi pengguna? Bisakah itu menyebabkan kerusakan pada anak di bawah umur? Bisakah itu memperburuk penyebaran konten yang menyesatkan atau beracun?
Sampai saat ini, apa yang dikenal di dalam meta sebagai privasi dan ulasan integritas dilakukan hampir seluruhnya oleh evaluator manusia.
Tetapi sekarang, menurut dokumen perusahaan internal yang diperoleh NPR, hingga 90% dari semua penilaian risiko akan segera otomatis.
Dalam praktiknya, ini berarti hal -hal seperti pembaruan kritis terhadap algoritma Meta, fitur keselamatan baru dan perubahan bagaimana konten diizinkan untuk dibagikan di seluruh platform perusahaan akan sebagian besar disetujui oleh sistem yang ditenagai oleh kecerdasan buatan – tidak lagi dapat diteliti oleh staf yang ditugaskan untuk memperdebatkan bagaimana perubahan platform dapat melakukan repersion yang tidak diselesaikan atau disalahgunakan.
Inside Meta, perubahan sedang dilihat sebagai kemenangan bagi pengembang produk, yang sekarang akan dapat merilis pembaruan aplikasi dan fitur lebih cepat. Tetapi karyawan meta saat ini dan mantan khawatir dorongan otomatisasi baru datang dengan mengorbankan AI untuk membuat penentuan rumit tentang bagaimana aplikasi Meta dapat menyebabkan kerusakan dunia nyata.
“Sejauh proses ini secara fungsional berarti lebih banyak barang yang diluncurkan lebih cepat, dengan pengawasan dan oposisi yang kurang ketat, itu berarti Anda menciptakan risiko yang lebih tinggi,” kata seorang mantan eksekutif meta yang meminta anonimitas karena takut akan pembalasan dari perusahaan. “Eksternalitas negatif dari perubahan produk lebih kecil kemungkinannya untuk dicegah sebelum mulai menyebabkan masalah di dunia.”
Meta mengatakan dalam sebuah pernyataan bahwa mereka telah menginvestasikan miliaran dolar untuk mendukung privasi pengguna.
Sejak 2012, Meta telah berada di bawah pengawasan Komisi Perdagangan Federal setelah agensi mencapai kesepakatan dengan perusahaan tentang bagaimana ia menangani informasi pribadi pengguna. Akibatnya, ulasan privasi untuk produk telah diperlukan, menurut karyawan meta saat ini dan mantan.
Dalam pernyataannya, Meta mengatakan perubahan tinjauan risiko produk dimaksudkan untuk merampingkan pengambilan keputusan, menambahkan bahwa “keahlian manusia” masih digunakan untuk “masalah baru dan kompleks,” dan bahwa hanya “keputusan berisiko rendah” yang diotomatisasi.
Tetapi dokumen internal yang ditinjau oleh NPR menunjukkan bahwa Meta sedang mempertimbangkan mengotomatiskan ulasan untuk bidang -bidang sensitif termasuk keselamatan AI, risiko pemuda dan kategori yang dikenal sebagai integritas yang mencakup hal -hal seperti konten kekerasan dan penyebaran kepalsuan.
Mantan karyawan meta: 'Insinyur bukan ahli privasi '
Slide yang menggambarkan proses baru mengatakan bahwa tim produk sekarang dalam banyak kasus menerima “keputusan instan” setelah mengisi kuesioner tentang proyek tersebut. Keputusan yang digerakkan AI akan mengidentifikasi area risiko dan persyaratan untuk mengatasinya. Sebelum diluncurkan, tim produk harus memverifikasi telah memenuhi persyaratan tersebut.
Pendiri dan CEO Meta Mark Zuckerberg berbicara di Llamacon 2025, sebuah konferensi pengembang AI, di Menlo Park, California, Selasa, 29 April 2025. (Foto AP/Jeff Chiu)
Jeff Chiu/AP/AP
Sembunyikan keterangan
Caption beralih
Jeff Chiu/AP/AP
Di bawah sistem sebelumnya, pembaruan produk dan fitur tidak dapat dikirim ke miliaran pengguna sampai mereka menerima berkah penilai risiko. Sekarang, insinyur membangun produk meta diberdayakan untuk membuat penilaian sendiri tentang risiko.
Dalam beberapa kasus, termasuk proyek yang melibatkan risiko baru atau di mana tim produk menginginkan umpan balik tambahan, proyek akan diberikan tinjauan manual oleh manusia, kata slide tersebut, tetapi tidak akan secara default, seperti dulu. Sekarang, tim membangun produk akan melakukan panggilan itu.
“Sebagian besar manajer produk dan insinyur bukan ahli privasi dan itu bukan fokus pekerjaan mereka. Bukan itu yang mereka evaluasi terutama dan bukan apa yang mereka insentif untuk memprioritaskan,” kata Zvika Krieger, yang merupakan direktur inovasi yang bertanggung jawab di Meta sampai 2022. Tim produk di Meta dievaluasi dengan cepat, di antara mereka meluncurkan produk, di antara Meta lainnya.
“Di masa lalu, beberapa jenis penilaian diri ini telah menjadi latihan memeriksa kotak yang kehilangan risiko yang signifikan,” tambahnya.
Krieger mengatakan sementara ada ruang untuk perbaikan dalam merampingkan ulasan di Meta Through Automation, “Jika Anda mendorongnya terlalu jauh, kualitas ulasan dan hasilnya akan menderita.”
Meta meremehkan kekhawatiran bahwa sistem baru akan memperkenalkan masalah ke dunia, menunjukkan bahwa mereka mengaudit keputusan yang dibuat oleh sistem otomatis untuk proyek -proyek yang tidak dinilai oleh manusia.
Dokumen meta menyarankan penggunanya di Uni Eropa bisa agak terisolasi dari perubahan ini. Pengumuman internal mengatakan pengambilan keputusan dan pengawasan untuk produk dan data pengguna di Uni Eropa akan tetap dengan markas meta Eropa di Irlandia. UE memiliki peraturan yang mengatur platform online, termasuk Undang -Undang Layanan Digital, yang mengharuskan perusahaan termasuk meta untuk lebih ketat mengawasi platform mereka dan melindungi pengguna dari konten berbahaya.
Beberapa perubahan pada proses peninjauan produk pertama kali dilaporkan oleh informasi tersebut, situs berita teknologi. Dokumen-dokumen internal yang dilihat oleh NPR menunjukkan bahwa karyawan diberitahu tentang pembenahan tidak lama setelah perusahaan mengakhiri program pengecekan fakta dan melonggarkan kebijakan pidato kebenciannya.
Secara keseluruhan, perubahan mencerminkan penekanan baru pada meta yang mendukung pidato yang lebih tidak terkendali dan lebih cepat memperbarui aplikasinya – pembongkaran berbagai pagar yang telah diberlakukan perusahaan selama bertahun -tahun untuk mengekang penyalahgunaan platformnya. Pergeseran besar di perusahaan juga mengikuti upaya oleh CEO Mark Zuckerberg untuk mendapatkan bantuan dengan Presiden Trump, yang kemenangan pemilihannya Zuckerberg menyebut “titik kritis budaya.”
Bergerak lebih cepat untuk menilai risiko 'Menipiskan diri sendiri '?
Faktor lain yang mendorong perubahan pada ulasan produk adalah dorongan yang lebih luas dan bertahun-tahun untuk mengetuk AI untuk membantu perusahaan bergerak lebih cepat di tengah meningkatnya persaingan dari Tiktok, Openai, Snap dan perusahaan teknologi lainnya.
Meta mengatakan awal pekan ini mereka lebih mengandalkan AI untuk membantu menegakkan kebijakan moderasi kontennya.
“Kami mulai melihat (model bahasa besar) beroperasi di luar kinerja manusia untuk bidang kebijakan tertentu,” tulis perusahaan dalam laporan integritas triwulanan terbaru. Dikatakan itu juga menggunakan model AI tersebut untuk menyaring beberapa posting bahwa perusahaan “sangat percaya diri” tidak melanggar aturannya.
“Ini membebaskan kapasitas bagi pengulas kami yang memungkinkan mereka untuk memprioritaskan keahlian mereka pada konten yang lebih mungkin melanggar,” kata Meta.
Katie Harbath, pendiri dan CEO perusahaan kebijakan teknologi Anchor Change, yang menghabiskan satu dekade mengerjakan kebijakan publik di Facebook, mengatakan menggunakan sistem otomatis untuk menandai risiko potensial dapat membantu mengurangi upaya duplikat.
“Jika Anda ingin bergerak cepat dan memiliki kualitas tinggi yang Anda perlukan untuk menggabungkan lebih banyak AI, karena manusia hanya dapat melakukan banyak hal dalam periode waktu tertentu,” katanya. Tetapi dia menambahkan bahwa sistem -sistem itu juga perlu memiliki check dan keseimbangan dari manusia.
Mantan karyawan mantan meta lainnya, yang berbicara dengan syarat anonim karena mereka juga takut pembalasan dari perusahaan, mempertanyakan apakah bergerak lebih cepat pada penilaian risiko adalah strategi yang baik untuk meta.
“Ini tampaknya sangat menipiskan diri. Setiap kali mereka meluncurkan produk baru, ada begitu banyak pengawasan di atasnya-dan pengawasan itu secara teratur menemukan masalah yang seharusnya dianggap lebih serius kepada perusahaan,” kata mantan karyawan itu.
Michel Protti, chief privacy officer for Product, mengatakan dalam sebuah pos Maret tentang alat komunikasi internal, tempat kerja, bahwa perusahaan itu “memberdayakan tim produk” dengan tujuan “mengembangkan proses manajemen risiko Meta.”
Peluncuran otomatisasi telah meningkat hingga April dan Mei, kata seorang meta karyawan saat ini yang akrab dengan penilaian risiko produk yang tidak berwenang untuk berbicara secara publik tentang operasi internal.
Protti mengatakan mengotomatiskan tinjauan risiko dan memberikan lebih banyak tim produk tentang potensi risiko yang ditimbulkan oleh pembaruan produk dalam 90% kasus dimaksudkan untuk “menyederhanakan pengambilan keputusan.” Tetapi beberapa orang dalam mengatakan bahwa ringkasan cerah dari menghilangkan manusia dari proses penilaian risiko sangat meremehkan masalah yang dapat ditimbulkan oleh perubahan.
“Saya pikir itu cukup tidak bertanggung jawab mengingat maksud mengapa kita ada, “kata karyawan meta yang dekat dengan proses peninjauan risiko.” Kami memberikan perspektif manusia tentang bagaimana hal -hal yang bisa salah. “
Apakah Anda memiliki informasi tentang perubahan Meta? Jangkau para penulis ini melalui komunikasi terenkripsi pada sinyal. Bobby Allyn tersedia di Ballyn.77 dan Bond Shannon tersedia di Shannonbond.01
RakyatPos.ID Network
