Meskipun Facebook sudah berupaya keras, pihak-pihak jahat selalu berhasil membobol perlindungan dan kebijakannya. Jejaring sosial ini kini bereksperimen dengan cara baru untuk memperkuat dinding anti-spam dan mencegah perilaku buruk yang berpotensi melanggar perlindungannya: Sepasukan bot.
Facebook mengatakan pihaknya sedang mengembangkan sistem bot baru yang dapat menyimulasikan perilaku buruk dan menguji platformnya untuk menemukan kekurangan dan celah apa pun. Bot otomatis ini dilatih dan diajarkan bagaimana bertindak seperti orang sungguhan dengan memanfaatkan harta karun berupa model perilaku Facebook telah diperoleh dari lebih dari dua miliar penggunanya.
Video yang Direkomendasikan
Untuk memastikan eksperimen ini tidak mengganggu pengguna sebenarnya, Facebook juga telah membangun semacam versi paralel dari jejaring sosialnya. Di sini, bot dilepaskan dan dibiarkan merajalela — mereka dapat saling mengirim pesan, mengomentari postingan palsu, mengirim permintaan pertemanan, mengunjungi halaman, dan banyak lagi. Lebih penting lagi, A.I. bot diprogram untuk mensimulasikan skenario ekstrem seperti penjualan narkoba dan senjata untuk menguji bagaimana algoritma Facebook mencoba mencegahnya.
Terkait
- Survei virus corona dari Facebook dan Google mungkin akan segera memprediksi wabah, kata para peneliti
- Bug Facebook menyebabkan artikel virus corona yang valid ditandai sebagai spam
- Facebook mengingatkan pengguna untuk mendapatkan suntikan flu, membatasi jangkauan postingan anti-vaksin
Facebook mengklaim sistem baru ini dapat menampung “ribuan atau bahkan jutaan bot.” Karena sebenarnya berjalan pada kode yang sama dengan pengguna pengalaman, ia menambahkan bahwa “tindakan bot sesuai dengan efek yang akan disaksikan oleh orang-orang nyata yang menggunakan platform."
“Meskipun saat ini proyek ini masih dalam tahap penelitian, harapannya adalah suatu hari nanti proyek ini akan membantu kami meningkatkan layanan dan mengenali potensi masalah keandalan atau integritas sebelum berdampak pada orang-orang yang menggunakan platform ini.” tulis pimpinan proyek, Mark Harman di A postingan blog.
Saat ini masih belum jelas seberapa efektif lingkungan simulasi baru Facebook. Seperti yang disebutkan Harman, ini masih dalam tahap awal dan perusahaan belum menggunakan hasil apa pun untuk pembaruan yang dapat dilihat publik. Selama beberapa tahun terakhir, jejaring sosial ini secara aktif berinvestasi dan mendukung penelitian berbasis kecerdasan buatan untuk mengembangkan alat baru guna memerangi pelecehan dan spam. Pada konferensi pengembang tahunannya dua tahun lalu, Mark Zuckerberg mengumumkan bahwa perusahaannya sedang membangun alat kecerdasan buatan untuk menangani postingan yang menampilkan konten teroris, perkataan yang mendorong kebencian, spam, dan lagi.
Rekomendasi Editor
- Penelitian AI baru Meta dapat meningkatkan terjemahan di Facebook dan Instagram
- Facebook berbagi data lokasi dengan peneliti virus corona
- Data pribadi beberapa pengguna Facebook dan Twitter bocor melalui aplikasi jahat
- Facebook memanfaatkan Minecraft sebagai tempat pelatihan untuk tahap selanjutnya dari A.I.
- Facebook membangun rumah virtual untuk melatih A.I. agen dalam lingkungan yang realistis
Tingkatkan gaya hidup AndaTren Digital membantu pembaca mengawasi dunia teknologi yang bergerak cepat dengan semua berita terkini, ulasan produk yang menyenangkan, editorial yang berwawasan luas, dan cuplikan unik.
