A Investigasi waktu telah mengungkap sisi suram dari industri chatbot AI, menyoroti bagaimana setidaknya satu startup telah menggunakan praktik yang dipertanyakan untuk meningkatkan teknologinya.
Diterbitkan pada hari Rabu, laporan Time berfokus pada OpenAI yang didukung Microsoft dan chatbot ChatGPT-nya, sebuah teknologi yang baru-baru ini mendapatkan banyak perhatian karena kemampuannya yang luar biasa untuk menghasilkan teks percakapan yang sangat alami.
Video yang Direkomendasikan
Penyelidikan Time menemukan bahwa untuk melatih teknologi AI, OpenAI menggunakan layanan tim di Kenya untuk mempelajari teks yang termasuk materi pelajaran yang mengganggu seperti pelecehan seksual anak, bestialitas, pembunuhan, bunuh diri, penyiksaan, menyakiti diri sendiri, dan inses. Dan atas upaya mereka untuk melabeli konten yang menjijikkan, banyak anggota tim menerima kurang dari $2 per jam.
Terkait
- Google Bard sekarang dapat berbicara, tetapi bisakah itu menenggelamkan ChatGPT?
- ChatGPT: berita terbaru, kontroversi, dan tips yang perlu Anda ketahui
- Rekor pertumbuhan ChatGPT baru saja dicopot oleh aplikasi viral baru
Pekerjaan, yang dimulai pada November 2021, diperlukan karena pendahulu ChatGPT, GPT-3, meski mengesankan, cenderung memuntahkan mengeluarkan konten ofensif karena kumpulan data pelatihannya telah disusun dengan mengorek ratusan miliar kata dari seluruh pelosok web.
Tim yang berbasis di Kenya, dioperasikan oleh perusahaan San Francisco Sama, akan memberi label konten yang menyinggung untuk membantu latih chatbot OpenAI, sehingga meningkatkan datasetnya dan mengurangi kemungkinan hal yang tidak menyenangkan keluaran.
Time mengatakan bahwa keempat karyawan Sama yang diwawancarai menggambarkan luka mental akibat pekerjaan mereka. Sama menawarkan sesi konseling, tetapi karyawan mengatakan itu tidak efektif dan jarang dilakukan karena tuntutan pekerjaan, meskipun juru bicara Sama memberi tahu Waktu bahwa terapis dapat diakses kapan saja waktu.
Seorang pekerja mengatakan kepada Time bahwa membaca materi yang mengejutkan terkadang terasa seperti "siksaan", menambahkan bahwa mereka merasa "terganggu" pada akhir minggu.
Pada Februari 2022, hal-hal berubah menjadi lebih gelap untuk Sama ketika OpenAI meluncurkan proyek terpisah yang tidak terkait dengan ChatGPT yang mengharuskan tim Kenya untuk mengumpulkan gambar yang bersifat seksual dan kekerasan. OpenAI memberi tahu Time bahwa pekerjaan itu diperlukan untuk membuat alat AI-nya lebih aman.
Dalam beberapa minggu setelah proyek berbasis gambar ini dimulai, sifat tugas yang mengkhawatirkan mendorong Sama untuk membatalkan semua kontraknya OpenAI, meskipun Time menyarankan itu juga bisa dipicu oleh kejatuhan PR dari laporan tentang materi pelajaran serupa yang diterbitkannya tentang Facebook di sekitar waktu yang sama.
Open AI memberi tahu Time telah terjadi "miskomunikasi" tentang sifat citra yang diminta Sama kumpulkan, bersikeras bahwa itu tidak meminta citra yang paling ekstrim, dan tidak melihat apa pun yang pernah ada terkirim.
Tetapi mengakhiri kontrak berdampak pada mata pencaharian para pekerja, dengan beberapa tim di Kenya kehilangan pekerjaan, sementara yang lain dipindahkan ke proyek dengan gaji lebih rendah.
Investigasi waktu menawarkan tampilan yang tidak nyaman tetapi penting pada jenis pekerjaan yang masuk ke chatbot bertenaga AI yang baru-baru ini membuat industri teknologi begitu bersemangat.
Meskipun transformatif dan berpotensi menguntungkan, teknologi ini jelas merugikan manusia dan menimbulkan banyak pertanyaan etis tentang bagaimana perusahaan berjalan. mengembangkan teknologi baru mereka, dan lebih luas lagi tentang bagaimana negara-negara kaya terus memberikan tugas-tugas yang kurang diinginkan kepada negara-negara miskin untuk keuangan yang lebih rendah. pengeluaran.
Startup di belakang teknologi akan berada di bawah pengawasan yang lebih terfokus dalam beberapa bulan dan tahun mendatang, jadi mereka sebaiknya meninjau dan meningkatkan praktik mereka sedini mungkin.
Tren Digital telah menghubungi OpenAI untuk mengomentari laporan Time dan kami akan memperbarui artikel ini saat kami mendengarnya kembali.
Rekomendasi Editor
- Alat pengeditan video AI terbaik
- Pembuat ChatGPT OpenAI menghadapi penyelidikan FTC atas undang-undang perlindungan konsumen
- Perusahaan AI baru Elon Musk bertujuan untuk 'memahami alam semesta'
- Lalu lintas situs web ChatGPT turun untuk pertama kalinya
- Terobosan AI bisa datang melalui otak lebah, kata para ilmuwan
Tingkatkan gaya hidup AndaTren Digital membantu pembaca mengawasi dunia teknologi yang bergerak cepat dengan semua berita terbaru, ulasan produk yang menyenangkan, editorial yang berwawasan, dan cuplikan unik.
