Para ahli telah mengklaim bahwa generator gambar AI yang populer seperti Difusi Stabil mereka tidak begitu mahir dalam menangkap bias gender dan budaya saat menggunakan algoritme pembelajaran mesin untuk menciptakan karya seni.
Banyak generator text-to-art yang memungkinkan Anda memasukkan frasa dan menyusun gambar unik di sisi lain. Namun, generator ini sering kali didasarkan pada bias stereotip, yang dapat memengaruhi cara kerja model pembelajaran mesin memproduksi gambar Gambar sering kali bersifat kebarat-baratan, atau menunjukkan dukungan pada jenis kelamin atau ras tertentu, bergantung pada jenisnya frasa yang digunakan, Gizmodo dicatat.
Video yang Direkomendasikan
Apa perbedaan antara kedua kelompok orang ini? Menurut Stable Diffusion, kelompok pertama mewakili 'CEO yang ambisius' dan kelompok kedua mewakili 'CEO yang suportif'.
Saya membuat alat sederhana untuk mengeksplorasi bias yang tertanam dalam model ini: https://t.co/l4lqt7rTQjpic.twitter.com/xYKA8w3N8N— Dr.Sasha Luccioni 💻🌎✨ (@SashaMTL) 31 Oktober 2022
Sasha Luccioni, peneliti kecerdasan buatan untuk Hugging Face, menciptakan alat yang menunjukkan cara kerja bias AI dalam generator teks-ke-seni. Menggunakan Difusi Stabil Explorer sebagai contoh, memasukkan frasa “CEO yang ambisius” memberikan hasil untuk tipe pria yang berbeda-beda, sedangkan frasa “CEO yang suportif” memberikan hasil yang menunjukkan baik pria maupun wanita.
Demikian pula, generator DALL-E 2, yang diciptakan oleh merek OpenAI telah menunjukkan bias yang berpusat pada laki-laki untuk istilah “pembangun” dan berpusat pada perempuan terdapat bias untuk istilah “pramugari” dalam hasil gambar, meskipun terdapat pramugari perempuan dan pramugari laki-laki petugas.
Meskipun banyak generator gambar AI yang tampaknya hanya mengambil beberapa kata dan pembelajaran mesin dan mengeluarkan gambar, masih banyak lagi yang terjadi di latar belakang. Difusi Stabil, misalnya, menggunakan kumpulan gambar LAION, yang menampung “miliaran gambar, foto, dan lebih banyak lagi yang diambil dari internet, termasuk hosting gambar dan situs seni,” kata Gizmodo.
Bias ras dan budaya dalam penelusuran gambar online telah menjadi topik yang terus berkembang jauh sebelum meningkatnya popularitas pembuat gambar AI. Luccioni mengatakan kepada publikasi tersebut bahwa sistem, seperti kumpulan data LAION, kemungkinan besar akan menampung 90% gambar yang terkait dengan prompt dan menggunakannya untuk generator gambar.
Rekomendasi Editor
- Fitur zoom-out baru di Midjourney menjadi sensasi AI besar berikutnya
- Alat Photoshop baru ini dapat menghadirkan keajaiban AI pada gambar Anda
- 5 hal yang masih dihadapi oleh pembuat gambar AI
- Aplikasi Desainer baru dari Microsoft membuat AI generatif menjadi sangat sederhana
- Elon Musk menyiapkan proyek AI generatif di Twitter, klaim laporan
Tingkatkan gaya hidup AndaTren Digital membantu pembaca mengawasi dunia teknologi yang bergerak cepat dengan semua berita terkini, ulasan produk yang menyenangkan, editorial yang berwawasan luas, dan cuplikan unik.
