Robot dapat menekan anak-anak, tapi jangan berpikir bahwa kita kebal

Untuk sedikit mengubah judul acara TV terkenal: Anak-anak melakukan hal-hal yang paling buruk. Baru-baru ini, peneliti dari Jerman dan Inggris melakukan penelitian, dipublikasikan di jurnal Robotika Sains, yang menunjukkan sejauh mana anak-anak rentan terhadap tekanan robot dari teman sebaya. Versi TLDR: jawaban atas pertanyaan lama orang tua: “Jika semua teman Anda menyuruh Anda melompat dari tebing, bukan?” mungkin “Tentu. Andai semua temanku adalah robot.”

Tes tersebut mengulangi eksperimen terkenal tahun 1951 yang dipelopori oleh psikolog Polandia Solomon Asch. Eksperimen tersebut menunjukkan bagaimana orang dapat dipengaruhi oleh tekanan pemikiran kelompok, bahkan ketika tekanan tersebut bertentangan dengan informasi yang mereka tahu benar. Dalam eksperimen Asch, sekelompok mahasiswa dikumpulkan dan diperlihatkan dua kartu. Kartu di sebelah kiri menampilkan gambar satu garis vertikal. Kartu di sebelah kanan menampilkan tiga garis dengan panjang yang berbeda-beda. Pelaku eksperimen kemudian menanyakan kepada peserta garis mana di kartu kanan yang sesuai dengan panjang garis di kartu kiri.

Sejauh ini, sangat mudah. Namun, hal yang menjadi lebih licik adalah susunan kelompoknya. Hanya satu orang di luar kelompok yang benar-benar berpartisipasi, sedangkan yang lain semuanya adalah aktor, yang telah diberi tahu apa yang harus mereka katakan sebelumnya. Eksperimennya adalah untuk menguji apakah peserta sebenarnya akan setuju dengan anggota kelompok lainnya ketika mereka dengan suara bulat memberikan jawaban yang salah. Ternyata, sebagian besar akan melakukannya. Tekanan teman sebaya berarti mayoritas orang akan menolak informasi yang jelas-jelas benar jika hal itu berarti harus menyesuaikan diri dengan pendapat mayoritas.

Dalam percobaan remix tahun 2018, prinsip yang sama digunakan — hanya saja, alih-alih sekelompok teman seusia kuliah, “peserta sebenarnya” adalah seorang anak, berusia tujuh hingga sembilan tahun. Para “aktor” tersebut diperankan oleh tiga robot yang diprogram untuk memberikan jawaban yang salah. Dari sampel 43 relawan, 74 persen anak-anak memberikan jawaban salah yang sama seperti robot. Hasilnya menunjukkan bahwa sebagian besar anak-anak pada usia ini akan memperlakukan tekanan dari robot sama seperti tekanan dari teman sebaya mereka.

“Hal istimewa tentang anak-anak pada rentang usia tersebut adalah mereka masih berada pada usia di mana mereka bisa menahan ketidakpercayaan,” Tony Belpaeme, Profesor Sistem Kontrol Cerdas dan Otonom, yang membantu melaksanakan penelitian tersebut, mengatakan kepada Digital Trends. “Mereka akan bermain dengan mainan dan tetap percaya bahwa action figure atau boneka mereka adalah nyata; mereka masih akan menonton pertunjukan boneka dan benar-benar percaya dengan apa yang terjadi; mereka mungkin masih percaya pada [Santa Claus]. Sama halnya ketika mereka melihat robot: mereka tidak melihat barang elektronik dan plastik, melainkan karakter sosialnya.”

Menariknya, eksperimen tersebut membandingkan hal ini dengan respons orang dewasa. Berbeda dengan anak-anak, orang dewasa tidak terpengaruh oleh kesalahan robot. “Ketika orang dewasa melihat robot memberikan jawaban yang salah, mereka memberikan tatapan bingung dan kemudian memberikan jawaban yang benar,” lanjut Belpaeme.

Jadi tidak ada yang perlu dikhawatirkan? Selama kita menghentikan anak-anak menggunakan robot yang diprogram untuk memberikan respons buruk, semuanya akan baik-baik saja, bukan? Jangan terlalu cepat.

Apakah orang dewasa jauh lebih pintar?

Sebagaimana diakui Belpaeme, tugas ini dirancang sedemikian sederhana sehingga tidak ada ketidakpastian mengenai apa jawabannya. Dunia nyata berbeda. Ketika kita berpikir tentang jenis-jenis pekerjaan yang mudah diserahkan kepada mesin, seringkali ini adalah tugas-tugas yang kita, sebagai manusia, tidak selalu mampu lakukan dengan sempurna.

Bisa jadi tugasnya sangat sederhana, namun mesin dapat melakukannya jauh lebih cepat daripada yang kita bisa. Atau bisa juga menjadi tugas yang lebih kompleks, di mana komputer mempunyai akses terhadap jumlah data yang jauh lebih besar daripada yang kita miliki. Bergantung pada dampak potensial dari pekerjaan yang ada, tidak mengherankan jika banyak dari kita tidak senang memperbaiki mesin.

Apakah seorang perawat di rumah sakit akan senang jika menolaknya Algoritma yang disetujui FDA yang dapat membantu membuat prioritas mengenai kesehatan pasien dengan memantau tanda-tanda vital dan kemudian mengirimkan peringatan kepada staf medis? Atau akankah seorang pengemudi merasa nyaman mengambil kemudi dari mobil tanpa pengemudi ketika menghadapi skenario jalan yang sangat rumit? Atau bahkan seorang pilot mengesampingkan autopilot karena merasa telah mengambil keputusan yang salah? Dalam semua kasus ini, kami menganggap jawabannya adalah “ya”. Namun, karena berbagai alasan, hal itu mungkin tidak menjadi kenyataan.

Nicholas Carr menulis tentang ini dalam bukunya tahun 2014 Sangkar Kaca: Kemana Otomatisasi Membawa Kita. Cara dia mendeskripsikannya menggarisbawahi ambiguitas yang terdapat dalam kasus otomatisasi di kehidupan nyata, dan di mana letak permasalahannya jauh lebih rumit daripada panjang garis pada kartu, mesinnya jauh lebih pintar, dan potensi hasilnya lebih besar penting.

“Bagaimana Anda mengukur dampak terkikisnya upaya dan keterlibatan, atau berkurangnya keagenan dan otonomi, atau sedikit penurunan keterampilan? Anda tidak bisa, tulisnya. “Ini adalah hal-hal yang tidak terlihat dan tidak berwujud yang jarang kita hargai sampai hal-hal tersebut hilang, dan bahkan kita mungkin mengalami kesulitan untuk mengungkapkan kerugian tersebut secara nyata.”

Robot sosial seperti yang diteorikan Belpaeme dalam makalah penelitiannya belum menjadi hal yang umum, namun sudah ada ilustrasi dari beberapa teka-teki ini dalam praktiknya. Misalnya, Carr membuka bukunya dengan menyebutkan memo Administrasi Penerbangan Federal yang menyatakan bahwa pilot harus menghabiskan lebih sedikit waktu terbang dengan autopilot karena risiko yang ditimbulkannya. Hal ini didasarkan pada analisis data kecelakaan, yang menunjukkan bahwa pilot sering kali terlalu bergantung pada sistem komputerisasi.

Kasus serupa melibatkan gugatan tahun 2009 yang melibatkan seorang wanita bernama Lauren Rosenberg mengajukan gugatan terhadap Google setelah disarankan untuk berjalan di sepanjang rute yang menuju ke lalu lintas berbahaya. Meskipun kasus ini dibatalkan di pengadilan, hal ini menunjukkan bahwa orang-orang akan mengesampingkan akal sehat mereka dengan keyakinan bahwa kecerdasan mesin memiliki kecerdasan lebih dari kita.

Untuk setiap kapal pasti ada kapal karam

Pada akhirnya, seperti yang diakui Belpaeme, masalahnya adalah terkadang kita ingin menyerahkan pengambilan keputusan kepada mesin. Robot berjanji untuk melakukan pekerjaan yang membosankan, kotor, dan berbahaya — dan jika kita harus mempertimbangkan kembali setiap keputusan yang diambil, sebenarnya keputusan tersebut bukanlah alat yang dapat menghemat tenaga kerja seperti yang dijanjikan. Jika pada akhirnya kita akan mengundang robot ke rumah kita, kita ingin robot dapat bertindak secara mandiri, dan hal ini memerlukan tingkat kepercayaan tertentu.

“Robot yang memberikan tekanan sosial kepada Anda bisa menjadi hal yang baik; tidak harus seram,” lanjut Belpaeme. “Jika Anda memiliki robot yang digunakan dalam layanan kesehatan atau pendidikan, Anda ingin robot tersebut dapat memengaruhi Anda. Misalnya, jika Anda ingin menurunkan berat badan, Anda bisa diberikan robot penurun berat badan selama dua bulan monitor asupan kalori Anda dan mendorong Anda untuk lebih banyak berolahraga. Anda ingin robot seperti itu bisa persuasif dan memengaruhi Anda. Namun teknologi apa pun yang dapat digunakan untuk kebaikan juga dapat digunakan untuk kejahatan.”

Apa jawabannya? Pertanyaan seperti ini akan diperdebatkan berdasarkan kasus per kasus. Jika dampak buruknya lebih besar daripada kebaikannya, teknologi seperti robot sosial tidak akan pernah berkembang pesat. Namun penting bagi kita untuk mengambil pelajaran yang tepat dari penelitian seperti tentang tekanan teman sebaya yang disebabkan oleh robot. Dan bukan fakta bahwa kita jauh lebih pintar dari anak-anak.

Rekomendasi Editor

• Masa depan otomatisasi: Robot akan hadir, namun mereka tidak akan mengambil pekerjaan Anda
• Robot-robot ini dapat membunuh rumput liar sehingga petani tidak memerlukan herbisida kimia