Negatieve effecten van kunstmatige intelligentie

De ontwikkeling van machines die het menselijk denken kunnen nabootsen, het kunnen overtreffen of zelfs zelfbewust kunnen worden, is een goed onderzocht uitgangspunt binnen sciencefiction. In het huidige technologische landschap kan de komst van kunstmatige intelligentie -- AI -- een van de grootste van de mensheid worden prestaties, maar zoals de beroemde natuurkundige Stephen Hawking waarschuwde: "het kan ook de laatste zijn, tenzij we leren de risico's."

Geavanceerde technologie blijft zich verankeren in de moderne samenleving, van digitale persoonlijke assistenten en slimme zoekalgoritmen in Google tot experimentele zelfrijdende auto's. Kunstmatige intelligentie wordt gedefinieerd als een computer of machine die "logische deductie en gevolgtrekking" kan uitvoeren en "beslissingen kan nemen". gebaseerd op ervaringen uit het verleden of onvoldoende of tegenstrijdige informatie." De huidige technische niveaus brengen al angstaanjagende ethische dilemma's met zich mee, zoals: of militaire drones of andere robotsystemen moeten worden ontworpen om dodelijk geweld te gebruiken tegen doelen zonder directe mens betrokkenheid. Momenteel kunnen geprogrammeerde machines sneller en nauwkeuriger reageren dan een menselijke operator, maar zijn ze nog steeds in staat grove fouten te maken zonder menselijke vooroordelen en intuïtie om de besluitvorming te begeleiden. Deze problemen zullen worden versterkt als AI in dergelijke systemen wordt ingebouwd, waardoor onafhankelijke motieven worden geïntroduceerd die volledig onvoorspelbaar kunnen zijn of in direct conflict met menselijke bedoelingen.

De integratie van kunstmatige intelligentie zal het concept van werk van de mensheid drastisch veranderen. Sinds het industriële tijdperk heeft technologie van welke aard dan ook onvermijdelijk veel banen overbodig gemaakt en tegelijkertijd nieuwe kansen gecreëerd in opkomende gebieden. AI biedt een toekomst waarin machines taken in onze plaats doen, waardoor mensen een ontspannen leven kunnen leiden. Econoom John Maynard Keynes ging zelfs zo ver - in 1930 - dat hij in 2030 een werkweek van 15 uur voorspelde. Op het huidige bevolkingsniveau zouden alle aspecten van de samenleving zowel cultureel als economisch drastisch moeten worden herzien als automatisering zo'n dramatische verschuiving zou veroorzaken in de manier waarop onze dagen worden besteed.

Een belangrijke bedreiging van kunstmatige intelligentie is of het ervoor kiest om reeds verbeterde vaardigheden te gebruiken om machines met nog grotere cognitieve kracht te creëren. Geavanceerde generaties van AI zouden net zo hoog boven mensen kunnen opereren als wij boven dieren, en mogelijk zelfs verder evolueren dan het menselijk vermogen om het te begrijpen. In dit resultaat - door Dr. Vernor Vinge voor het VISION-21 Symposium van het NASA Lewis Research Center in 1993 de Singularity genoemd - regels voor het leven zoals we dat kennen, zouden voor altijd veranderen, want er is geen manier om te voorspellen of AI zou besluiten om naast elkaar te bestaan ​​of vijandig tegenover de mensheid te staan.

Hawking benadrukt dat bij elke serieuze discussie over kunstmatige intelligentie rekening moet worden gehouden met de potentiële bedreigingen en hoe deze kunnen worden beheerd, en roept op tot kritischer, institutioneel onderzoek, aangezien steeds meer bedrijfsmiddelen worden besteed aan het realiseren van doorbraken in het creëren van kunstmatige intelligentie. Vinge stelt dat AI strak kan worden gereguleerd door regels die in feite welwillend zijn gedrag in autonome robots, zoals voorgesteld door sciencefictionschrijver Isaac Asimov's Three Laws of Robotica. Vinge waarschuwt ook dat natuurlijke menselijke concurrentie waarschijnlijk zal leiden tot de ontwikkeling van onbeperkte modellen van AI, dus zelfs dergelijke waarborgen zijn mogelijk niet voldoende om de Singularity te beheersen als deze zich voordoet.