Efectele negative ale inteligenței artificiale

Dezvoltarea mașinilor capabile să mimeze gândirea umană, să o depășească sau chiar să devină conștientă de sine este o premisă bine explorată în SF. În peisajul tehnologic de astăzi, apariția inteligenței artificiale -- AI -- poate deveni una dintre cele mai mari ale omenirii realizări, dar, așa cum a avertizat renumitul fizician Stephen Hawking, „ar putea fi și ultima, dacă nu învățăm să evităm riscuri.”

Tehnologia sofisticată continuă să se integreze în societatea modernă, de la asistenți personali digitali și algoritmi de căutare inteligentă din Google, până la mașini experimentale cu conducere autonomă. Inteligența artificială este definită ca un computer sau o mașină capabilă să efectueze „deducție și inferență logică” și „să ia decizii pe baza experienței anterioare sau a informațiilor insuficiente sau contradictorii.” Nivelurile actuale de tehnologie prezintă deja dileme etice înfricoșătoare, cum ar fi cum ar fi dacă dronele militare sau alte sisteme robotizate ar trebui proiectate să folosească forță letală împotriva țintelor fără om direct implicare. În prezent, mașinile programate pot reacționa cu o viteză și o precizie mai mare decât un operator uman, dar sunt încă capabile de erori grosolane fără părtiniri umane și intuiție pentru a ghida luarea deciziilor. Aceste probleme vor fi intensificate dacă AI este integrată în astfel de sisteme, introducând motive independente care pot fi complet imprevizibile sau în conflict direct cu intențiile umane.

Încorporarea inteligenței artificiale va schimba drastic conceptul de muncă al omenirii. Încă din epoca industrială, tehnologia de orice fel face inevitabil multe locuri de muncă învechite, creând în același timp noi oportunități în domenii emergente. AI oferă un viitor în care mașinile îndeplinesc sarcini în locul nostru, permițând oamenilor să-și urmeze vieți libere. Economistul John Maynard Keynes a mers atât de departe -- în 1930 -- încât a prezis o săptămână de lucru de 15 ore până în 2030. La nivelurile actuale ale populației, toate aspectele societății ar necesita o re-vizuire drastică atât din punct de vedere cultural, cât și economic, dacă automatizarea ar crea o schimbare atât de dramatică în modul în care ne petrecem zilele.

O amenințare semnificativă a inteligenței artificiale este dacă alege să folosească abilități deja îmbunătățite pentru a crea mașini cu o putere cognitivă și mai mare. Generațiile avansate de inteligență artificială ar putea funcționa la fel de mult deasupra ființelor umane, precum și noi, deasupra animalelor și chiar și foarte posibil să evolueze dincolo de capacitatea umană de a o înțelege. În acest rezultat -- denumit Singularitatea de către Dr. Vernor Vinge pentru Simpozionul VISION-21 al Centrului de Cercetare Lewis NASA din 1993 -- regulile vieții așa cum știm că se vor schimba pentru totdeauna, pentru că nu există nicio modalitate de a prezice dacă AI va decide să coexiste sau să fie ostilă față de umanitate.

Hawking subliniază că orice discuție serioasă despre inteligența artificială trebuie să ia în considerare potențialele amenințări și cum să le gestioneze și solicită cercetări instituționale mai critice, deoarece resursele corporative crescânde sunt dedicate realizării de descoperiri în crearea artificială inteligență. Vinge postulează că inteligența artificială poate fi strict reglementată de reguli care, în mod efectiv, sunt binevoitoare comportament în roboți autonomi, așa cum a fost imaginat de scriitorul de science-fiction Isaac Asimov a lui Three Laws of Robotică. Vinge avertizează, de asemenea, că concurența umană naturală va duce probabil la dezvoltarea de modele nerestricționate de IA, așa că chiar și astfel de măsuri de siguranță ar putea să nu fie suficiente pentru a controla Singularitatea dacă aceasta apare.