Pionier sztucznej inteligencji Geoffrey Hinton zaskoczył w poniedziałek wielu, gdy ujawnił, że rzucił pracę w Google, gdzie przez ostatnią dekadę pracował nad projektami AI.
Często nazywany „ojcem chrzestnym sztucznej inteligencji” ze względu na swoją przełomową pracę, która leży u podstaw wielu współczesnych systemów sztucznej inteligencji, urodzony w Wielkiej Brytanii Hinton, obecnie 75, powiedział „New York Timesowi”. że ma poważne obawy co do szybkości, z jaką korzystają z niej rozwiązania takie jak Open AI CzatGPT narzędzie i Google z Bard, pracują nad rozwojem swoich produktów, zwłaszcza że mogłoby się to odbywać kosztem bezpieczeństwa.
Polecane filmy
„The Times” donosi, że Hinton jest tak zaniepokojony, że powiedział nawet, że w części żałuje swoich wcześniejszych wysiłków w dziedzinie sztucznej inteligencji.
Powiązany
- GPT-4: jak korzystać z chatbota AI, który zawstydza ChatGPT
- Najlepsze narzędzia do edycji wideo AI
- Twórca ChatGPT, OpenAI, staje przed dochodzeniem FTC w sprawie przepisów dotyczących ochrony konsumentów
Jak wskazano w raporcie, narzędzia generatywnej sztucznej inteligencji już zmierzają w kierunku zastępowania ludzkich pracowników, a technologię tę można również wykorzystywać do tworzenia i rozpowszechniania dezinformacji.
Rzeczywiście, jednym z zmartwień Hintona jest to, że Internet, którego dane są wykorzystywane do szkolenia narzędzi generatywnej sztucznej inteligencji, zostanie zalany z fałszywymi informacjami, które mogą spowodować, że chatboty takie jak ChatGPT i Bard będą wypluwać niekończące się nieprawdy w sposób, który brzmi wiarygodne.
Ponieważ firmy stojące za tą technologią udostępniają swoje narzędzia oparte na sztucznej inteligencji do użytku publicznego, nie znając ich w pełni Hinton obawia się, że „trudno wyobrazić sobie, w jaki sposób można zapobiec wykorzystaniu go przez złych aktorów do złych celów rzeczy."
Hinton powiedział, że uregulowanie tej technologii będzie trudne, ponieważ firmy i rządy mogą w dużym stopniu pracować nad technologią tajemnicą, dodając, że jednym ze sposobów poradzenia sobie z tym problemem jest próba nakłonienia czołowych naukowców do współpracy nad sposobami kontrolowania technologia.
W poniedziałek ekspert ds. sztucznej inteligencji poinformował w poniedziałkowym tweecie, że zdecydował się odejść z Google, aby móc „rozmawiać o zagrożeniach związanych ze sztuczną inteligencją” bez zastanowienia się, jaki to ma wpływ na Google”, co sugeruje, że w miarę rozwoju technologii będziemy o nim słyszeć znacznie więcej rozwijać.
W zeszłym miesiącu wyraziłem jeszcze większe obawy, gdy mnie o to poproszono wywiad CBS o prawdopodobieństwie, że sztuczna inteligencja „zniszczy ludzkość”, Hinton powiedział: „To nie jest niewyobrażalne”.
Po wiadomości o odejściu Hintona Jeff Dean, główny naukowiec Google, powiedział w oświadczeniu: „Nadal angażujemy się w odpowiedzialne podejście do sztucznej inteligencji. Nieustannie uczymy się rozumieć pojawiające się zagrożenia, a jednocześnie odważnie wprowadzamy innowacje”.
Hinton nie jest jedynym ekspertem, który wyraża obawy dotyczące nowej fali technologii sztucznej inteligencji, która szturmem podbiła świat.
Być może zaskakująco przyznał niedawno szef OpenAI, Sam Altman być „trochę przestraszonym” potencjalnych skutków technologii AI.
A w marcu list podpisane przez liderów technologii i naukowców stwierdził, że technologia ta stwarza „głębokie ryzyko dla społeczeństwa i ludzkości”.
Opublikowany przez Future of Life Institute, którego sygnatariuszami był m.in. Elon Musk, list wymagał sześciomiesięcznego terminu przerwę w pracach rozwojowych, aby dać czas na stworzenie i wdrożenie protokołów bezpieczeństwa dla zaawansowanych narzędzia.
Dodał, że przy właściwym podejściu ludzkość będzie mogła „cieszyć się kwitnącą przyszłością dzięki sztucznej inteligencji”.
Zalecenia redaktorów
- Czołowi autorzy żądają zapłaty od firm zajmujących się sztuczną inteligencją za korzystanie z ich pracy
- Wix używa ChatGPT, aby pomóc Ci szybko zbudować całą witrynę internetową
- Google Bard może teraz mówić, ale czy może zagłuszyć ChatGPT?
- Nowa firma Elona Muska zajmująca się sztuczną inteligencją ma na celu „zrozumienie wszechświata”
- Ruch na stronie ChatGPT spadł po raz pierwszy
Ulepsz swój styl życiaDigital Trends pomaga czytelnikom śledzić szybko rozwijający się świat technologii dzięki najnowszym wiadomościom, zabawnym recenzjom produktów, wnikliwym artykułom redakcyjnym i jedynym w swoim rodzaju zajawkom.
