Jeśli osoby, które są na czele technologii sztucznej inteligencji, komentują nt potencjalnie katastrofalne skutki wysoce inteligentnych systemów sztucznej inteligencji, prawdopodobnie rozsądnie jest usiąść i wziąć ogłoszenie.
Zaledwie kilka miesięcy temu Geoffrey Hinton, człowiek uważany za jednego z „ojców chrzestnych” sztucznej inteligencji ze względu na swoją pionierską pracę w tej dziedzinie, powiedział, że szybkie tempo rozwoju technologii oznaczało, że „nie było to nie do pomyślenia” że superinteligentna sztuczna inteligencja — uważana za lepszą od ludzkiego umysłu — może doprowadzić do zniszczenia ludzkości.
Polecane filmy
Oraz Sam Altman, dyrektor generalny OpenAI, firmy, która za tym stoi wirusowego chatbota ChatGPT, przyznał, że „trochę się boi” potencjalnego wpływu zaawansowanych systemów sztucznej inteligencji na społeczeństwo.
Powiązany
- Twórca ChatGPT OpenAI mierzy się z sondą FTC w sprawie przepisów dotyczących ochrony konsumentów
- Ruch na stronie ChatGPT spadł po raz pierwszy
- Nauczyłem ChatGPT uczyć mnie gier planszowych, a teraz już nigdy nie wrócę
Altman jest tak zaniepokojony, że w środę jego firma ogłosiła, że tworzy nową jednostkę o nazwie Superdostrojenie ma na celu zapewnienie, że superinteligentna sztuczna inteligencja nie spowoduje chaosu lub czegoś daleko gorzej.
„Superinteligencja będzie najbardziej wpływową technologią, jaką kiedykolwiek wymyśliła ludzkość, i może pomóc nam rozwiązać wiele najważniejszych problemów świata” powiedział OpenAI w poście przedstawiającym nową inicjatywę. „Ale ogromna potęga superinteligencji może być również bardzo niebezpieczna i może doprowadzić do osłabienia ludzkości, a nawet do jej wyginięcia”.
OpenAI powiedział, że chociaż superinteligentna sztuczna inteligencja może wydawać się odległa, wierzy, że może zostać opracowana do 2030 roku. I chętnie przyznaje, że w chwili obecnej nie istnieje żaden system „do kierowania lub kontrolowania potencjalnie superinteligentnej sztucznej inteligencji i zapobiegania jej zbuntowaniu się”.
Aby poradzić sobie z tą sytuacją, OpenAI chce zbudować „zautomatyzowanego badacza wyrównania na poziomie zbliżonym do człowieka”, który przeprowadzałby kontrole bezpieczeństwa na superinteligentna sztuczna inteligencja, dodając, że zarządzanie tymi zagrożeniami będzie wymagało również nowych instytucji zarządzających i rozwiązania problemu superinteligencji wyrównanie.
Aby Superalignment odniosło skutek, OpenAI musi zebrać zespół najlepszych badaczy i inżynierów zajmujących się uczeniem maszynowym.
Firma wydaje się być bardzo szczera, jeśli chodzi o swój wysiłek, opisując go jako „niesamowicie ambitny cel”, jednocześnie to przyznając „nie ma gwarancji sukcesu”. Dodaje jednak, że „optymistyczne jest to, że skoncentrowany, skoordynowany wysiłek może rozwiązać ten problem problem."
Nowe narzędzia sztucznej inteligencji, takie jak między innymi ChatGPT OpenAI i Google Bard, są tak rewolucyjne, że eksperci są pewni, że że nawet na tym poziomie przed superinteligencją, miejsce pracy i szerzej pojęte społeczeństwo stoją w obliczu fundamentalnych zmian w niedalekiej przyszłości termin.
To dlatego rządy na całym świecie starają się nadrobić zaległości, pospiesznie dążąc do narzucenia przepisów szybko rozwijającej się branży sztucznej inteligencji w celu zapewnienia bezpiecznego i odpowiedzialnego wdrażania technologii sposób. Jednak o ile nie zostanie utworzony jeden organ, każdy kraj będzie miał własne poglądy na temat najlepszego wykorzystania technologii, co oznacza, że przepisy te mogą się znacznie różnić i prowadzić do wyraźnie różnych wyników. I właśnie te różne podejścia sprawią, że cel Superalignment będzie jeszcze trudniejszy do osiągnięcia.
Zalecenia redaktorów
- Google Bard może teraz mówić, ale czy może zagłuszyć ChatGPT?
- Nowa firma AI Elona Muska ma na celu „zrozumienie wszechświata”
- OpenAI ujawnia lokalizację swojej pierwszej międzynarodowej placówki
- Prawnicy z Nowego Jorku ukarani grzywną za używanie fałszywych przypadków ChatGPT w skrócie prawnym
- Ta przeglądarka internetowa integruje ChatGPT w fascynujący nowy sposób
Ulepsz swój styl życiaTrendy cyfrowe pomagają czytelnikom śledzić szybko zmieniający się świat technologii dzięki najnowszym wiadomościom, zabawnym recenzjom produktów, wnikliwym artykułom redakcyjnym i jedynym w swoim rodzaju zapowiedziom.
