Генеративна АИ се последњих месеци кретала невероватном брзином, са лансирањем разних алата и ботова као што су ОпенАИ ЦхатГПТ, Гоогле Бард, и још. Ипак, овај брзи развој изазива озбиљну забринутост међу искусним ветеранима у области вештачке интелигенције - дакле толико да је преко 1.000 њих потписало отворено писмо позивајући програмере вештачке интелигенције да нападну кочнице.
Писмо је објављено на сајту Институт за будућност живота, организација чија је наведена мисија „усмеравање трансформативне технологије ка добробити живота и даље од ризика екстремно великих размера“. Међу потписници су неколико истакнутих академика и лидера у технологији, укључујући суоснивача Аппле-а Стива Вознијака, извршног директора Твитера Елона Маска и политичара Ендруа Ианг.
Препоручени видео снимци
Чланак позива све компаније које раде на АИ моделима који су моћнији од недавно објављен ГПТ-4 да одмах обустави рад на најмање шест месеци. Овај мораторијум би требало да буде „јаван и проверљив“ и дао би времена за „заједнички развој и имплементацију скупа заједничких безбедносни протоколи за напредни дизајн и развој вештачке интелигенције који се ригорозно ревидирају и надгледају од стране независних спољних стручњаци.”
Повезан
- Произвођач ЦхатГПТ-а ОпенАИ суочава се са истрагом ФТЦ-а због закона о заштити потрошача
- ЦхатГПТ-ова функција прегледања Бинг-а је онемогућена због грешке у приступу паивалл-у
- Апплеов ЦхатГПТ ривал може аутоматски написати код за вас
У писму се каже да је ово неопходно јер „системи вештачке интелигенције са интелигенцијом која се бори против људи могу представљати дубоке ризике за друштво и човечанство“. Оне ризици укључују ширење пропаганде, уништавање радних места, потенцијалну замену и застарелост људског живота и „губитак контроле наше цивилизације“. Аутори додају да одлука о томе да ли да се иде напред у ову будућност не би требало да буде препуштена „неизабраним технологијама Вође."
АИ „за јасну корист свих“
Писмо долази непосредно након што су изнете тврдње да ГПТ-5, следећа верзија технологије која покреће ЦхатГПТ, могао постићи вештачку општу интелигенцију. Ако је тачно, то значи да би било у стању да разуме и научи све што човек може да схвати. То би га могло учинити невероватно моћним на начине који још нису у потпуности истражени.
Штавише, у писму се тврди да се одговорно планирање и управљање у вези са развојем система вештачке интелигенције не дешавају, „иако је последњих месеци дошло до АИ лабораторије закључане у трци ван контроле да развију и примене све моћније дигиталне умове које нико — чак ни њихови креатори — не може да разуме, предвиди или поуздано контролу.”
Уместо тога, у писму се тврди да се морају створити нови системи управљања који ће регулисати развој вештачке интелигенције, помоћи људима да разликују АИ створене и садржај који су креирали људи, држе АИ лабораторије као што је ОпенАИ одговорним за сваку штету коју проузрокују, омогућавају друштву да се носи са поремећајем вештачке интелигенције (нарочито демократији), и још.
Аутори завршавају позитивно, тврдећи да „човјечанство може уживати у процвату будућности са АИ … у којој ми убиремо награде, конструисати ове системе за јасну добробит свих и дати друштву прилику да се прилагоди.” Моћније притисните паузу на АИ системима него ГПТ-4 би дозволили да се то догоди, наводе.
Да ли ће писмо имати предвиђени ефекат? То је тешко рећи. Очигледно постоје подстицаји за ОпенАИ да настави да ради на напредним моделима, како финансијским тако и репутационим. Али са толико потенцијалних ризика - и са врло мало њиховог разумевања - аутори писма очигледно сматрају да су ти подстицаји превише опасни да би их следили.
Препоруке уредника
- Гоогле Бард сада може да говори, али може ли да пригуши ЦхатГПТ?
- Саобраћај на ЦхатГПТ веб локацији је по први пут опао
- 81% сматра да је ЦхатГПТ безбедносни ризик, открива анкета
- Научио сам ЦхатГПТ да ме учи друштвене игре, и сада се више никада нећу вратити
- Адвокати из Њујорка кажњени због коришћења лажних ЦхатГПТ случајева у правном сажетку
Надоградите свој животни стилДигитални трендови помажу читаоцима да прате брзи свет технологије са свим најновијим вестима, забавним рецензијама производа, проницљивим уводницима и јединственим кратким прегледима.
