Нвидиа представља свој нови НеМо Гуардраилс алат за АИ програмере и обећава да ће направити АИ цхат ботове попут ЦхатГПТ само мало мање луди. Софтвер отвореног кода је сада доступан програмерима и фокусира се на три области како би АИ цхат ботови учинили кориснијим и мање узнемирујућим.
Алат се налази између корисника и модела великог језика (ЛЛМ) са којим су у интеракцији. То је сигурност за цхат ботове, који пресрећу одговоре пре него што стигну до језичког модела да би спречили модел да реагује или да би му дали конкретна упутства о томе како да одговори.
Нвидиа каже да је НеМо Гуардраилс фокусиран на актуелне, безбедносне и безбедносне границе. Чини се да је тематски фокус најкориснији, јер приморава ЛЛМ да остане у одређеном распону одговора. Нвидиа је демонстрирала Гуардраилс тако што је приказала цхат бота обученог за ХР базу података компаније. На питање о Нвидијиним финансијама, она је дала готов одговор који је програмиран са НеМо Гуардраилс-ом.
Повезан
- Врхунски аутори захтевају плаћање од АИ фирми за коришћење њиховог рада
- ГПТ-4: како користити АИ цхатбот који доводи ЦхатГПТ у срамоту
- Нвидиа не жели да знате за њен контроверзни нови ГПУ
Ово је важно због многих такозваних халуцинација које смо видели од АИ цхат робота. Мицрософт-ов Бинг Цхат, на пример, пружио нам је неколико бизарних и фактички нетачни одговори у нашој првој демонстрацији. Када се суочи са питањем које ЛЛМ не разуме, често ће измислити одговор у покушају да задовољи упит. НеМо Гуардраилс има за циљ да заустави те измишљене одговоре.
Препоручени видео снимци
Безбедносни и безбедносни принципи се фокусирају на филтрирање нежељених одговора од ЛЛМ-а и спречавање да се корисници поигравају са њим. Као што смо већ видели, можете Јаилбреак ЦхатГПТ и други АИ цхат ботови. НеМо Гуардраилс ће узети те упите и блокирати их да икада дођу до ЛЛМ-а.
Иако је НеМо Гуардраилс направљен тако да четботи буду актуелни и тачни, то није решење за све. Нвидиа каже да најбоље функционише као друга линија одбране, и да компаније које развијају и постављају цхатботове и даље треба да обучавају модел на скупу заштитних механизама.
Програмери такође морају да прилагоде алат да одговара њиховим апликацијама. Ово омогућава НеоМо Гуардраилс-у да седи на врху међувера који модели вештачке интелигенције већ користе, као што је ЛангЦхаин, који већ пружа оквир за то како АИ цхатботови треба да комуницирају са корисницима.
Поред тога што је отвореног кода, Нвидиа такође нуди НеМо Гуардраилс као део свог програма Услуга АИ Фондације. Овај пакет пружа неколико унапред обучених модела и оквира за компаније које немају времена или ресурса за обуку и одржавање сопствених модела.
Препоруке уредника
- Ево зашто људи мисле да ГПТ-4 временом постаје глупљи
- ЦхатГПТ: најновије вести, контроверзе и савети које треба да знате
- Шта је ДАН промпт за ЦхатГПТ?
- Вик користи ЦхатГПТ да вам помогне да брзо направите целу веб локацију
- Гоогле Бард сада може да говори, али може ли да пригуши ЦхатГПТ?
Надоградите свој животни стилДигитални трендови помажу читаоцима да прате брзи свет технологије са свим најновијим вестима, забавним рецензијама производа, проницљивим уводницима и јединственим кратким прегледима.
