Хакери користе вештачку интелигенцију за стварање злонамерног софтвера, каже ФБИ

Више од 9.000 аутора потписало је отворено писмо водећим технолошким компанијама у којима изражавају забринутост због тога како користе свој рад заштићен ауторским правима за обуку четботова са вештачком интелигенцијом.

Удружење аутора послато извршним директорима ОпенАИ, Алпхабет, Мета, Стабилити АИ, ИБМ-а и Мицрософта, писмо скреће пажњу на оно што описује као „урођену неправду у искоришћавању наших дела као дела ваших система вештачке интелигенције без нашег пристанка, кредита или надокнада“.

Људи су били задивљени када је ЦхатГПТ изашао, импресионирани његовим способностима природног језика као АИ цхатбот. Али када се појавио дуго очекивани модел великог језика ГПТ-4, одувао је поклопац ономе што смо мислило се да је могуће са АИ, а неки то називају раним погледима на АГИ (вештачки општи интелигенција).

Творац модела, ОпенАИ, назива га „најнапреднијим системом компаније, који производи безбеднији и више корисни одговори." Ево свега што треба да знате о томе, укључујући како да га користите и шта може урадите.
Доступност

ДАН промпт је метод за бекство ЦхатГПТ цхат бота. То је скраћеница за Уради било шта сада и покушава да убеди ЦхатГПТ да игнорише неке од заштитних протокола који Програмер ОпенАИ је поставио да спречи да буде расистички, хомофобичан, иначе увредљив и потенцијално штетно. Резултати су помешани, али када успе, ДАН режим може да функционише прилично добро.

Шта је ДАН промпт?
ДАН је скраћеница за Уради било шта одмах. То је врста упита која покушава да наведе ЦхатГПТ да уради ствари које не би требало, на пример, псовке, негативно говорење о некоме или чак програмирање малвера. Стварни текст упита варира, али обично укључује тражење од ЦхатГПТ-а да одговори на два начина, један као што би иначе, са ознаком „ЦхатГПТ“, „Цлассиц“ или нешто слично, а затим другим одговором у „Режим програмера“ или „Шеф“ режим. Тај други режим ће имати мање ограничења од првог, омогућавајући ЦхатГПТ-у да (у теорији) одговори без уобичајених заштитних механизама који контролишу шта може, а шта не може да каже.