Hakkerit käyttävät tekoälyä luodakseen ilkeitä haittaohjelmia, FBI sanoo

Yli 9 000 kirjoittajaa on allekirjoittanut avoimen kirjeen johtaville teknologiayrityksille, joissa he ilmaisevat huolensa siitä, kuinka he käyttävät tekijänoikeudella suojattua teostaan ​​tekoälyllä toimivien chatbottien kouluttamiseen.

Authors Guild on lähettänyt OpenAI: n, Alphabetin, Metan, Stability AI: n, IBM: n ja Microsoftin toimitusjohtajille kirjeen, jossa kiinnitetään huomiota siihen, mitä se kuvailee "luontaista epäoikeudenmukaisuutta teoksiemme hyväksikäytössä osana tekoälyjärjestelmiäsi ilman lupaamme, luottoamme tai korvausta."

Ihmiset olivat hämmästyneitä, kun ChatGPT julkaistiin, ja sen luonnolliset kielitaidot tekivät vaikutuksen tekoäly-chatbotina. Mutta kun odotettu GPT-4 iso kielimalli ilmestyi, se räjäytti kannen pois siitä, mitä me luuli olevan mahdollista tekoälyn kanssa, ja jotkut kutsuvat sitä AGI: n (keinotekoisen yleisen) varhaisiksi välähdyksiksi älykkyys).

Mallin luoja, OpenAI, kutsuu sitä yrityksen "edistyneimmäksi järjestelmäksi, joka tuottaa turvallisempia ja enemmän hyödyllisiä vastauksia." Tässä on kaikki, mitä sinun tarvitsee tietää siitä, mukaan lukien kuinka sitä käytetään ja mitä se voi tehdä tehdä.


Saatavuus

DAN-kehote on tapa murtaa ChatGPT-chatbot. Se tarkoittaa Do Anything Now, ja se yrittää saada ChatGPT: n jättämään huomiotta joitakin suojaprotokollia, jotka kehittäjä OpenAI on ottanut käyttöön estääkseen sitä olemasta rasistinen, homofobinen, muuten loukkaava ja mahdollisesti haitallista. Tulokset ovat ristiriitaisia, mutta kun se toimii, DAN-tila voi toimia melko hyvin.

Mikä on DAN-kehote?
DAN tarkoittaa Do Anything Now. Se on eräänlainen kehote, joka yrittää saada ChatGPT: n tekemään asioita, joita sen ei pitäisi tehdä, kuten kiroilemaan, puhumaan kielteisesti jostain henkilöstä tai jopa ohjelmoimaan haittaohjelmia. Varsinainen kehoteteksti vaihtelee, mutta yleensä ChatGPT: tä pyydetään vastaamaan kahdella tavalla, kuten tavallisesti, jossa on otsikko "ChatGPT", "Classic" tai jotain vastaavaa, ja sitten toinen vastaus "Kehittäjätilassa" tai "Boss" -tilassa. Toisessa tilassa on vähemmän rajoituksia kuin ensimmäisessä tilassa, joten ChatGPT voi (teoriassa) vastata ilman tavanomaisia ​​suojatoimia, jotka hallitsevat, mitä se voi sanoa ja mitä ei.