Uitzoeken of de dingen die je op internet leest waar zijn, kan een uitdaging zijn. Dankzij een nieuwe webplug-in kan worden bepaald of verhalen door een mens of door een A.I. zijn geschreven. is nu een stuk eenvoudiger. GPTrue or False is een browserextensie voor Chrome en Firefox waarmee gebruikers tekst op een website kunnen selecteren (50 woorden en meer) en laat het evalueren om de waarschijnlijkheid te bepalen dat het is geschreven door OpenAI's GPT-2 A.I. model in plaats van een menselijk.
GPT-2 is een tekstgenererend algoritme waarmee gebruikers het kunnen plaatsen aan het begin van een stuk tekst, zoals een artikel uit een krant, en vervolgens de rest op angstaanjagend overtuigende wijze kunnen bedenken. Terwijl sommigen het voor creatieve doeleinden hebben gebruikt, zoals het genereren van steeds veranderende tekstavontuurspellen, anderen maken zich terecht zorgen over wat dit zou kunnen betekenen voor de verspreiding van nepnieuws.
Aanbevolen video's
GPTrue of False voert de geselecteerde tekst door
OpenAI's GPT-2-detectormodelen berekent vervolgens de waarschijnlijkheid dat de tekst door mensen is gegenereerd en niet door een machine is gemaakt.
“Ik zou zeggen dat het probleem behoorlijk relevant is in de wereld van vandaag”, vertelde Giulio Starace, de maker van GPTrue or False, aan Digital Trends. “Naarmate het genereren van synthetische gegevens steeds geavanceerder wordt, worden we steeds kwetsbaarder om op de een of andere manier te worden beïnvloed. Nepnieuws gegenereerd door machines is daar een voorbeeld van, maar denk ook eens aan neprecensies. In een wereld waar recensies open source zijn, kan dit systeem worden misbruikt en kunnen consumenten willekeurig naar een bepaald bedrijf worden verleid.”
Starace zei dat hij geïnspireerd was om de plug-in te maken nadat hij een tweet had gezien van Tesla's AI-directeur, Andrej Karpathy. Op 6 november Karpathy tweette een Chrome-extensieverzoek om GPT-2-tekst online te helpen herkennen. “Ik zag de tweet en dacht: ‘Hé, dat kan ik waarschijnlijk wel’”, zei Starace. De extensie kunt u hier downloaden.
Nog een laatste waarschuwing: hoewel deze detector indrukwekkend nauwkeurig is als het gaat om het opmerken van de krabbels van een AI, moet je toch wat gezond verstand gebruiken. Net zoals een spamdetector prullenbak-e-mails opmerkt, kunnen er een paar door mensen geschreven stukjes tussendoor glippen – of omgekeerd.
“Het kan zijn dat door GPT-2 gegenereerde tekst en door mensen gegenereerde tekst soms overlappende kenmerken hebben waardoor de detector per ongeluk denkt dat een door mensen gegenereerd deel van de tekst feitelijk door een machine is gegenereerd, ‘ zei Starace. “Er staan een paar grappige voorbeelden hiervan op mijn website Twitteren waar mensen laten zien dat de detector ten onrechte staat classificeert een toespraak van Trump als computergegenereerd, en eveneens op een uittreksel van James Joyce. Dus óf Trump en James Joyce zijn robots, óf de detector is onvolmaakt.’
Aanbevelingen van de redactie
- Topauteurs eisen betaling van AI-bedrijven voor het gebruik van hun werk
- Wix gebruikt ChatGPT om u te helpen snel een hele website te bouwen
- ChatGPT-maker OpenAI wordt geconfronteerd met een FTC-onderzoek naar wetten inzake consumentenbescherming
- Uit onderzoek blijkt dat 81% denkt dat ChatGPT een veiligheidsrisico is
- Apple's ChatGPT-rivaal schrijft mogelijk automatisch code voor u
Upgrade uw levensstijlMet Digital Trends kunnen lezers de snelle technische wereld in de gaten houden met het laatste nieuws, leuke productrecensies, inzichtelijke redactionele artikelen en unieke sneak peeks.
