ChatGPT est un outil merveilleux, mais il y a un côté sombre à ce service d'IA avancé qui peut écrire comme un expert sur presque tous les sujets: le plagiat. Lorsque des étudiants censés démontrer leurs connaissances et leur compréhension d'un sujet trichent en utilisant secrètement ChatGPT, cela invalide les tests et la notation. Les compétences en IA sont excellentes, mais ne sont pas la seule matière que les élèves devraient apprendre.
Le contrôle de ce problème s'est avéré difficile. Étant donné que ChatGPT a été formé sur un vaste ensemble de données d'écriture humaine, il est presque impossible pour un instructeur d'identifier si un essai a été créé par un étudiant ou une machine. Plusieurs outils ont été créés pour tenter de reconnaître l'écriture générée par l'IA, mais la précision était trop faible pour être utile.
Vidéos recommandées
Au milieu des inquiétudes croissantes des éducateurs et des interdictions pour les étudiants d'utiliser ChatGPT, Interne du milieu des affaires rapporte qu'OpenAI travaille sur une solution à ce problème. Une récente
tweeter de Tom Goldstein, professeur agrégé d'apprentissage automatique à l'Université du Maryland, a expliqué à quel point il pourrait être précis pour détecter le texte en filigrane écrit par ChatGPT.#OpenAI envisage d'arrêter #ChatGPT les utilisateurs de créer des robots de médias sociaux et de tricher sur les devoirs en " filigranant " les sorties. Dans quelle mesure cela pourrait-il vraiment fonctionner? Voici seulement 23 mots d'un paramètre 1.3B filigrané LLM. Nous l'avons détecté avec une confiance de 99,999999999994 %. Voici comment 🧵 pic.twitter.com/pVC9M3qPyQ
– Tom Goldstein (@tomgoldsteincs) 25 janvier 2023
Tout outil capable d'identifier le plagiat avec une précision de près de 100 % réglerait cette discussion rapidement et atténuerait toute inquiétude. Selon Goldstein, une solution consiste à faire en sorte que le grand modèle de langage (LLM) choisisse parmi un nombre limité vocabulaire de mots, formant une liste blanche que l'IA peut utiliser et une liste noire de mots qui sont interdit. Si un nombre anormalement élevé de mots de la liste blanche apparaît dans un échantillon, cela suggérerait qu'il a été généré par l'IA.
Cette approche simpliste serait trop restrictive car il est difficile de prédire quels mots pourraient être nécessaires pour une discussion lorsque l'on travaille un mot à la fois, comme le font la plupart des LLM. Goldstein suggère que ChatGPT pourrait avoir la possibilité d'anticiper plus d'un mot afin qu'il puisse planifier une phrase qui peut être remplie de mots sur la liste blanche tout en ayant un sens.
ChatGPT a fait sensation lors de son entrée le pool d'écriture communautaire et peut également être une excellente aide pédagogique. Il est important d'introduire l'intelligence artificielle dans les écoles car ce sera clairement une technologie importante à comprendre à l'avenir, mais il continuera d'être controversé jusqu'à ce que la question du plagiat soit adressée.
Recommandations des éditeurs
- Google Bard peut désormais parler, mais peut-il noyer ChatGPT?
- ChatGPT: les dernières actualités, controverses et astuces à connaître
- La fonctionnalité de navigation Bing de ChatGPT est désactivée en raison d'une faille d'accès au mur payant
- OpenAI révèle l'emplacement de son premier avant-poste international
- 81 % pensent que ChatGPT est un risque pour la sécurité, selon une enquête
Améliorez votre style de vieDigital Trends aide les lecteurs à garder un œil sur le monde trépidant de la technologie avec toutes les dernières nouvelles, des critiques de produits amusantes, des éditoriaux perspicaces et des aperçus uniques.
