ChatGPT es una herramienta maravillosa, pero este servicio avanzado de IA tiene un lado oscuro que puede escribir como un experto sobre casi cualquier tema: el plagio. Cuando los estudiantes que se supone que deben demostrar su conocimiento y comprensión de un tema hacen trampa usando ChatGPT en secreto, se invalidan las pruebas y las calificaciones. Las habilidades de IA son excelentes, pero no son el único tema que los estudiantes deben aprender.
Vigilar este problema ha resultado ser difícil. Dado que ChatGPT ha sido entrenado en un vasto conjunto de datos de escritura humana, es casi imposible para un instructor identificar si un ensayo fue creado por un estudiante o una máquina. Se han creado varias herramientas que intentar reconocer la escritura generada por IA, pero la precisión era demasiado baja para ser útil.
Vídeos recomendados
En medio de las crecientes preocupaciones de los educadores y la prohibición de que los estudiantes usen ChatGPT, Business Insider informa que OpenAI está trabajando en una solución a este problema. Un reciente
Pío de Tom Goldstein, profesor asociado de aprendizaje automático en la Universidad de Maryland, explicó cuán preciso podría ser al detectar texto con marca de agua escrito por ChatGPT.#OpenAI está planeando parar #ChatGPT los usuarios creen bots de redes sociales y hagan trampa en la tarea mediante salidas de "marca de agua". ¿Qué tan bien podría funcionar esto realmente? Aquí hay solo 23 palabras de un LLM con marca de agua de parámetro 1.3B. Lo detectamos con un 99,999999999994 % de confianza. Así es como 🧵 pic.twitter.com/pVC9M3qPyQ
—Tom Goldstein (@tomgoldsteincs) 25 de enero de 2023
Cualquier herramienta que pudiera identificar el plagio con casi un 100 % de precisión resolvería esta discusión rápidamente y aliviaría cualquier inquietud. Según Goldstein, una solución es hacer que el modelo de lenguaje grande (LLM) elija de un número limitado vocabulario de palabras, formando una lista blanca que está bien para que use la IA y una lista negra de palabras que son prohibido. Si aparece una cantidad anormalmente grande de palabras de la lista blanca en una muestra, eso sugeriría que fue generada por la IA.
Este enfoque simplista sería demasiado restrictivo, ya que es difícil predecir qué palabras podrían ser necesarias para una discusión cuando se trabaja una palabra a la vez, como lo hacen la mayoría de los LLM. Goldstein sugiere que a ChatGPT se le podría dar la capacidad de mirar más allá de una palabra para que pueda planificar una oración que se pueda llenar con palabras en la lista blanca sin dejar de tener sentido.
ChatGPT hizo un gran revuelo cuando entró el grupo de escritura de la comunidad y también puede ser un gran ayudante de enseñanza. Es importante introducir la inteligencia artificial en las escuelas ya que claramente será una tecnología importante entender en el futuro, pero seguirá siendo controvertido hasta que se resuelva el tema del plagio. dirigido.
Recomendaciones de los editores
- Google Bard ahora puede hablar, pero ¿puede ahogar a ChatGPT?
- ChatGPT: las últimas noticias, controversias y consejos que necesita saber
- La función de navegación Bing de ChatGPT está desactivada por una falla de acceso al muro de pago
- OpenAI revela la ubicación de su primer puesto internacional
- El 81% piensa que ChatGPT es un riesgo de seguridad, según una encuesta
Mejora tu estilo de vidaDigital Trends ayuda a los lectores a mantenerse al tanto del vertiginoso mundo de la tecnología con las últimas noticias, reseñas divertidas de productos, editoriales perspicaces y adelantos únicos.
