A Investigación del tiempo ha expuesto el lado más turbio de la industria de chatbots de IA, destacando cómo al menos una startup ha estado utilizando prácticas cuestionables para mejorar su tecnología.
Publicado el miércoles, el informe de Time se centra en OpenAI respaldado por Microsoft y su chatbot ChatGPT, una tecnología que ha ganado mucha atención recientemente por su notable capacidad para producir texto conversacional muy natural.
Vídeos recomendados
La sonda de Time descubrió que para entrenar la tecnología de IA, OpenAI usó los servicios de un equipo en Kenia para estudiar detenidamente el texto que incluyeron temas inquietantes como el abuso sexual infantil, la bestialidad, el asesinato, el suicidio, la tortura, las autolesiones y incesto. Y por sus esfuerzos para etiquetar el contenido abominable, muchos miembros del equipo recibieron menos de $ 2 por hora.
Relacionado
- Google Bard ahora puede hablar, pero ¿puede ahogar a ChatGPT?
- ChatGPT: las últimas noticias, controversias y consejos que necesita saber
- El crecimiento récord de ChatGPT acaba de ser destronado por una nueva aplicación viral
El trabajo, que comenzó en noviembre de 2021, era necesario ya que el predecesor de ChatGPT, GPT-3, aunque impresionante, tendía a arrojar eliminar contenido ofensivo, ya que su conjunto de datos de entrenamiento había sido compilado extrayendo cientos de miles de millones de palabras de todos los rincones del mundo. web.
El equipo con sede en Kenia, operado por la firma Sama de San Francisco, etiquetaría el contenido ofensivo para ayudar entrenar el chatbot de OpenAI, mejorando así su conjunto de datos y reduciendo las posibilidades de cualquier objeción producción.
Time dijo que los cuatro empleados de Sama que entrevistó describieron estar mentalmente marcados por su trabajo. Sama ofreció sesiones de asesoramiento, pero los empleados dijeron que eran ineficaces y rara vez se realizaban debido a las demandas del trabajo, aunque un portavoz de Sama le dijo a Time que los terapeutas estaban accesibles en cualquier momento. tiempo.
Un trabajador le dijo a Time que leer el material impactante a veces se sentía como una "tortura", y agregó que se sentían "perturbados" al final de la semana.
En febrero de 2022, las cosas tomaron un giro aún más oscuro para Sama cuando OpenAI lanzó un proyecto separado no relacionado con ChatGPT que requería que su equipo de Kenia recopilara imágenes de naturaleza sexual y violenta. OpenAI le dijo a Time que el trabajo era necesario para hacer que sus herramientas de IA fueran más seguras.
A las pocas semanas del inicio de este proyecto basado en imágenes, la naturaleza alarmante de las tareas llevó a Sama a cancelar todos sus contratos con OpenAI, aunque Time sugiere que también podría haber sido provocado por las consecuencias de relaciones públicas de un informe sobre un tema similar que publicó acerca de Facebook aproximadamente al mismo tiempo.
Open AI le dijo a Time que había habido "una falta de comunicación" sobre la naturaleza de las imágenes que le pidió a Sama que recopilar, insistiendo en que no había pedido las imágenes más extremas y que no había visto ninguna que hubiera sido enviado.
Pero la finalización de los contratos afectó los medios de vida de los trabajadores, ya que parte del equipo en Kenia perdió sus trabajos, mientras que otros fueron trasladados a proyectos con salarios más bajos.
La investigación del tiempo ofrece una mirada incómoda pero importante sobre el tipo de trabajo que se está realizando en los chatbots impulsados por IA que recientemente han entusiasmado tanto a la industria tecnológica.
Si bien es transformadora y potencialmente beneficiosa, la tecnología claramente tiene un costo humano y genera una serie de preguntas éticas sobre cómo funcionan las empresas. desarrollando sus nuevas tecnologías, y más ampliamente acerca de cómo los países más ricos continúan subcontratando tareas menos deseables a las naciones más pobres por un costo financiero más bajo. desembolso.
Las nuevas empresas detrás de la tecnología serán objeto de un escrutinio más centrado en los próximos meses y años, por lo que harían bien en revisar y mejorar sus prácticas lo antes posible.
Digital Trends se ha comunicado con OpenAI para comentar sobre el informe de Time y actualizaremos este artículo cuando recibamos una respuesta.
Recomendaciones de los editores
- Las mejores herramientas de edición de video con IA
- El fabricante de ChatGPT, OpenAI, enfrenta una investigación de la FTC sobre las leyes de protección al consumidor
- La nueva compañía de inteligencia artificial de Elon Musk tiene como objetivo "comprender el universo"
- El tráfico del sitio web de ChatGPT ha caído por primera vez
- Los avances de la IA podrían llegar a través del cerebro de las abejas, dicen los científicos
Mejora tu estilo de vidaDigital Trends ayuda a los lectores a mantenerse al tanto del vertiginoso mundo de la tecnología con las últimas noticias, reseñas divertidas de productos, editoriales perspicaces y adelantos únicos.
