ChatGPT aún no es tan inteligente como para encontrar sus propios defectos, por lo que su creador está recurriendo a los humanos en busca de ayuda.
OpenAI dio a conocer un programa de recompensas por errores el martes, alentando a las personas a localizar y reportar vulnerabilidades y errores en sus sistemas de inteligencia artificial, como ChatGPT y GPT-4.
Vídeos recomendados
En una publicación en su sitio web que describe los detalles del programa, OpenAI dijo que las recompensas por los informes oscilarán entre $ 200 por hallazgos de baja gravedad hasta $ 20,000 por lo que llamó "descubrimientos excepcionales".
La compañía respaldada por Microsoft dijo que su ambición es crear sistemas de inteligencia artificial que "beneficien a todos". agregando: "Con ese fin, invertimos mucho en investigación e ingeniería para garantizar que nuestros sistemas de IA sean seguros y seguro. Sin embargo, como con cualquier tecnología compleja, entendemos que pueden surgir vulnerabilidades y fallas”.
Dirigiéndose a los investigadores de seguridad interesados en involucrarse en el programa, OpenAI dijo que reconoce “la importancia crítica de la seguridad y la ve como un esfuerzo colaborativo. Al compartir sus hallazgos, jugará un papel crucial para hacer que nuestra tecnología sea más segura para todos”.
Con más y más personas probando ChatGPT y otros productos de OpenAI, la compañía desea rastrear rápidamente cualquier problemas potenciales para garantizar que los sistemas funcionen sin problemas y para evitar que cualquier debilidad se explote con fines nefastos propósitos Por lo tanto, OpenAI espera que al comprometerse con la comunidad tecnológica pueda resolver cualquier problema antes de que se convierta en un problema más serio.
La empresa con sede en California ya se ha llevado un susto donde una falla expuso los títulos de las conversaciones de algunos usuarios cuando deberían haberse mantenido en privado.
Sam Altman, director ejecutivo de OpenAI, dijo después del incidente del mes pasado que consideraba el percance de privacidad como un "problema importante", y agregó: "Nos sentimos muy mal por esto". Ahora se ha arreglado.
El error se convirtió en un problema mayor para OpenAI cuando Italia expresó serias preocupaciones por la violación de la privacidad y decidió prohibir ChatGPT mientras lleva a cabo una investigación exhaustiva. Las autoridades italianas también exigen detalles de las medidas que OpenAI pretende tomar para evitar que vuelva a suceder.
Recomendaciones de los editores
- Google Bard ahora puede hablar, pero ¿puede ahogar a ChatGPT?
- ChatGPT: las últimas noticias, controversias y consejos que necesita saber
- La función de navegación Bing de ChatGPT está desactivada por una falla de acceso al muro de pago
- El 81% piensa que ChatGPT es un riesgo de seguridad, según una encuesta
- El rival ChatGPT de Apple puede escribir código automáticamente para usted
Mejora tu estilo de vidaDigital Trends ayuda a los lectores a mantenerse al tanto del vertiginoso mundo de la tecnología con las últimas noticias, reseñas divertidas de productos, editoriales perspicaces y adelantos únicos.
