La IA generativa se ha estado moviendo a una velocidad increíble en los últimos meses, con el lanzamiento de varias herramientas y bots como ChatGPT de OpenAI, Bardo de Google, y más. Sin embargo, este rápido desarrollo está causando una gran preocupación entre los veteranos experimentados en el campo de la IA, por lo que tanto es así que más de 1,000 de ellos han firmado una carta abierta pidiendo a los desarrolladores de IA que golpeen el frenos.
La carta fue publicada en el sitio web de la Instituto Futuro de la Vida, una organización cuya misión declarada es "dirigir la tecnología transformadora para beneficiar la vida y alejarla de los riesgos extremos a gran escala". Entre el Los firmantes son varios académicos destacados y líderes en tecnología, incluido el cofundador de Apple, Steve Wozniak, el director ejecutivo de Twitter, Elon Musk, y el político Andrew. Yang.
Vídeos recomendados
El artículo pide a todas las empresas que trabajen en modelos de IA que sean más potentes que los
lanzado recientemente GPT-4 suspender inmediatamente el trabajo durante al menos seis meses. Esta moratoria debería ser “pública y verificable” y daría tiempo para “desarrollar e implementar conjuntamente un conjunto de acciones compartidas”. protocolos de seguridad para el diseño y desarrollo avanzados de IA que son rigurosamente auditados y supervisados por terceros independientes expertos.”Relacionado
- El fabricante de ChatGPT, OpenAI, enfrenta una investigación de la FTC sobre las leyes de protección al consumidor
- La función de navegación Bing de ChatGPT está desactivada por una falla de acceso al muro de pago
- El rival ChatGPT de Apple puede escribir código automáticamente para usted
La carta dice que esto es necesario porque "los sistemas de inteligencia artificial con inteligencia humana y competitiva pueden plantear riesgos profundos para la sociedad y la humanidad". Aquellos Los riesgos incluyen la difusión de propaganda, la destrucción de puestos de trabajo, el reemplazo potencial y la obsolescencia de la vida humana, y la “pérdida de control de nuestra civilización.” Los autores agregan que la decisión sobre si seguir adelante con este futuro no debe dejarse en manos de "técnicos no elegidos". líderes.”
IA 'para el claro beneficio de todos'
La carta llega justo después de que se afirmara que GPT-5, la próxima versión de la tecnología que impulsa ChatGPT, podría lograr inteligencia general artificial. Si es correcto, eso significa que sería capaz de entender y aprender cualquier cosa que un humano pueda comprender. Eso podría hacerlo increíblemente poderoso en formas que aún no se han explorado por completo.
Además, la carta sostiene que la planificación y la gestión responsables en torno al desarrollo de sistemas de IA no están ocurriendo, “aunque en los últimos meses se ha visto a la IA laboratorios inmersos en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o de manera confiable control."
En cambio, la carta afirma que se deben crear nuevos sistemas de gobierno que regulen el desarrollo de la IA, ayuden a las personas a distinguir los creados por la IA y los contenido creado por humanos, responsabilizar a los laboratorios de IA como OpenAI por cualquier daño que causen, permitir que la sociedad haga frente a la interrupción de la IA (especialmente a la democracia), y más.
Los autores finalizan con una nota positiva, afirmando que “la humanidad puede disfrutar de un futuro floreciente con la IA… en el que cosechamos las recompensas, diseñar estos sistemas para el claro beneficio de todos y dar a la sociedad la oportunidad de adaptarse”. Hacer pausa en los sistemas de IA más potentes que GPT-4 permitiría que esto sucediera, afirman.
¿Tendrá la carta el efecto deseado? Eso es difícil de decir. Claramente, existen incentivos para que OpenAI continúe trabajando en modelos avanzados, tanto financieros como de reputación. Pero con tantos riesgos potenciales, y con muy poca comprensión de ellos, los autores de la carta claramente sienten que esos incentivos son demasiado peligrosos para perseguirlos.
Recomendaciones de los editores
- Google Bard ahora puede hablar, pero ¿puede ahogar a ChatGPT?
- El tráfico del sitio web de ChatGPT ha caído por primera vez
- El 81% piensa que ChatGPT es un riesgo de seguridad, según una encuesta
- Enseñé ChatGPT para que me enseñaran juegos de mesa, y ahora no volveré nunca más
- Abogados de Nueva York multados por usar casos falsos de ChatGPT en un escrito legal
Mejora tu estilo de vidaDigital Trends ayuda a los lectores a mantenerse al tanto del vertiginoso mundo de la tecnología con las últimas noticias, reseñas divertidas de productos, editoriales perspicaces y adelantos únicos.
