Si las personas que están a la vanguardia de la tecnología de inteligencia artificial están comentando sobre la efectos potencialmente catastróficos de los sistemas de inteligencia artificial altamente inteligentes, entonces probablemente sea prudente sentarse y tomar aviso.
Hace solo un par de meses, Geoffrey Hinton, un hombre considerado uno de los “padrinos” de la IA por su trabajo pionero en el campo, dijo que el rápido ritmo de desarrollo de la tecnología significaba que “no era inconcebible” que la IA superinteligente, considerada superior a la mente humana, podría acabar acabando con la humanidad.
Vídeos recomendados
Y Sam Altman, director ejecutivo de OpenAI, la empresa detrás el chatbot viral ChatGPT, había admitido estar "un poco asustado" por los efectos potenciales de los sistemas avanzados de inteligencia artificial en la sociedad.
Relacionado
- El fabricante de ChatGPT, OpenAI, enfrenta una investigación de la FTC sobre las leyes de protección al consumidor
- El tráfico del sitio web de ChatGPT ha caído por primera vez
- Enseñé ChatGPT para que me enseñaran juegos de mesa, y ahora no volveré nunca más
Altman está tan preocupado que el miércoles su compañía anunció que establecerá una nueva unidad llamada Superalineación destinada a garantizar que la IA superinteligente no termine causando caos o algo lejano peor.
“La superinteligencia será la tecnología más impactante que la humanidad jamás haya inventado y podría ayudarnos a resolver muchos de los problemas más importantes del mundo”. OpenAI dijo en una publicación que presenta la nueva iniciativa. “Pero el vasto poder de la superinteligencia también podría ser muy peligroso y podría llevar a la pérdida de poder de la humanidad o incluso a la extinción humana”.
OpenAI dijo que aunque la IA superinteligente puede parecer que está muy lejos, cree que podría desarrollarse para 2030. Y admite fácilmente que en el momento actual no existe ningún sistema "para dirigir o controlar una IA potencialmente superinteligente y evitar que se vuelva deshonesta".
Para lidiar con la situación, OpenAI quiere construir un "investigador de alineación automatizado de nivel humano" que realice controles de seguridad en un IA superinteligente, agregando que la gestión de estos riesgos también requerirá nuevas instituciones para la gobernanza y la solución del problema de la superinteligencia alineación.
Para que Superalignment tenga efecto, OpenAI necesita reunir un equipo de primera de los mejores investigadores e ingenieros de aprendizaje automático.
La compañía parece muy franca acerca de su esfuerzo, describiéndolo como un "objetivo increíblemente ambicioso" al tiempo que admite que “no se garantiza que tenga éxito”. Pero agrega que es "optimista que un esfuerzo concentrado y concertado pueda resolver esto". problema."
Las nuevas herramientas de IA como ChatGPT de OpenAI y Bard de Google, entre muchas otras, son tan revolucionarias que los expertos están seguros que incluso en este nivel anterior a la superinteligencia, el lugar de trabajo y la sociedad en general se enfrentan a cambios fundamentales en el próximo término.
Es por eso que los gobiernos de todo el mundo se esfuerzan por ponerse al día, moviéndose apresuradamente para imponer regulaciones sobre la industria de IA en rápido desarrollo en un intento por garantizar que la tecnología se implemente de manera segura y responsable manera. Sin embargo, a menos que se forme un solo organismo, cada país tendrá sus propios puntos de vista sobre la mejor manera de utilizar la tecnología, lo que significa que esas regulaciones podrían variar ampliamente y conducir a resultados marcadamente diferentes. Y son estos diferentes enfoques los que harán que el objetivo de Superalignment sea aún más difícil de lograr.
Recomendaciones de los editores
- Google Bard ahora puede hablar, pero ¿puede ahogar a ChatGPT?
- La nueva compañía de inteligencia artificial de Elon Musk tiene como objetivo "comprender el universo"
- OpenAI revela la ubicación de su primer puesto internacional
- Abogados de Nueva York multados por usar casos falsos de ChatGPT en un escrito legal
- Este navegador web integra ChatGPT de una forma nueva y fascinante
Mejora tu estilo de vidaDigital Trends ayuda a los lectores a mantenerse al tanto del vertiginoso mundo de la tecnología con las últimas noticias, reseñas divertidas de productos, editoriales perspicaces y adelantos únicos.
