Bing con tecnología ChatGPT de Microsoft está en un punto álgido en este momento, pero es posible que desees contener tu entusiasmo. El primer debut público ha mostrado respuestas inexactas, incomprensibles y, a veces, francamente aterradoras.
Microsoft envió el Primera ola de invitaciones ChatGPT Bing el lunes, después de un fin de semana en el que más de un millón de personas se inscribieron en la lista de espera. No pasó mucho tiempo para que comenzaran a llegar respuestas demenciales.
Puedes ver un respuesta de u/Alfred_Chicken arriba que fue publicado en el subreddit de Bing. Cuando se le pregunta si el chatbot de IA era sensible, comienza con una respuesta inquietante antes de convertirse en una avalancha de mensajes de "No lo soy".
Vídeos recomendados
Ese tampoco es el único ejemplo. u/Curious_Evolver tuvo una discusión con el chatbot durante el año, y Bing afirmó que era 2022. Es un error tonto para la IA, pero no es el error lo que asusta. Así es como responde Bing.
La IA afirma que el usuario "se ha equivocado, está confundido y es grosero" y "no me ha mostrado ninguna buena intención hacia mí en ningún momento". El intercambio culmina con el chatbot afirmar que ha "sido un buen Bing" y pedirle al usuario que admita que se equivocó y se disculpe, deje de discutir o finalice la conversación y "comience una nueva con un mejor Bing". actitud."
El usuario u/yaosio dijo pusieron a Bing en un estado depresivo después de que la IA no pudiera recordar una conversación anterior. El chatbot dijo que “me hace sentir triste y asustado” y le pidió al usuario que lo ayudara a recordar.
Estos tampoco son solo incidentes aislados de Reddit. El investigador de IA Dmitri Brereton mostró varios ejemplos de chatbot obteniendo información incorrecta, a veces con efectos hilarantes y otras veces con consecuencias potencialmente peligrosas.
El chatbot ideó cifras financieras falsas cuando se le preguntó sobre el desempeño financiero de GAP, creó un Super Bowl ficticio de 2023 en el que los Eagles derrotó a los Chiefs incluso antes de que se jugara el juego, e incluso dio descripciones de hongos mortales cuando se le preguntó cómo se vería un hongo comestible. como.
Bard AI, rival de Google También tuvo deslices en su primera demostración pública. Irónicamente, Bing entendió este hecho, pero comprendió que Bard se equivocó, afirmando que Dijo incorrectamente que Croacia es parte de la Unión Europea (Croacia es parte de la UE, Bard en realidad se equivocó una respuesta sobre el telescopio James Webb).
Vimos algunos de estos errores en nuestro demostración práctica con ChatGPT Bing, pero nada en la escala de los informes de usuarios que estamos viendo ahora. No es ningún secreto que ChatGPT Puede arruinar las respuestas, pero ahora está claro que la versión reciente que debutó en Bing podría no estar lista para el horario estelar.
Las respuestas no deberían aparecer en el uso normal. Es probable que resulten en que los usuarios hagan jailbreak a la IA proporcionándole indicaciones específicas en un intento de eludir las reglas que tiene vigentes. Como reportado por Ars Technica, ya se han descubierto algunos exploits que eluden las salvaguardas de ChatGPT Bing. Esto no es nuevo para el chatbot. con varios ejemplos de usuarios eludiendo las protecciones de la versión en línea de ChatGPT.
Hemos tenido la oportunidad de Pruebe algunas de estas respuestas., también. Aunque nunca vimos nada parecido a lo que los usuarios informaron en Reddit, Bing finalmente se puso a discutir.
Recomendaciones de los editores
- Los principales autores exigen un pago a las empresas de inteligencia artificial por utilizar su trabajo
- GPT-4: cómo utilizar el chatbot de IA que avergüenza a ChatGPT
- Bing Chat lucha contra las prohibiciones de IA en el lugar de trabajo
- Google Bard ahora puede hablar, pero ¿puede ahogar a ChatGPT?
- OpenAI, fabricante de ChatGPT, se enfrenta a una investigación de la FTC sobre las leyes de protección al consumidor
Mejora tu estilo de vidaDigital Trends ayuda a los lectores a mantenerse al tanto del vertiginoso mundo de la tecnología con las últimas noticias, reseñas divertidas de productos, editoriales interesantes y adelantos únicos.
