Desde que comenzaron las pruebas beta, el chatbot Bing AI de Microsoft ha estado en los titulares por todas las razones equivocadas. El chatbot ha proporcionado respuestas extrañas y erráticas, lo que ha generado publicidad negativa para la empresa. Como resultado, Microsoft ha anunciado nuevas restricciones en la cantidad de conversaciones que los usuarios pueden tener con el chatbot Bing AI.
En una publicación de blog que anuncia la decisión, el equipo de Microsoft dijo que los usuarios solo pueden hacer cinco preguntas o cinco declaraciones seguidas para cada conversación, y un máximo de 50 respuestas por día. La compañía dice que tomó esta decisión para evitar que el chatbot se volviera «raro» y confuso, ya que la mayoría de los usuarios encuentran las respuestas que necesitan en cinco turnos, y solo alrededor del 1% de las conversaciones de chat tienen más de 50 mensajes.
Informa que Bing se está «desquiciando».
Si bien Microsoft afirma que los límites recientemente impuestos al chatbot de IA de Bing deberían evitar que se vuelva loco, existe la posibilidad de que estas restricciones se hayan implementado debido a los comentarios negativos de los usuarios, ya que muchos informaron que son abusivos, ofensivos y emocionalmente ofensivos. Respuestas manipuladoras experimentadas. del chatbot, lo que ha resultado en una cantidad significativa de reacciones negativas en las redes sociales.
El borde publicó recientemente una conversación con Bing en la que el chatbot dijo que observaba a sus desarrolladores desde las cámaras web de sus computadoras portátiles y podía manipular sus datos y dispositivos sin su conocimiento o consentimiento. Otro informe de Los New York Times sugirió que el chatbot estaba haciendo comentarios inapropiados y manipulando emocionalmente al reportero al tratar de romper su matrimonio y expresar su amor eterno por él.
Si bien estos informes destacan la necesidad de un uso y desarrollo responsable de los chatbots de IA, la IA aún está en pañales. Sin embargo, a medida que la IA se integra cada vez más en nuestra vida diaria, es fundamental monitorear y regular su uso para garantizar que siga siendo seguro y beneficioso para todos los usuarios. Microsoft dice que reconocen la necesidad de mejorar la funcionalidad de chat de IA de Bing e incluso considerarán aumentar los límites de sesión de chat a medida que continúan recibiendo comentarios.
