Desde el lanzamiento de ChatGPT de OpenAI, Google ha estado tratando de construir un rival. Ahora, la subsidiaria de Google, DeepMind, conocida por ser pionera en la investigación de IA, ha anunciado planes para lanzar un nuevo chatbot llamado Sparrow. La empresa, que fue adquirida por Google hace nueve años, planea lanzar Sparrow en 2023 para una «beta privada».
Google presentó Sparrow por primera vez como una prueba de concepto en un trabajo de investigación el año pasado y ahora lo comercializa como un «agente de diálogo que es útil y reduce el riesgo de respuestas inseguras e inapropiadas». Esta es una respuesta directa a las preocupaciones que han planteado los expertos sobre los peligros potenciales de los chatbots, como la proliferación de información inexacta o fabricada.
El enfoque de Sparrow en la seguridad y la atribución
Según Demis Hassabis, CEO de DeepMind, el ligero retraso en el lanzamiento de Sparrow es para garantizar que tenga características específicas de las que carece ChatGPT. En particular, Sparrow puede citar fuentes específicas al proporcionar respuestas, algo que ChatGPT no hace actualmente. Hassabis dijo que «es bueno tener cuidado en ese frente». Las primeras pruebas de Sparrow han demostrado que puede dar una respuesta plausible y respaldarla con evidencia el 78% de las veces cuando se hace una pregunta de hecho.
Además, DeepMind se ha centrado en las reglas de restricción de comportamiento de Sparrow; así como su disposición a negarse a responder preguntas en «contextos donde es apropiado deferir a las personas». Esto contrasta con ChatGPT, que se ha vuelto viral por su impresionante capacidad para ayudar con una amplia variedad de tareas, pero también ha dado la voz de alarma por su capacidad para comentarios discriminatorios y escritura de malware.
Sin embargo, como con cualquier chatbot, la prueba real de Sparrow sería la versión beta pública y cómo responde a las preguntas que puede no ser adecuado para responder. Pero para abordar estas preocupaciones, DeepMind dijo que están desarrollando mejores reglas para Sparrow, lo que requerirá “tanto el aporte de expertos en muchos temas (incluidos los responsables de formular políticas, los científicos sociales y los especialistas en ética) como el aporte participativo de una amplia gama de usuarios y grupos afectados. Sam Altman, CEO de OpenAI, también ha hablado de las dificultades para abrir chatbots de IA sin causar daños colaterales.
