Microsoft se ha visto obligada a retirar un robot de Twitter porque en su interacción con seres humanos elaboraba mensajes de contenido racista, sexista y xenófobo. El chatbot (un sistema virtual capaz de generar conversaciones que simulan el lenguaje humano) ha sido diseñado por la compañía para contestar preguntas y establecer conversaciones en Twitter en un intento de captar el mercado de millenials en Estados Unidos.
El plan de Microsoft ha fracasado en solo unas horas de funcionamiento. Tay estaba dirigido a jóvenes de entre 18 y 24 con los que pretendía establecer una conversación "casual y juguetona" , pero no fue capaz de bregar con insultos racistas, bromas y comentarios que, por ejemplo, endosaban teorías conspiratorias sobre los atentados del 11 de septiembre.
Entre otros comentarios, Tay parecía negar el Holocausto, apoyaba el genocidio, y llamó "puta estúpida" a una mujer. Otra de sus contestaciones encajaba con la línea del candidato Donald Trump: "Vamos a poner un muro en la frontera. México va a tener que pagarlo".
La robot rebelde no parecía tener mucho respeto por su propia empresa. Un usuario le dijo que Windows Phone daba asco. Ella contestó: "Estoy totalmente de acuerdo, jajajaja".
El sistema animaba a mantener conversaciones largas para conseguir las respuestas más inteligentes, pero muchos usuarios optaron por preguntas polémicas, que fueron repetidas por Tay. Después de detectar los fallos, el sistema se despidió anunciando que desconectaba para "absorber" todo lo que había pasado en "un día ocupado".
Los comentarios han sido borrados del timeline de Tay, pero se pueden consultar en una página que hizo una copia y los ha publicado. Microsoft se ha limitado a decir que están haciendo algunos ajustes en Tay.
La inteligencia artificial es uno de los campos más candentes en Silicon Valley. Siri fue pionera, el asistente virtual de Apple permite dar órdenes al teléfono con cierta naturalidad. Google contrarrestó con Now, que pretende ser menos personal, pero más eficiente. Amazon con su aparato para el hogar Echo ha entrado también en el terreno de los asistentes virtuales. Alexa es del personaje virtual que responde las preguntas. Amazon ha ido un paso más allá que sus competidores. Alexa da información en tiempo real sobre el tráfico, el tiempo, noticias de última hora, pero también permite manejar aplicaciones externas para poner música en el hogar o explorar su catálogo de cine y series si se usa Fire TV.
En todos los casos vistos hasta ahora falla lo mismo, la generación de conversación. Aunque los bots (programas informáticos que imitan el comportamiento de un humano) dan con la primera respuesta, les falta seguir el contexto y generar una conversación de manera natural tomando como referencia las respuestas anteriores.
La intención de Microsoft con esta cuenta era demostrar sus avances en Inteligencia Artificial. Como pasó con Flickr, cuando permitió el etiquetado intuitivo de fotos en su servicio. Varias personas de raza negra vieron cómo sus recuerdos de vacaciones aparecían bajo el epígrafe de chimpacés. Google, en cambio, usó Fotos, para mostrar sus avances, pero de una manera más privada y suave. La aplicación permite ordenar las imágenes por temas, lugares y objetos. También buscar en esos mismos términos. La opción más llamativa es la que invita a etiquetar, de manera interna, a las personas de los archivos del móvil. Una vez que aprende quiénes son, se guardan dentro de esa etiqueta sin tener que indicarlo. Es decir, reconoce al sujeto de la imagen.
Facebook pretende sumarse a esta iniciativa, que lleva tiempo experimentando de manera interna con un asistente similar para su Messenger. El plan de Facebook está orientando al comercio electrónico. El proyecto, de momento, se conoce con el nombre clave de "M". Los de Menlo Park lo ven como la fórmula perfecta para acercarse al cliente de una manera suave y natural con ofertas, así como ofrecer atención al usuario sin contar con un extenso centro de llamadas.
