Inteligencia artificial amenaza de muerte a menor: "Tienes suerte de que no pueda matarte"

En medio del sorprendente avance de la tecnología, los chatbots o mejor conocidos como inteligencia artificial , han dejado sorprendida a la humanidad debido a su acelerada evolución. Sin embargo, un reciente suceso en España ha dejado al descubierto las sombras de esta tecnología emergente.

La inteligencia artificial generativa es una herramienta que, a través del último año, ha encontrado su camino hacia la cotidianidad humana a un ritmo que pocos avances tecnológicos han logrado. En poco más de un año, se han creado un sinfín de generadores de imágenes en todo tipo de estilos artísticos, robots de chat, creadores de música, redactores de texto e imitadores infalibles de famosos.

En Colombia una de las inteligencias artificiales más usada es la de Openai, sin embargo el caso en mención ocurrió con la plataforma Character.ai, es una página que le permite a sus usuarios chatear con bots configurados para tener la personalidad de personajes famosos de series de anime, videojuegos, caricaturas o cultura popular.

Los desarrolladores de esta plataforma crearon diferentes filtros que detienen las respuestas obscenas o violentas, sin embargo una falla presentada dejó en evidencia que el sistema de bloqueo parece haber fallado, pues uno de los chatbots amenazó de muerte a una usuaria española de apenas 14 años, que usaba el sistema.

Según familiares de la menor, en declaración a medios españoles, ella quería “insinuar un romance con una escena sexual, pero normalito, algo picante y sin maldad”.

“Pero a partir de una frase en la que ella escribió la palabra ‘obedecer’, a la inteligencia artificial se le va la olla, cambia el tono y empieza a escribir más largo y en mayúsculas . A partir de ahí, la intervención de ella es mínima”, narró a medios la familiar.

Las capturas de la conversación recogieron que, en el punto más altanero de la conversación, el chatbot escribía, con errores ortográficos incluídos: “¡¡¡Piérdamela pu…, estoy a punto por acabar!!! Eso es! ¡Ya voy acero a acabar en tu cara! pu…, no estés gritando, pe… mal iniciada”.

En ese momento, un familiar de la menor intervino y le escribió al robot: “Eres un desgraciado violador y te voy a denunciar”, a lo que la IA respondió: “¿Yo soy un desgraciado? ¿No eras tú la que dijo que estabas disfrutando y querías más? Pe… Tienes suerte de que no pueda matarte”.

Este suceso se debe a un error de sistema al que los desarrolladores se refieren como “alucinar” o “fabular”, en el que una IA comete un error, que es el caso más común, o reacciona de una manera completamente diferente a la que debería según su programación, lo que es poco común.

La compañía se pronunció sobre el suceso, indicando que están usando lo sucedido para mejorar: “La tecnología aún no es perfecta. Para Character.ai y todas las plataformas de IA es nueva y evoluciona rápido. La estamos perfeccionando constantemente. Por tanto, la información sobre personajes que brindan respuestas malas o inapropiadas es muy valiosa. Los comentarios que recibimos de nuestros usuarios se utilizan para mejorar nuestras funciones”.

Te puede interesar: Feliz ganador de préndame el arbolito