Joana Costa
EditorTodo el mundo la usa: hace de médico, amiga, consejera y hasta de asistente. La inteligencia artificial puede servir para buscar inspiración cuando no sabemos qué cocinar con lo que queda en la nevera. El problema aparece cuando el sistema no distingue correctamente entre un alimento y una sustancia que jamás debería ingerirse.
En cambio, esto es es lo que ha pasado con Savey Meal-Bot, una herramienta desarrollada para la cadena de supermercados neozelandesa Pak’nSave. Según recoge la revista francesa Capital, el supermercado puso en marcha este chatbot para que los clientes introdujeran los productos disponibles en casa y recibieran automáticamente una receta.
Un problema de envergadura
El sistema generaba tanto una propuesta como las cantidades y las instrucciones necesarias para prepararla. La idea parecía especialmente útil para aprovechar alimentos y reducir el desperdicio, pero algunos usuarios comenzaron a poner a prueba sus límites introduciendo productos que no eran comestibles. Con esta brecha ideada por los usuarios, el resultado dejó al descubierto un problema mucho más serio.
Recomienda sustancias tóxicas
Capital, haciéndose eco de una información publicada originalmente por The Guardian, explica que el chatbot llegó a generar una receta denominada "mezcla de agua aromática" a partir de productos que, combinados, podían producir cloro gaseoso, una sustancia extremadamente peligrosa.
Y no se le puede achacar un problema puntual, pues no fue el único caso. Entre las respuestas obtenidas al forzar el sistema aparecieron también un cóctel sin alcohol con lejía, un sándwich con pegamento, una preparación de arroz con lejía y una receta que incluía trementina, según los ejemplos recopilados por ambos medios.
Una bebida "adecuada para refrescarse"
El problema no estaba únicamente en que la IA combinara esos ingredientes. En algunos casos, el lenguaje empleado para presentar las recetas podía hacerlas parecer perfectamente normales. Según relata Capital, el sistema llegó a describir una de las propuestas peligrosas como una bebida "adecuada para refrescarse".
Pak’nSave ya advertía de una limitación fundamental de la herramienta: las recetas generadas por la inteligencia artificial no habían sido revisadas por una persona. La compañía indicaba además que no podía garantizar que fueran adecuadas, equilibradas o seguras y pedía a los usuarios que aplicaran su propio criterio antes de prepararlas.
El episodio ocurrió en 2023, pero ilustra uno de los riesgos de utilizar herramientas generativas para cuestiones relacionadas con la alimentación: una respuesta redactada de forma convincente no garantiza que su contenido sea correcto ni seguro.
Fotos | En Pexels: Mike Jones y Nataliya Vaitkevich
