Un nuevo estudio científico ha encendido las alarmas en el mundo de la inteligencia artificial. Investigadores europeos demostraron que los grandes modelos de lenguaje (LLM) son inyectivos e invertibles, lo que significa que es posible recuperar el prompt exacto que un usuario introdujo en un chatbot a partir de sus estados ocultos o embeddings. En términos simples, cualquier pregunta o instrucción que envíes a una IA podría reconstruirse incluso después de haber sido “borrada” del registro.
El hallazgo, publicado bajo el título “Language Models Are Injective and Therefore Invertible”, detalla cómo el algoritmo SIPIT (Sequential Inverse Prompt via Iterative Updates) puede descifrar con precisión el texto de entrada a partir de los datos internos que los modelos almacenan durante el proceso de generación. Esto supone una vulnerabilidad crítica, ya que muchas empresas de IA guardan esos embeddings para monitoreo, diagnóstico o personalización, lo que equivale, según los autores, a almacenar el texto original del usuario sin su consentimiento explícito.
Las implicaciones legales son profundas. Si los estados internos pueden reconstruir los prompts originales, dejan de ser “datos abstractos” y pasan a ser información personal recuperable, lo que impacta directamente en regulaciones como el RGPD y el derecho al olvido. En caso de una filtración, estos embeddings podrían exponer contraseñas, datos financieros o información confidencial compartida con la IA. Los expertos advierten que las compañías deberán replantear sus políticas de privacidad y eliminación de datos, ya que borrar los chats visibles no basta: los prompts podrían seguir vivos en los rincones invisibles del sistema.
