La empresa Themis AI, una startup surgida del MIT, está revolucionando el mundo de la inteligencia artificial al enseñarle a los modelos a decir “no estoy seguro”. Su plataforma llamada Capsa ayuda a las IA a detectar cuando están adivinando o trabajando con datos incompletos, reduciendo así los errores o “alucinaciones” que pueden tener consecuencias graves, especialmente en sectores críticos como la medicina o la conducción autónoma.
Desde su creación en 2021, Themis ha colaborado con industrias como telecomunicaciones, energía y salud, ayudando a prevenir errores costosos y mejorando la precisión de sistemas inteligentes. Capsa puede integrarse en casi cualquier modelo de IA, actuando como una especie de conciencia que le avisa cuando su nivel de certeza no es suficiente.
El origen de esta tecnología viene de años de investigación en el MIT, incluyendo proyectos financiados por Toyota para autos autónomos. Además de detectar sesgos en el reconocimiento facial, su sistema ha sido aplicado exitosamente en el desarrollo de medicamentos y en dispositivos con capacidad limitada, como sensores o móviles. En resumen, Themis AI busca que la inteligencia artificial no solo sea más lista, sino también más honesta.
