Google revoluciona la inteligencia artificial al enseñar a los modelos expresar dudas

La incertidumbre es una constante en el mundo real. Sin embargo, los modelos de lenguaje artificiales (ML)Until ahora, han luchado para reflejar esa incertidumbre en sus respuestas. En lugar de eso, han tendido a responder con confianza cuando no lo tenían, lo que genera alucinaciones y limita su utilidad. Pero eso cambia gracias a un innovador enfoque desarrollado por investigadores de Google.

Dando voz a la incertidumbre

El nuevo sistema, llamado “incertidumbre fiel”, busca que los modelos no solo respondan correctamente cuando lo saben, sino que también expresen su nivel de confianza en cada respuesta. De esta forma, cuando un modelo esté seguro, lo demostrará. Pero también admitirá la duda cuando no esté absolutamente convencido.

En lugar de considerar todas las respuestas incorrectas como alucinaciones, se distinguirán entre errores confiados y respuestas que incluyen cierta duda o matiz. Así, si un modelo responde con expresiones como “creo que” o “mi mejor estimación es”, no se considerará un fallo, sino una hipótesis útil que el usuario puede valorar.

La clave es alinear la confianza interna del modelo con la forma en la que expresa esa confianza. Los investigadores buscan que la IA muestre dudas solo cuando su nivel interno de certeza sea bajo. Esto permitiría que el modelo responda con seguridad cuando esté seguro, exprese dudas cuando detecte incertidumbre real, o evite tanto la sobreconfianza como la abstención excesiva.