KPMG ha retirado un informe sobre inteligencia artificial después de identificar respuestas erróneas atribuibles a lo que se conoce como alucinaciones en modelos de lenguaje. La decisión ha puesto de relieve limitaciones técnicas y plantea preguntas sobre los procesos de verificación y control en documentos que influyen en decisiones empresariales y públicas.
Qué sucedió y por qué se retiró el informe
El retiro del documento se produjo tras detectar inconsistencias en parte del contenido generado con apoyo de modelos de inteligencia artificial. Esas inconsistencias no se limitaron a errores de redacción. Afectaron a elementos de verificación factual y a afirmaciones que, en apariencia, no tenían respaldo en fuentes verificables.
Ante esos hallazgos, la organización optó por retirar el informe mientras se revisan los procesos internos. La medida refleja una prudencia en la gestión de materiales que pueden influir en clientes, reguladores y mercados.
Qué son las alucinaciones en modelos de lenguaje
Las alucinaciones en inteligencia artificial describen respuestas que parecen plausibles pero carecen de fundamento real. No se trata de invenciones conscientes. Son fallos sistémicos en la generación de texto que combinan probabilidades lingüísticas con datos incompletos o mal interpretados.
Causas técnicas
Las alucinaciones pueden originarse en varios puntos del ciclo de desarrollo y uso de un modelo. Entre los factores más comunes están la calidad y cobertura del conjunto de entrenamiento, la forma en que se ajustan los modelos a tareas específicas y las limitaciones de los mecanismos de verificación automática. También influyen las instrucciones de uso y la supervisión humana durante la generación del contenido.
Cómo se manifiestan en resultados
Se manifiestan como afirmaciones precisas pero incorrectas, referencias a documentos inexistentes o atribuciones inexactas. En contextos profesionales, esas manifestaciones pueden inducir a error a lectores que confían en la autoridad del emisor. El riesgo aumenta cuando no existe una revisión humana rigurosa que contraste las salidas automatizadas.
Impacto en la confianza profesional y comercial
La retirada de un informe por este motivo afecta la percepción de fiabilidad de productos y servicios basados en inteligencia artificial. Consultoras, auditoras y empresas tecnológicas se enfrentan al reto de demostrar que incorporan controles que minimizan la posibilidad de publicación de información errónea.
Para clientes y usuarios, el episodio recuerda que la integración de modelos de lenguaje en procesos críticos requiere capas adicionales de verificación. Cuando un documento proviene de una entidad con reputación, el coste reputacional puede ser relevante y generar discusión sobre prácticas de control interno.
Medidas de control y verificación
Reducir el riesgo de alucinaciones exige un enfoque multidimensional. No basta con confiar en una sola metodología. Se requieren procedimientos técnicos, protocolos de revisión y criterios claros para el uso de salidas automatizadas.
- Revisión humana especializada: expertos que contrasten hechos y evaluaciones.
- Pruebas de robustez: evaluación de las respuestas del modelo en distintos escenarios y fronteras del problema.
- Control de versiones: registro de iteraciones del modelo y de los conjuntos de datos empleados.
- Políticas de divulgación: descripción clara de la participación de IA en la elaboración de documentos.
- Mecanismos de trazabilidad: capacidad para identificar el origen de una afirmación en el proceso de generación.
Implicaciones para regulación y auditoría
La noticia pone énfasis en la necesidad de marcos de gobernanza que contemplen la coexistencia entre automatización y responsabilidad. La normativa que rija el uso de inteligencia artificial debe abordar la fiabilidad de la información y las obligaciones de verificabilidad en documentos de carácter técnico o estratégico.
En auditoría, la situación refuerza la exigencia de procedimientos que garanticen la integridad de los informes. Las entidades deben evaluar cómo se incorpora la inteligencia artificial en su cadena de valor y qué controles son necesarios para proteger la calidad informativa.
Recomendaciones prácticas para organizaciones
Las organizaciones que emplean modelos de lenguaje en producción pueden adoptar una serie de prácticas destinadas a mitigar riesgos. Estas medidas combinan aspectos técnicos, operativos y de gobernanza.
Entre las recomendaciones figuran la implementación de revisiones por pares, la definición de umbrales de confianza para automatismos y la formación continua de equipos sobre limitaciones de la tecnología. También tiene cabida la transparencia con clientes sobre el grado de automatización y los mecanismos de comprobación empleados.
Preguntas frecuentes
¿Por qué ocurren las alucinaciones?
Ocurren porque los modelos predicen secuencias de texto en función de patrones aprendidos, no de una validación de hechos. Cuando la información de entrenamiento es incompleta o ambigua, el modelo puede generar respuestas que combinan elementos plausibles sin respaldo real.
¿Cómo se detectan y corrigen?
Se detectan mediante procesos de revisión que contrastan las salidas del modelo con fuentes confiables y con la experiencia humana. La corrección implica ajustar el proceso de generación, limitar el uso en contextos sensibles y mejorar la supervisión humana sobre el contenido final.
La retirada del informe es un recordatorio de que la adopción de inteligencia artificial exige un equilibrio entre innovación y control. La tecnología ofrece herramientas potentes, pero su integración en entornos profesionales demanda procesos que garanticen veracidad, transparencia y responsabilidad. El caso plantea una oportunidad para revisar prácticas y reforzar mecanismos que eviten la circulación de información no verificable en documentos con impacto.
