Un liderazgo intelectual algorítmicamente alucinado
¿Puede una firma que asesora a empresas sobre el uso responsable de la inteligencia artificial publicar informes plagados de errores generados por esa misma tecnología? La respuesta, al menos en el caso de PwC Middle East, es un sí rotundo. La consultora de las Big Four ha sido la última en sumarse a una lista que ya incluye a EY y KPMG, después de que una investigación de GPTZero, verificada por el Financial Times, revelara que varios de sus informes de "liderazgo intelectual" contenían notas a pie de página falsas, afirmaciones mal atribuidas e información no verificable. No es un error puntual. Es un patrón que se repite en al menos cuatro informes publicados en los últimos dos años, y que revela una dependencia acrítica de la inteligencia artificial generativa que roza lo grotesco.
La lectura apresurada de la noticia podría inducir a pensar que estamos ante un incidente aislado, un descuido de un equipo de investigación poco cuidadoso. Pero la realidad es más inquietante. PwC no es una firma cualquiera. Es una de las mayores consultoras del mundo, con una facturación que supera los 50.000 millones de dólares anuales. Y, lo que es más relevante, ha hecho de la inteligencia artificial uno de sus principales argumentos de venta, promocionando sus servicios como asesora de empresas que adoptan esta tecnología, incluyendo cómo usarla de forma responsable e implementar políticas para evitar errores. La ironía es tan gruesa que duele. Predican sobre el uso responsable de la inteligencia artificial y, al mismo tiempo, publican informes que son un muestrario de todo lo que no hay que hacer.
Los informes en cuestión abarcan temas tan diversos como una guía práctica para el uso corporativo de bots de inteligencia artificial "agénticos" autónomos, una guía para gobiernos sobre cómo mejorar los servicios públicos, y predicciones de mercado para vehículos eléctricos y autónomos en Oriente Próximo. Todos ellos, según la investigación, presentan el mismo síntoma: una dependencia de la inteligencia artificial generativa que ha llevado a la creación de citas inexistentes, referencias a fuentes que no respaldan lo que se afirma y, en algunos casos, a la invención de estudios académicos completos. Es, en palabras de los investigadores de GPTZero, un caso de libro de "alucinaciones" algorítmicas.
II. El muestrario de errores: de un bloguero adolescente a un estudio inexistente
Los detalles de la investigación son, cuando menos, reveladores. Un informe de PwC Middle East cita a un bloguero adolescente con 280 seguidores en Medium como fuente de información sobre una iniciativa de JPMorgan que denominan un "caso de éxito real" de la inteligencia artificial agéntica. La iniciativa en cuestión —la automatización de la revisión de acuerdos de préstamos comerciales— se dio a conocer por primera vez en 2017, cinco años antes de que ChatGPT inaugurase la era de la inteligencia artificial generativa. Es decir, la fuente no solo era poco fiable, sino que además era innecesaria. La información era de dominio público y fácilmente verificable.
Otro ejemplo: un artículo académico sobre la calidad del aire en Riad parece haber sido generado completamente por inteligencia artificial, ya que no hay rastro del estudio ni en la revista citada ni entre los autores a los que se atribuye. La nota a pie de página enlaza a una página web que no existe. Es una alucinación en estado puro: una referencia que parece sólida sobre el papel, pero que se desvanece al primer intento de verificación. Y no es un caso aislado. Muchas de las citas en los informes presentan algún tipo de problema: enlazan a páginas web que no contienen la evidencia que pretenden aportar, o directamente a páginas que no existen.
Uno de los ejemplos más reveladores del uso chapucero de la inteligencia artificial es la repetición de una misma estadística en tres partes distintas de un informe. La afirmación de que el error humano es responsable del 90% de los accidentes de tráfico se menciona en tres ocasiones: la primera con una nota a pie de página, la segunda sin ella y la tercera con dos notas a pie de página —cada una citando una fuente distinta—. Como señala Paul Esau, investigador de GPTZero, "esta afirmación no es falsa, pero ningún ser humano citaría el mismo dato tres veces en dos páginas utilizando tres fuentes diferentes". Es el sello distintivo de un texto generado por inteligencia artificial: la repetición inconsciente y la falta de coherencia en el manejo de las fuentes.
III. El patrón de las alucinaciones y la falta de control humano
Lo que hace que este caso sea especialmente preocupante no es la mera existencia de errores, sino el patrón sistemático que revelan. Los investigadores de GPTZero identificaron cuatro informes de PwC Middle East cuyo texto parecía haber sido escrito con una ayuda particularmente intensa de la inteligencia artificial. Y en todos ellos, las notas a pie de página revelaban fundamentos poco sólidos. No se trata de un error puntual que se ha colado en el proceso de revisión. Se trata de una metodología de trabajo que parece haber delegado en la máquina la elaboración de la argumentación y la búsqueda de fuentes, sin la supervisión humana adecuada.
Un ejemplo especialmente revelador es la URL de un artículo periodístico sobre las amenazas a la ciberseguridad en el sector energético. La nota a pie de página incluye "utm_source=chatgpt.com". Es decir, el enlace fue generado por ChatGPT y copiado sin ningún tipo de verificación. La máquina generó una referencia que parecía legítima, y el equipo de PwC la incorporó al informe sin comprobar si la fuente existía realmente o si respaldaba lo que se afirmaba. Esa es la esencia de la alucinación algorítmica: una referencia que parece real, pero que no lo es. Y que, al ser incorporada a un informe de "liderazgo intelectual", se convierte en un problema de credibilidad para la firma y para sus clientes.
La falta de control humano es especialmente grave en un contexto en el que PwC ha instado a su personal a utilizar la inteligencia artificial para agilizar y mejorar su trabajo, y ha publicado cientos de artículos de liderazgo intelectual sobre inteligencia artificial para atraer clientes. La firma ha promocionado su experiencia en esta tecnología, pero los hechos demuestran que no ha sido capaz de aplicarla de manera responsable en su propio trabajo. Esa desconexión entre el discurso y la práctica es, quizá, el aspecto más dañino de este episodio.
IV. La respuesta de PwC y la falta de explicaciones
La reacción de PwC Middle East ante la investigación del Financial Times ha sido, cuando menos, tibia. La firma declaró que "se toma muy en serio la precisión de las investigaciones publicadas y está actualizando un número limitado de citas de apoyo" en los informes identificados. También afirmó que "en consonancia con nuestro enfoque sobre una inteligencia artificial responsable, contamos con procesos de control de calidad para la investigación y el desarrollo de contenido que esperamos que todo nuestro personal cumpla". Sin embargo, no abordó cómo se incluyeron los errores en los informes ni cómo es posible que esos procesos de control de calidad no hayan detectado las alucinaciones.
La respuesta es insatisfactoria por varias razones. En primer lugar, porque habla de "un número limitado de citas de apoyo", cuando los investigadores de GPTZero han identificado un patrón sistemático que afecta a varios informes y a múltiples notas a pie de página. En segundo lugar, porque invoca unos procesos de control de calidad que, a la vista de los resultados, no pueden haber funcionado. Y en tercer lugar, porque no ofrece ninguna explicación sobre cómo se produjeron los errores ni qué medidas se van a tomar para evitar que vuelvan a ocurrir. El silencio de PwC sobre el fondo del asunto es un síntoma de un problema más profundo: la incapacidad de las grandes consultoras para reconocer sus propios errores en materia de inteligencia artificial.
Este no es un caso aislado. Investigaciones anteriores de GPTZero llevaron a las firmas rivales EY y KPMG a retractarse de informes que también parecían contener alucinaciones. El patrón se repite: las grandes consultoras, ansiosas por demostrar su liderazgo en inteligencia artificial, publican informes de "liderazgo intelectual" generados con la ayuda de estas herramientas, sin verificar adecuadamente las fuentes ni asumir la responsabilidad sobre el contenido. El resultado es una erosión de la confianza en un sector que debería ser ejemplar en el uso de la tecnología.
V. El contexto de las Big Four y la carrera por la inteligencia artificial
El escándalo de PwC se enmarca en un contexto más amplio: la carrera de las Big Four por posicionarse como líderes en inteligencia artificial. En los últimos años, estas firmas han publicado cientos de artículos de liderazgo intelectual sobre inteligencia artificial, han creado equipos especializados y han promocionado sus servicios como asesores de empresas que adoptan esta tecnología. La presión por demostrar conocimiento y experiencia en un campo que avanza a gran velocidad ha llevado a algunas de estas firmas a tomar atajos que, a la larga, resultan contraproducentes.
El problema no es solo la publicación de informes con errores. Es la hipocresía que supone predicar el uso responsable de la inteligencia artificial mientras se utilizan estas herramientas de manera negligente. Las Big Four no son empresas de tecnología. Son consultoras que venden asesoramiento a otras empresas. Y su credibilidad depende, en buena medida, de su capacidad para aplicar las mismas reglas que predican a sus propios procesos. Cuando fallan en eso, no solo dañan su reputación, sino que socavan la confianza en el conjunto de la industria.
El caso de PwC es especialmente relevante porque la firma ha sido una de las más activas en la promoción de la inteligencia artificial como herramienta de transformación empresarial. Sus socios han escrito artículos, han participado en conferencias y han asesorado a clientes sobre cómo implementar políticas de inteligencia artificial responsable. Ahora, la evidencia de que sus propios informes están plagados de alucinaciones generadas por inteligencia artificial plantea una pregunta incómoda: si ellos no son capaces de usar la tecnología de manera responsable, ¿cómo pueden asesorar a otros sobre cómo hacerlo?
VI. Reflexiones finales: liderazgo intelectual y responsabilidad algorítmica
El caso de PwC Middle East es un recordatorio de que el liderazgo intelectual no se construye sobre citas falsas y referencias inventadas. Se construye sobre investigación rigurosa, análisis crítico y responsabilidad sobre el contenido que se publica. La inteligencia artificial puede ser una herramienta valiosa para ayudar en esas tareas, pero no puede sustituir el juicio humano, ni la verificación de las fuentes, ni la asunción de responsabilidad sobre el producto final.
La lección para las consultoras y para cualquier organización que publique contenido de "liderazgo intelectual" es clara: la inteligencia artificial puede asistir, pero no delegar. Puede ayudar a encontrar fuentes, pero no puede sustituir la verificación de esas fuentes. Puede mejorar la redacción, pero no puede sustituir la coherencia argumental. Y, sobre todo, no puede sustituir la responsabilidad de quienes firman el contenido. Cuando una firma como PwC publica informes con citas falsas y referencias inexistentes, no está fallando la inteligencia artificial. Está fallando el control humano. Y esa falla, como demuestra el escándalo, es mucho más difícil de reparar que una alucinación algorítmica.
La pregunta que queda en el aire es si PwC y las demás Big Four aprenderán la lección. O si, por el contrario, seguirán publicando informes de "liderazgo intelectual" generados con inteligencia artificial y con la esperanza de que nadie verifique las fuentes. La investigación de GPTZero y el Financial Times demuestra que alguien está verificando. Y que el coste de la negligencia puede ser la credibilidad de la firma. Porque, como ha quedado claro en este caso, el liderazgo intelectual no se gana con alucinaciones. Se gana con rigor. Y el rigor, por mucho que avance la tecnología, sigue siendo una responsabilidad humana.