La verdad en tiempos de (alucinaciones de) la inteligencia artificial
El libro que predicaba sobre la verdad y tropezó con la mentira algorítmica
La noticia la adelantaba The New York Times el 19 de mayo de 2026: Steven Rosenbaum, autor del libro de no ficción The Future of Truth, acababa de reconocer que su obra contenía numerosas citas inventadas o mal atribuidas, generadas por inteligencia artificial. El libro, que había salido al mercado con considerable promoción —fragmentos en la revista Wired, reseñas de periodistas destacados y prólogo de una premio Nobel de la Paz—, predicaba sobre los efectos de la inteligencia artificial en la verdad mientras incluía, en sus propias páginas, más de media docena de citas que jamás fueron pronunciadas por las personas a quienes se atribuían. La ironía es tan perfecta que parece fabricada, pero la realidad, como suele ocurrir, ha superado a la sátira.
Rosenbaum no es un improvisador ni un desconocido. Dirige el Sustainable Media Center, una organización dedicada a reflexionar sobre el ecosistema mediático, y su libro aspiraba a ser una contribución seria al debate sobre la erosión de la verdad en la era digital. Sin embargo, cuando el diario neoyorquino le preguntó por las citas sospechosas, el autor no tuvo más remedio que admitir lo que ya era evidente: había utilizado herramientas de inteligencia artificial —ChatGPT y Claude— durante el proceso de investigación, redacción y edición, y esas herramientas habían insertado en el texto pasajes que sonaban verosímiles pero que carecían de todo anclaje en la realidad. El caso es, a la vez, una advertencia y un síntoma, y merece ser analizado con la distancia que solo el derecho y la ética de la comunicación pueden proporcionar.
II. Las citas que nunca existieron y el problema de la verificación
El Times documentó varios ejemplos que conviene reproducir porque ilustran con precisión el mecanismo de la alucinación algorítmica. Una cita atribuida a la periodista Kara Swisher, en un capítulo sobre las mentiras de la inteligencia artificial, afirmaba que el modelo lingüístico más sofisticado es como un espejo que nos devuelve un reflejo de nuestra propia moralidad, pulida y bien formulada, pero vacía tras la superficie. Swisher fue categórica al ser consultada: nunca dijo eso, y además le parecía que la cita la había inventado una inteligencia artificial. Otra cita atribuida a la psicóloga Lisa Feldman Barrett contenía afirmaciones que, según la propia autora, no aparecen en su libro, no se corresponden con su forma de expresarse y, en algún caso, son científicamente incorrectas. Una tercera cita, atribuida a la profesora Meredith Broussard, era auténtica en su contenido, pero no procedía de su libro, sino de una entrevista radiofónica de 2023.
El patrón es reconocible para cualquiera que haya utilizado modelos de lenguaje generativo: la máquina produce un texto que parece plausible, que imita el estilo y la temática del autor citado, pero que no guarda relación con nada que ese autor haya dicho o escrito realmente. Es la alucinación, ese fenómeno bien conocido por los desarrolladores y por los usuarios avanzados, que consiste en la generación de contenidos que no se corresponden con ningún dato del corpus de entrenamiento. La máquina no miente, porque carece de intención; pero produce falsedades, y las produce con una seguridad que desarma al usuario incauto.
Hay que reseñar que el problema no es el uso de la inteligencia artificial como herramienta de apoyo a la escritura, sino la omisión del deber de verificación que todo autor contrae cuando decide publicar. Rosenbaum reconoció en los agradecimientos del libro que había utilizado ChatGPT y Claude durante el proceso de investigación, redacción y edición. Esa transparencia es encomiable, pero no le exime de la responsabilidad última sobre el contenido. Un autor que delega en una máquina la comprobación de la exactitud de sus fuentes está abdicando de la función más esencial de quien escribe: la de garantizar que lo que afirma es cierto o, al menos, que lo ha contrastado con un mínimo de diligencia.
III. La responsabilidad del autor en la era de los asistentes algorítmicos
Desde la perspectiva del derecho, el caso plantea cuestiones que trascienden la anécdota periodística. La inclusión de citas falsas en un libro de no ficción puede generar responsabilidad por intromisión ilegítima en el derecho al honor de las personas a quienes se atribuyen declaraciones inexistentes, especialmente si esas declaraciones contienen opiniones o afirmaciones que el citado no comparte. También puede generar responsabilidad contractual frente al editor, que confió en la veracidad de los contenidos al aceptar la publicación. Y, en el ámbito de la protección de los consumidores, la comercialización de un libro que se presenta como ensayo riguroso y que contiene falsedades podría ser considerada una práctica engañosa.
Pero más allá de la responsabilidad jurídica, que en este caso probablemente no se ventilará en los tribunales, el episodio revela un problema de deontología de la autoría. Quien escribe un libro sobre la verdad no puede permitirse el lujo de no verificar sus fuentes. Quien utiliza una herramienta que sabe que alucina no puede confiar ciegamente en sus resultados. Y quien firma un texto, en fin, responde de lo que el texto dice, con independencia de que lo haya redactado directamente, lo haya dictado, lo haya traducido o lo haya generado con la asistencia de un modelo algorítmico. La firma es el acto de apropiación de lo escrito, y con la apropiación viene la responsabilidad.
Rosenbaum ha declarado que los errores fueron un accidente y que no tenía ninguna intención de inventar puntos de vista. Ha asumido toda la responsabilidad y está trabajando con los editores para corregir los pasajes afectados. Su reacción es la que cabía esperar de quien se ve atrapado en una negligencia que no puede negar. Pero la pregunta de fondo sigue siendo: ¿cómo es posible que un autor que escribe sobre los peligros de la inteligencia artificial para la verdad no sea consciente del peligro de utilizar esa misma inteligencia artificial sin verificar sus resultados? La respuesta probablemente tenga que ver con la familiaridad excesiva, ese mecanismo psicológico que lleva a confiar en lo que se maneja a diario sin mantener la guardia alta. Y si eso le ocurre a un experto en medios que ha dedicado un libro entero al asunto, ¿qué no les ocurrirá a quienes utilizan estas herramientas sin la menor conciencia de sus limitaciones?
IV. La alucinación como riesgo sistémico para la integridad del discurso público
El caso Rosenbaum no es un episodio aislado, sino la manifestación en el ámbito editorial de un problema que afecta al conjunto de la producción cultural e informativa. Las alucinaciones de los modelos de lenguaje son un riesgo sistémico, no un fallo puntual. Se producen porque estos sistemas no están diseñados para decir la verdad, sino para generar textos verosímiles. La verosimilitud no es la verdad, y la confusión entre ambas es, probablemente, el mayor peligro epistémico de nuestro tiempo.
Las editoriales han empezado a tomar conciencia de este riesgo. Hace apenas unos meses, Hachette canceló la publicación de una novela de terror ante las acusaciones de que la autora había utilizado inteligencia artificial para esbozar el libro. El caso Rosenbaum es distinto, porque no se trata de una novela —donde la veracidad no es un requisito—, sino de un ensayo que se presenta ante el lector como un análisis riguroso de la realidad. La diferencia es sustancial. Quien lee una novela sabe que los hechos narrados son ficticios. Quien lee un ensayo sobre la verdad confía en que el autor no ha inventado las citas que atribuye a terceros. La ruptura de esa confianza no solo daña la reputación del autor, sino que erosiona la credibilidad del género ensayístico en su conjunto.
Hay que añadir que el libro de Rosenbaum contaba con el aval de un prólogo firmado por Maria Ressa, periodista y premio Nobel de la Paz, y con reseñas promocionales de figuras destacadas del periodismo estadounidense. Esos avales no convierten al autor en más culpable de lo que es, pero sí obligan a reflexionar sobre la cadena de confianza que sostiene el mercado editorial. Si un libro apadrinado por personalidades de primer nivel contiene citas inventadas que nadie detectó antes de la publicación, algo falla en los mecanismos de verificación. La responsabilidad última es del autor, pero la responsabilidad del editor —que revisa, corrige y da el visto bueno— no puede ser ignorada.
V. La transparencia como punto de partida, no como eximente
Rosenbaum ha hecho algo que no todos los autores pillados en una negligencia hacen: ha reconocido el error, ha asumido la responsabilidad y ha anunciado que corregirá los pasajes afectados. Pero también ha dicho algo que merece una reflexión adicional: que si este episodio sirve de advertencia sobre los riesgos de la investigación y la verificación asistidas por inteligencia artificial, para eso escribió el libro. La frase es hábil, porque transforma el error en ejemplo, pero contiene un punto de autoexculpación que no resulta del todo convincente. Uno no puede escribir un libro sobre los peligros de la inteligencia artificial para la verdad, incurrir exactamente en esos peligros y luego presentar el tropiezo como una lección práctica para los lectores. La lección, en todo caso, la ha aprendido el autor, y la ha aprendido por las malas.
La transparencia sobre el uso de la inteligencia artificial es necesaria, pero no suficiente. Decir que se ha utilizado ChatGPT o Claude durante el proceso de escritura es un acto de honestidad, pero no libera al autor del deber de verificar cada dato, cada cita y cada afirmación que el texto contiene. La transparencia es el punto de partida de la responsabilidad, no su eximente. Quien revela que ha utilizado una herramienta peligrosa no queda dispensado de los daños que la herramienta cause; simplemente informa de que los riesgos existían y de que, pese a ello, no se adoptaron las cautelas necesarias para evitarlos.
VI. Conclusiones sobre la verdad como ejercicio de responsabilidad
El caso de Steven Rosenbaum es, en su aparente pequeñez, una parábola de nuestro tiempo. Un hombre se propone escribir un libro sobre la verdad en la era de la inteligencia artificial y termina demostrando, con su propio ejemplo, lo fácil que es sucumbir a la tentación de delegar en la máquina la tarea más humana de todas: la de distinguir lo cierto de lo falso. La inteligencia artificial puede ayudar a escribir, a documentar, a corregir, a estructurar. Pero no puede verificar, porque la verificación exige un contacto con la realidad que la máquina, por definición, no tiene. La máquina no ha leído el libro de Lisa Feldman Barrett, ni ha escuchado la entrevista de Meredith Broussard, ni conoce a Kara Swisher. Solo ha procesado patrones estadísticos y ha generado un texto que se parece a lo que esas autoras podrían haber dicho. Lo que podrían haber dicho no es lo que dijeron, y la diferencia entre ambas cosas es la diferencia entre la ficción y el ensayo, entre la literatura y el periodismo, entre la opinión y la ciencia.
Rosenbaum ha asumido su responsabilidad y ha prometido corregir los errores. Es lo mínimo que se podía esperar de él, y ha estado a la altura de esa expectativa. Pero el problema de fondo subsiste, y es un problema que el derecho, la ética y la deontología profesional deberán abordar con más urgencia de la que hasta ahora han demostrado. Porque si los libros sobre la verdad contienen mentiras algorítmicas, ¿qué no contendrán los libros que no tratan sobre la verdad? La respuesta a esa pregunta, cuando llegue, probablemente no nos guste. Y la lección del caso Rosenbaum es que, para no llegar a ella, hay que verificar. Siempre. Incluso cuando la máquina dice que ya lo ha hecho. Sobre todo entonces.