Una recusación por medios algorítmicos cutre pero eficaz en Alemania

Un tribunal alemán, según pudo saberse porConfilegal,apartó a su propio juez tras examinar una impugnación de cuarenta páginas redactada íntegramente por un chatbot de inteligencia artificial. El escrito, mal construido, plagado de citas inventadas y con referencias a jurisprudencia inexistente, logró sin embargo lo que muchos abogados con años de experiencia no consiguen: que la recusación prosperara y, como consecuencia indirecta, que la fiscalía archivara el caso.

El protagonista de esta historia es David Hinz, un trabajador del sector de la seguridad de 41 años que afrontaba en Leipzig un proceso penal por presunto fraude en prestaciones de desempleo. La cuantía supuestamente indebida era mínima: 242,34 euros cobrados por haber iniciado una relación laboral antes de lo comunicado a la administración pública competente. Hinz lo calificó en todo momento de malentendido.

Lo anterior me sugiere que nos encontramos ante una de esas asimetrías que el derecho procesal debería ser capaz de corregir por sí mismo, pero que en este caso requirió de una intervención tan heterodoxa como, a la postre, eficaz. Hinz no tenía medios para contratar un abogado, o quizá consideró que el coste no merecía la pena para una cantidad tan reducida. Lo que hizo, en su lugar, fue algo que ningún manual de autodefensa procesal recomienda: entregarse a un algoritmo.

II. Cuarenta páginas, varios meses y ningún letrado

En lugar de constituir defensa letrada, Hinz optó por la autodefensa asistida por inteligencia artificial. Durante varios meses consultó de forma sistemática a un chatbot, al que fue sometiendo los hechos del caso, los documentos procesales y sus propias hipótesis sobre posibles irregularidades en la instrucción. El modelo de lenguaje le ayudó a articular una solicitud formal de abstención del juez —recusación, en la terminología procesal española— basada en una alegada vulneración de las garantías de imparcialidad judicial y del debido proceso.

El escrito resultante levantaba ampollas ya en su forma. Cuarenta páginas de extensión inusual para este tipo de incidente procesal, estructuradas mediante enumeraciones y viñetas que delataban inequívocamente su origen en un sistema de generación automática de texto. El fondo era más problemático aún: los juristas que lo examinaron a posteriori identificaron referencias normativas incorrectas y, lo que resulta más grave desde el punto de vista de la integridad procesal, citas de resoluciones judiciales que sencillamente no existen.

Hay que reseñar que el fenómeno que en la literatura técnica sobre grandes modelos de lenguaje se denomina "alucinación" —la tendencia de estos sistemas a generar información plausible pero completamente fabricada— había contaminado un escrito presentado ante un órgano jurisdiccional. La doctrina invocada era, en parte, fantasma. Y sin embargo, el tribunal no lo desechó de plano.

III. La recusación prospera pese a sus defectos

La explicación más plausible de este aparente milagro procesal no reside en la solidez argumental del escrito, sino en la naturaleza misma del incidente de recusación en el ordenamiento alemán. La mera formalización de una solicitud de abstención activa un mecanismo institucional reglado que obliga al órgano a pronunciarse, con independencia de la calidad técnica de los argumentos que la sustenten.

Hinz, sin saberlo o sabiéndolo, había acertado con el instrumento procesal correcto. La recusación no exige, como podría exigir un recurso de apelación o una petición de nulidad de actuaciones, una fundamentación jurídica impecable. Basta con alegar una causa que, de ser cierta, justificaría la separación del juez. El tribunal examinó la impugnación, comprobó que formalmente cumplía los requisitos —presentada en plazo, dirigida al órgano competente, con una exposición mínima de los hechos en que se fundaba— y decidió apartar al magistrado.

Lo anterior me sugiere que la eficacia del escrito no se debió a su calidad, sino a la combinación de dos factores: la estructura procesal alemana, que protege el derecho de recusación incluso cuando es ejercitado por un lego, y la renuencia de los tribunales a desestimar sin más una impugnación que, por mal fundamentada que estuviera, planteaba una duda razonable sobre la imparcialidad del juzgador.

IV. El principio de oportunidad como bisagra decisiva

Con el juez apartado, la causa quedó en un impasse procesal. El nuevo magistrado designado para sustituir al recusado tendría que ponerse al día de las actuaciones, lo que suponía una demora adicional en un procedimiento ya de por sí alargado por la insistencia de Hinz en su inocencia. Fue entonces cuando entró en juego el Opportunitätsprinzip, el principio de oportunidad consolidado en el derecho procesal penal alemán.

Este principio faculta a la fiscalía para archivar causas cuando la persecución penal resulta desproporcionada en relación con la entidad del ilícito y el interés público comprometido. No tiene un equivalente exacto en el sistema español, aunque puede encontrarse algún paralelo en el principio de intervención mínima o en la facultad de archivo por insignificancia en ciertos delitos leves.

La fiscalía alemana evaluó el caso: 242,34 euros supuestamente defraudados, un acusado sin antecedentes, un proceso que se alargaba sin perspectivas de resolución inmediata y, sobre todo, un juez recusado que obligaba a recomenzar parcialmente la instrucción. La decisión fue archivar. Sin multa. Sin condena. Sin antecedentes.

Entiendo que aquí reside la verdadera genialidad de la estrategia de Hinz, aunque probablemente ni él mismo fuera consciente de ella. No ganó el caso porque su escrito de recusación fuera brillante —no lo era en absoluto—, sino porque consiguió paralizar el procedimiento el tiempo suficiente para que la fiscalía aplicara el sentido común. La inteligencia artificial le ayudó a redactar, pero fue la estructura del proceso penal alemán la que le dio la victoria.

V. El malestar entre los profesionales del derecho

La victoria de Hinz ha tenido una recepción fría entre los profesionales del derecho alemanes. Los abogados consultados por la revista Der Spiegel, que destapó el caso, advierten de que la penetración de escritos generados por inteligencia artificial en los procedimientos judiciales es ya una realidad cotidiana en Alemania, con una tendencia claramente ascendente.

El impacto más inmediato es de naturaleza práctica. Cada documento de origen artificial exige un proceso de verificación exhaustiva —contraste de citas, comprobación de referencias normativas, detección de argumentos basados en jurisprudencia inexistente— que incrementa sensiblemente la carga de trabajo de los letrados sin que esa labor adicional siempre se traduzca en una retribución equivalente. Los abogados se ven ahora obligados a revisar no solo el contenido de los escritos contrarios, sino también la fiabilidad de las fuentes que citan.

Pero la inquietud más profunda trasciende lo deontológico o lo económico. A medida que los modelos de lenguaje de última generación perfeccionan su capacidad para reproducir con fidelidad creciente el estilo forense —la sintaxis de los escritos de parte, la cadencia argumentativa de los recursos, el aparato de citas de una demanda bien construida—, los órganos jurisdiccionales se enfrentan a un problema de verificación sin precedentes.

VI. El problema de la alucinación jurisprudencial

El caso Hinz ha puesto de manifiesto un fenómeno que los tecnólogos conocen bien pero que los juristas empiezan ahora a descubrir con estupor: los grandes modelos de lenguaje no distinguen entre lo verdadero y lo verosímil. Cuando se les pide que citen una sentencia del Tribunal Supremo alemán sobre un extremo concreto, no acuden a una base de datos jurisprudencial, sino que generan una cita que estadísticamente se parece a las citas que han visto en sus datos de entrenamiento.

El resultado puede ser una referencia perfectamente formateada —tribunal, fecha, número de recurso, fundamento jurídico— pero correspondiente a una resolución que jamás existió. En el ámbito académico, esto ya ha provocado retractaciones de artículos y suspensiones de estudiantes. En el ámbito judicial, las consecuencias pueden ser mucho más graves.

Ello me obliga a deducir que los tribunales van a necesitar desarrollar nuevos protocolos de verificación. No basta con leer un escrito y evaluar su coherencia interna. Habrá que comprobar cada cita, cada referencia normativa, cada invocación de doctrina jurisprudencial. Y eso, en un contexto de sobrecarga de trabajo como el que padecen la mayoría de los órganos judiciales europeos, resulta sencillamente inviable con los recursos actuales.

VII. La cutrez del método como elemento paradójico

Hay un aspecto del caso que resulta especialmente llamativo y que justifica el adjetivo "cutre" en el título de este artículo. Hinz no utilizó ningún modelo de inteligencia artificial de última generación, de los que cuestan miles de euros al mes. Empleó un chatbot de acceso gratuito, de esos que cualquier ciudadano puede consultar desde su teléfono móvil. El escrito resultante, según los expertos que lo examinaron, era tosco, mal estructurado y con errores de bulto que cualquier abogado de primera instancia habría detectado en una primera lectura.

Y sin embargo, funcionó.

La paradoja es evidente: cuanto más cutre era el método, más sorprendente resulta que prosperara. Si Hinz hubiera contratado a un abogado experimentado, probablemente este le habría aconsejado no presentar una recusación con fundamentos tan endebles. El algoritmo, en cambio, no tiene sentido del ridículo ni percepción del riesgo. Generó un escrito sin preguntarse si era convincente, simplemente porque así se lo pidieron. Y el tribunal, acogiendo la recusación, validó un método que ningún letrado habría recomendado.

Considero que este elemento de lo imprevisto, de lo que no debería haber funcionado pero funcionó, es lo que confiere al caso su carácter de anécdota jurídica fascinante. No todos los días un ciudadano de a pie vence al sistema utilizando una herramienta que el sistema aún no sabe muy bien cómo clasificar.

VIII. El impacto en la confianza en el sistema judicial

Más allá de la anécdota, el caso Hinz plantea una cuestión de fondo sobre la confianza en el sistema judicial. Si un escrito generado por un algoritmo, con citas inventadas y argumentos espurios, logra apartar a un juez y provocar el archivo de un procedimiento, ¿qué garantías tiene el justiciable de que su adversario no empleará la misma técnica contra él?

La respuesta provisional que ofrecen los expertos es que, por ahora, la eficacia del método depende en gran medida de que la parte contraria no lo detecte. En el caso Hinz, la acusación no impugnó la recusación con la contundencia que cabría esperar. Quizá porque el fiscal no examinó con detenimiento las citas jurisprudenciales. Quizá porque consideró que el escrito, por mal construido, no merecía ni siquiera la molestia de rebatirlo. En cualquier caso, la falta de reacción permitió que la recusación siguiera su curso.

Hay que reseñar que este escenario no se repetirá indefinidamente. A medida que los profesionales del derecho tomen conciencia del fenómeno, intensificarán sus controles. Las fiscalías desarrollarán probablemente sus propios sistemas de detección de escritos generados por inteligencia artificial, y los jueces comenzarán a exigir la acreditación de las fuentes jurisprudenciales invocadas. Pero mientras ese aprendizaje institucional se produce, el sistema permanece vulnerable.

IX. La cuestión no resuelta: ¿quién responde del error?

La pregunta que nadie sabe todavía responder con certeza es si los jueces podrán seguir evaluando con fiabilidad si el justiciable que actúa en autodefensa comprende realmente los argumentos que presenta, o si se ha limitado a trasladar al expediente el resultado de un sistema que no asume responsabilidad alguna por lo que genera.

En el caso Hinz, el propio interesado no tenía conocimientos jurídicos suficientes para verificar las citas que el chatbot había incluido en su escrito. Firmó la recusación confiando en que el algoritmo le ofrecía información correcta, cuando en realidad le estaba proporcionando, en parte, información inventada. Si el tribunal hubiera detectado las falsedades, ¿habría podido sancionar a Hinz por presentar documentos con citas falsas? ¿O habría considerado que actuó de buena fe, engañado por la herramienta?

Entiendo que nos encontramos ante un vacío normativo que los legisladores van a tener que abordar pronto. La ley procesal alemana, como la española, exige que los escritos presentados por las partes sean veraces. Pero no contempla el supuesto de que la falsedad sea involuntaria y provenga de una herramienta de inteligencia artificial. Atribuir al litigante la responsabilidad por las alucinaciones de un algoritmo puede resultar desproporcionado. Eximirle de ella puede abrir la puerta a abusos.

X. Reflexión final sobre la justicia en la era de los algoritmos

El caso de David Hinz no resuelve ninguna de las grandes preguntas que la inteligencia artificial plantea al derecho procesal. La plantea con una urgencia que el sistema judicial europeo difícilmente podrá seguir ignorando. Lo que empezó como una anécdota curiosa —un ciudadano que recusa a un juez con un escrito mal hecho y gana— es en realidad la señal de alarma de una transformación profunda.

Porque si un algoritmo gratuito y cutre ha sido capaz de generar un escrito que, pese a sus defectos, logró su objetivo procesal, ¿qué ocurrirá cuando los modelos de lenguaje sean más avanzados, cuando las citas inventadas sean indistinguibles de las reales, cuando la estructura argumentativa sea impecable? La respuesta es inquietante: los tribunales se enfrentarán a un aluvión de escritos técnicamente impecables pero materialmente falsos, y carecerán de los medios para verificar cada cita, cada referencia, cada doctrina invocada.

La recusación cutre pero eficaz de Leipzig es un aviso. No nos dice cómo resolver el problema, pero nos obliga a reconocer que el problema existe y que no se va a resolver por sí solo. Los jueces tendrán que aprender a desconfiar de lo que parece demasiado perfecto. Los legisladores tendrán que actualizar los códigos procesales. Y los litigantes sin abogado, como David Hinz, seguirán encontrando formas inesperadas de ganar sus casos, aunque sea con la ayuda de un algoritmo que no sabe distinguir lo verdadero de lo verosímil. La justicia, como tantas otras instituciones, tendrá que adaptarse a una nueva realidad o quedar atrás.