⚖️ Los jueces que ya usan IA (y los que se arrepienten después)
La inteligencia artificial ya ha llegado a los tribunales. Lo que comenzó con abogados usando modelos para redactar documentos ahora incluye a jueces que experimentan con estas herramientas.
Algunos avances son prometedores, pero otros han acabado en fallos judiciales llenos de errores y vergüenza pública.
👩⚖️De abogados sancionados a jueces que usan la IA
El sistema judicial estadounidense y europeo ha demostrado hasta qué punto los humanos pueden confiar demasiado en la IA. Grandes bufetes ya han presentado escritos con citas falsas y jurisprudencia inventada, con casos famosos en Nueva York o Italia. Incluso un profesor de Stanford, experto en IA, entregó un testimonio lleno de errores y “alucinaciones” sobre Deep Fakes. Los jueces tuvieron que intervenir, corregir y sancionar, dejando claro que la confianza ciega en la tecnología puede costar caro.
Ahora, sin embargo, son los propios jueces quienes están probando IA generativa. Algunos la usan para redactar órdenes o resumir casos. Otros ya han cometido errores: en Nueva Jersey, un juez tuvo que corregir una orden con fallos generados por IA; en Misisipi, otro se negó a explicar por qué su resolución contenía errores de ese tipo. Todo esto muestra que el límite entre ayuda y delegación sigue siendo borroso y que la tecnología se usa mucho más de lo que se quiere reconocer. Recordemos que en EEUU el 45% de los graduados superiores ya utilizan la IA generativa en su trabajo.
⚙️Dónde trazar los límites
Según recoge el MIT Technology Review, el juez federal Xavier Rodríguez, de Texas, ha visto tanto lo mejor como lo peor de la IA. En un caso de su tribunal, dos partes sin abogado presentaron escritos con citas falsas producidas por modelos generativos. Decidió no sancionarlos, ya que se representaban a sí mismos, y recordando que los abogados “ya cometían errores antes de la IA”. Él mismo usa herramientas generativas para tareas acotadas: resumir documentos, crear cronologías, preparar preguntas sobre argumentaciones y escritos o identificar actores clave. Aun así, considera que hay fronteras que nunca deben cruzarse, como usar la IA para decidir sobre la libertad individual de las personas o las sanciones económicas.
La investigadora Erin Solovey, del Worcester Polytechnic Institute, advierte que el límite entre tareas automáticas y las que requieren criterio humano depende del contexto. Algunas funciones, como resumir documentos legales complejos o establecer una secuencia de hechos, siguen siendo un reto para los modelos actuales. Por eso, el Sedona Conference publicó en febrero una serie de directrices: la IA puede ayudar en la investigación o en la preparación de audiencias, pero debe ser supervisada siempre y nunca tomar decisiones finales.
(imágenes generadas con IA - Midjourney)
⚖️ El riesgo del sesgo, amplificado
El entusiasmo por la IA judicial no es unánime. Expertos en ética legal advierten que entrenar modelos con jurisprudencia pasada puede reproducir los mismos sesgos de género, raza o clase social que ya existen en los sistemas judiciales. Si un modelo aprende de fallos injustos, su “razonamiento” también lo será. Como recuerda la profesora Mireille Hildebrandt, de la Vrije Universiteit Brussel, “automatizar la justicia sin rediseñarla puede convertir errores estructurales en algoritmos permanentes”.
Por otra parte, en Corea del Sur, un tribunal piloto usa IA para redactar borradores de sentencias que luego revisan los jueces. En Colombia, magistrados ya citan a ChatGPT en resoluciones sobre salud y educación. Y en Estonia, el gobierno lleva años desarrollando KrattAI, un sistema que resolvería disputas menores sin intervención humana. Todo esto plantea una pregunta inquietante: ¿qué pasa con la autoridad moral de una decisión judicial si parte del razonamiento no es humano?
La promesa (y el peligro) de una justicia más eficiente
Los defensores del uso de IA en tribunales aseguran que puede aliviar un sistema lento, costoso e inconsistente. Si una IA analiza miles de páginas en segundos, el ciudadano podría recibir decisiones más rápidas y claras. Pero el límite entre asistencia y delegación es difuso. Hoy, un juez usa IA para redactar un borrador; mañana, podría dejarle decidir una multa. La eficiencia sin control puede transformar la justicia en una cadena de producción algorítmica.
Una crisis en ciernes
También se teme que los errores de la IA en fallos judiciales puedan convertirse en una crisis de legitimidad. Cuando un juez se equivoca, ese error crea precedente y afecta a derechos reales.
Buenas prácticas para jueces (y para todos)
1. Mantener la autoría humana. La IA puede asistir, no decidir.
2. Verificar todo. Revisar manualmente las citas y las fuentes.
3. Delimitar tareas. Resúmenes y apoyo documental sí; decisiones sustantivas no.
4. Registrar y transparentar. Documentar cuándo y cómo se usa IA.
5. Proteger los datos. No introducir información sensible sin garantías.
6. Formar y revisar. Actualizar protocolos y realizar simulacros de error.
Recursos y lecturas
MIT Technology Review: “Meet the early adopter judges using AI”.
Sedona Conference: principios para el uso judicial de IA generativa.
Worcester Polytechnic Institute: investigaciones sobre IA y tribunales.
FAQ
¿Puede una IA dictar una sentencia? No. Puede redactar borradores, pero la decisión final es humana. O debería ser humana.
¿Por qué usar IA si se equivoca? Porque ahorra tiempo en tareas rutinarias, siempre bajo revisión.
¿Qué pasa si un juez se equivoca por usar IA? El impacto es grave: puede modificar jurisprudencia y derechos. Y causar una crisis de legitimidad.
¿Cómo evitar errores? Definiendo límites, verificando resultados y usando herramientas legales fiables.
¿El ciudadano sabrá si su caso pasó por IA? Solo si los tribunales adoptan normas de transparencia.
Leí hace unos meses "Artificial Justice" de Tatiana Dancy, y como comentáis el factor humano sigue siendo importante para evitar aumentar sesgos y errores que deriven en algo irreparable.