Fallos inventados llegan a los escritos judiciales
La Corte Suprema de Corea del Sur publicó su primera encuesta a jueces sobre citas jurídicas falsas relacionadas con la inteligencia artificial. Según los resultados, 196 jueces que atienden casos civiles, familiares y administrativos, el 80,7 % de quienes respondieron a esa pregunta, habían encontrado referencias a precedentes inexistentes. Algunos escritos judiciales incluían fallos inventados presentados como si fueran decisiones reales de la Corte Suprema.
Contenido
- Fallos inventados llegan a los escritos judiciales
- Qué muestran las cifras de la encuesta
- Cómo aparecieron las citas falsas
- Abogados y litigantes presentaron errores
- ¿Quién paga por verificar un caso inventado?
- Cuatro medidas reciben el respaldo de la mayoría
- Próximos pasos: cambios legales y orientación en línea
- Puntos clave
La encuesta, realizada del 6 al 16 de octubre y publicada el 2 de noviembre, recibió respuestas de 360 jueces de tribunales de todo el país. También reveló que tanto abogados como personas que llevaban sus propios casos habían presentado documentos con referencias jurídicas falsas.
La Administración Nacional de Tribunales, el órgano administrativo de la Corte Suprema, prevé consultar al Ministerio de Justicia y a otras entidades sobre posibles cambios en la Ley de Procedimiento Civil y la Ley de Procedimiento Penal. Esas conversaciones abordarían las bases legales para imponer multas y otras medidas ante la presentación de documentos inexactos.
Los jueces expresaron un amplio respaldo a la adopción de medidas: el 91,7 % dijo que eran necesarias medidas institucionales, incluido un 64,8 % que las consideró muy necesarias. La administración señaló que verificar citas falsas resta tiempo a los jueces y a las partes contrarias, genera costos y puede retrasar el derecho de las personas a un juicio oportuno.
Qué muestran las cifras de la encuesta
El problema más común era la referencia a un fallo inexistente. Los jueces también encontraron citas de decisiones reales cuyo contenido se había modificado o cuyo sentido se había presentado de manera engañosa. Un precedente judicial es una decisión anterior que se cita para respaldar un argumento sobre cómo debe aplicarse la ley.
La encuesta permitió que los participantes seleccionaran más de un tipo de cita falsa. Estos fueron los resultados entre los jueces de asuntos civiles, familiares y administrativos:
- 196 jueces, o el 80,7 %, habían encontrado citas de precedentes inexistentes.
- 159 jueces, o el 65,4 %, habían encontrado versiones falsas de precedentes.
- 41 jueces, o el 16,9 %, habían encontrado leyes y reglamentos falsos o inexistentes.
- 10 jueces, o el 4,1 %, habían encontrado artículos académicos y otras publicaciones falsos o inexistentes.
Los porcentajes corresponden al grupo que respondió a cada pregunta de la encuesta, en la que participaron 360 jueces en total. Los jueces podían señalar varios tipos de errores, por lo que las categorías se superponen.
Los precedentes inexistentes fueron reportados por 37 jueces más que las versiones falsas de precedentes: 196 frente a 159. En conjunto, estos resultados muestran que la verificación consta de dos partes: localizar el fallo citado y leerlo para confirmar que respalda el argumento presentado.
Cómo aparecieron las citas falsas
Los jueces describieron escritos que contenían documentos generados con IA y que copiaban el formato de los fallos de la Corte Suprema. Otros documentos combinaban un argumento jurídico poco conocido con un número de caso de la Corte Suprema que no aparecía en las búsquedas.
Por lo general, el número de un caso ayuda a localizar un proceso o fallo específico. Si esa referencia no lleva a ningún resultado, el juez o la parte contraria debe dedicar más tiempo a tratar de identificar la decisión en la que se basa el argumento.
Algunos documentos se referían a fallos reales, pero alteraban lo que había decidido el tribunal o utilizaban la decisión de una manera que tergiversaba su sentido. Comprobar únicamente el número del caso no resolvería el problema. También habría que comparar el argumento del escrito con el fallo real.
Otros documentos incluían texto de conversaciones con una herramienta de IA o expresiones relacionadas con la estrategia del litigio. Esos pasajes mostraban a los jueces que se había utilizado IA para preparar los documentos.
La encuesta examinó las preocupaciones sobre las alucinaciones de la IA, término que describe información incorrecta presentada como si fuera verdadera. En un documento judicial, un caso inventado puede parecer convincente porque incluye lenguaje jurídico conocido, un número de caso y el formato de un fallo.
Abogados y litigantes presentaron errores
Al preguntar quién había presentado precedentes falsos u otro material inexacto, 164 jueces, o el 69,5 % de quienes respondieron a esa pregunta, señalaron a las propias partes. Otros 136 jueces, o el 57,6 %, señalaron a abogados que actuaban como representantes o defensores.
La cifra de 164 se refiere a jueces que encontraron citas falsas presentadas por litigantes. En toda la encuesta, los jueces describieron material inexacto que habían recibido durante los procesos.
Los grupos de respuestas se superponen porque un juez podía encontrar citas falsas presentadas tanto por una persona que llevaba su propio caso como por un abogado. Las cifras miden las experiencias reportadas por los jueces; la encuesta se centró en su exposición al problema, no en contar todos los escritos defectuosos.
La participación de abogados da especial importancia a la propuesta de exigir la verificación. La representación profesional ya supone que una persona con formación jurídica interviene entre el argumento de un cliente y el tribunal. Sin embargo, más de la mitad de quienes respondieron a la pregunta habían encontrado material inexacto presentado por abogados.
Las personas que llevan sus propios casos enfrentan otro desafío práctico. Deben preparar argumentos y responder a la otra parte sin la ayuda de un abogado. La administración advirtió que a estos litigantes puede resultarles especialmente difícil identificar y cuestionar un fallo inventado o una versión engañosa de uno real.
¿Quién paga por verificar un caso inventado?
La Administración Nacional de Tribunales señaló que las citas falsas pueden trasladar trabajo adicional a la parte contraria. Quien recibe un documento con un precedente desconocido quizá tenga que buscarlo, comprobar el contenido citado y preparar una respuesta que explique el error.
Por lo tanto, una cita falsa puede generar costos que van más allá del documento en el que aparece. Una parte con representación legal podría necesitar más trabajo jurídico; una persona sin abogado debe dedicar su propio tiempo a investigar una referencia que quizá nunca lleve a un fallo real.
Los jueces enfrentan una carga similar. El tiempo dedicado a comprobar si existe una decisión o si su contenido fue modificado se suma al tiempo que el tribunal necesita para examinar la disputa. La administración relacionó ese trabajo adicional con procesos más lentos y demoras en el acceso a la justicia.
La preocupación es especialmente concreta cuando una referencia falsa parece una decisión autorizada de la Corte Suprema. Esa aparente autoridad da a la parte contraria motivos para investigarla con cuidado, mientras que el tribunal debe resolver el problema de la cita antes de evaluar el argumento jurídico que se basa en ella.
Cuatro medidas reciben el respaldo de la mayoría
Los jueces respaldaron varias respuestas posibles, y las opciones con mayor apoyo obtuvieron resultados muy similares. La creación de bases legales para imponer multas recibió el respaldo de 215 jueces, o el 61,4 %. La obligación de verificar los precedentes citados y otros materiales tuvo el apoyo de 214, o el 61,1 %.
La obligación de informar sobre el uso de IA recibió el respaldo de 212 jueces, o el 60,6 %. Las sanciones a abogados, incluidas las remisiones para que se inicien procedimientos disciplinarios, contaron con el apoyo de 194, o el 55,4 %.
Solo hubo tres jueces de diferencia entre el apoyo a una base legal para imponer multas y el respaldo a la obligación de informar sobre el uso de IA: 215 frente a 212. La similitud de las cifras sugiere que los participantes preferían varias maneras de abordar el problema, en lugar de concentrarse en una sola medida.
Cada propuesta aborda una etapa distinta de la preparación y presentación de un documento judicial. La verificación exigiría comprobar el material jurídico. La declaración del uso de IA informaría al tribunal de que se utilizó esa tecnología. Las multas crearían una consecuencia económica en el marco legal propuesto, mientras que las remisiones disciplinarias someterían la conducta de un abogado al procedimiento profesional correspondiente.
Entre las conductas que podrían dar lugar a remisiones disciplinarias se mencionaron las citas falsas reiteradas. Las propuestas de la administración combinan la responsabilidad por la exactitud de los escritos con consecuencias cuando llega material inexacto a los tribunales.
Próximos pasos: cambios legales y orientación en línea
La Administración Nacional de Tribunales prevé debatir enmiendas a la Ley de Procedimiento Civil y la Ley de Procedimiento Penal con las entidades pertinentes, incluido el Ministerio de Justicia, y presentar sus observaciones a la Asamblea Nacional. Las enmiendas propuestas establecerían bases legales para medidas como las multas.
La secuencia descrita por la administración es la siguiente:
- Del 6 al 16 de octubre: jueces de tribunales de todo el país participaron en la encuesta.
- 2 de noviembre: se publicaron los resultados de la encuesta.
- Próximos pasos: consultas con las entidades pertinentes y presentación de las observaciones de la administración a la Asamblea Nacional sobre cambios legislativos.
No se anunció un calendario para las consultas, una votación legislativa ni la introducción de multas. Tampoco se han decidido los montos de las posibles multas ni las condiciones detalladas para imponerlas.
La administración estudia publicar orientaciones sobre el uso de IA en el sitio web de litigios electrónicos. Así, los abogados y litigantes encontrarían recomendaciones en la plataforma donde ya realizan trámites judiciales, con el objetivo de ayudarles a comprobar la exactitud del material preparado con IA.
Los resultados de la encuesta apuntan a una prioridad práctica para esas orientaciones: comprobar tanto la existencia como el sentido de las referencias. Un número de caso real permite localizar una decisión, mientras que leerla permite establecer qué dijo realmente el tribunal. Los ejemplos encontrados por los jueces muestran por qué ambas comprobaciones son importantes.
Puntos clave
- La primera encuesta de la Corte Suprema sobre citas falsas relacionadas con la IA recibió respuestas de 360 jueces.
- Entre los jueces de asuntos civiles, familiares y administrativos que respondieron a la pregunta, el 80,7 % había encontrado citas de precedentes inexistentes.
- Los jueces describieron fallos inventados de la Corte Suprema, números de caso imposibles de localizar, decisiones alteradas y textos de conversaciones con IA incluidos en escritos.
- Tanto los propios litigantes como los abogados que representaban a las partes presentaron material falso.
- El 91,7 % de quienes respondieron respaldó la adopción de medidas institucionales, y la mayoría apoyó las multas, la obligación de verificar, la declaración del uso de IA y las sanciones a abogados.
- La Administración Nacional de Tribunales prevé realizar consultas sobre cambios en las leyes procesales y estudia publicar orientaciones en el sitio web de litigios electrónicos.
