El criterio humano sigue siendo esencial mientras los tribunales evalúan la IA
La inteligencia artificial podría ayudar a los tribunales de la sharía de Brunéi a gestionar casos, investigar cuestiones jurídicas y prestar servicios con mayor rapidez, pero los jueces deben conservar la autoridad sobre cada decisión, afirmó el ministro de la Oficina del Primer Ministro (Seguridad y Derecho), Dato Seri Setia Awang Haji Sufian bin Haji Sabtu, durante una conferencia jurídica regional en Gadong.
Contenido
- El criterio humano sigue siendo esencial mientras los tribunales evalúan la IA
- ¿Qué puede aportar la IA al trabajo de los tribunales?
- Por qué la precisión y la privacidad son motivos de preocupación
- Las políticas de Brunéi ofrecen un punto de partida
- Es posible que las normas jurídicas deban actualizarse
- La cooperación regional y la capacitación, en la agenda
- La confianza pública depende de un uso responsable
- Puntos clave
En la inauguración de la cuarta Conferencia Judicial y Jurídica de la Sharía de Nusantara 2026, el ministro dijo que la IA debe considerarse una herramienta de apoyo, no un sustituto del criterio humano. El personal responsable de los tribunales debe revisar y verificar los resultados, como resúmenes de casos, referencias jurídicas, traducciones y borradores de documentos, antes de utilizarlos, especialmente cuando están en juego los derechos de las personas.
La responsabilidad por las decisiones judiciales, dijo, debe seguir recayendo en las personas. La valoración judicial, el ijtihad y los fallos definitivos corresponden a los jueces. El ijtihad se refiere a la interpretación razonada que realizan eruditos o jueces cualificados al aplicar principios jurídicos islámicos a cuestiones que requieren un juicio ponderado.
La conferencia, celebrada por primera vez en Brunéi, en el hotel The Rizqun International, reúne a delegados y ponentes de Brunéi, Malasia, Indonesia y Singapur. Las ediciones anteriores fueron organizadas por Malasia en 2016, 2020 y 2023. Los participantes debaten sobre la práctica jurídica y el futuro desarrollo de la justicia conforme a la sharía en la región.
El atractivo de la IA para los tribunales es práctico. Puede ayudar al personal a organizar expedientes, encontrar material pertinente y realizar tareas administrativas rutinarias, lo que podría reducir las demoras y facilitar el acceso a los servicios. Los tribunales de la sharía de Brunéi ya han avanzado hacia los servicios digitales mediante el sistema e-Syariah. La IA podría aprovechar esa infraestructura digital, siempre que su uso esté regulado y supervisado.
¿Qué puede aportar la IA al trabajo de los tribunales?
En el ámbito jurídico, las herramientas de IA pueden procesar grandes volúmenes de texto y generar resúmenes, traducciones o borradores de respuestas. Si se utilizan con cuidado, estas funciones pueden ayudar al personal judicial a localizar información y gestionar la carga de trabajo. Sin embargo, no demuestran que una reclamación jurídica sea correcta ni que un documento sea auténtico. Una respuesta fluida también puede contener errores.
Esta distinción es importante en los tribunales, donde una cita errónea o un resumen incompleto podrían afectar la comprensión de un asunto. El ministro advirtió que los sistemas de IA pueden producir información convincente pero inexacta, incluidas referencias a casos o fuentes inexistentes. Sigue siendo necesario verificarla con fuentes jurídicas oficiales.
La rapidez tampoco elimina la necesidad del razonamiento jurídico. Un juez debe ponderar los hechos, la ley aplicable y los argumentos presentados por las partes. Un sistema de IA puede ayudar a gestionar información, pero no puede asumir la responsabilidad por las consecuencias de un fallo. Por tanto, la revisión humana es más que un trámite final: es el momento en que un funcionario responsable comprueba si el material generado es fiable y adecuado.
Por qué la precisión y la privacidad son motivos de preocupación
Los asuntos que se tramitan ante los tribunales de la sharía, en particular los casos de familia, pueden contener datos muy personales. La información sobre relaciones, hijos, finanzas o disputas privadas requiere una protección cuidadosa. Introducir esos expedientes en un servicio de IA sin garantías adecuadas podría exponer la información a usos ajenos a los previstos por el tribunal. Las políticas judiciales deberán especificar qué datos pueden procesar las herramientas, quién puede acceder a ellos y durante cuánto tiempo se conservan.
El ministro también destacó el contenido falsificado, incluidos audios, imágenes y videos manipulados con tecnologías de ultrafalsificación, conocidas como deepfakes. Se trata de contenido audiovisual generado o alterado con IA para que parezca que una persona dijo o hizo algo que en realidad no dijo ni hizo. Su creciente disponibilidad puede dificultar la evaluación de la autenticidad de material digital, especialmente cuando se presenta una grabación como prueba.
El ministro de Brunéi también señaló el uso indebido de tecnologías similares en estafas en línea y delitos transfronterizos. Para los tribunales, el desafío no consiste solo en determinar si un archivo parece convincente. Puede ser necesario establecer de dónde procede, si fue alterado y qué otras pruebas lo respaldan. Estas cuestiones se refieren a la autenticación, el proceso de demostrar que una prueba es lo que afirma quien la presenta.
Las pruebas digitales no son automáticamente poco fiables, del mismo modo que un video o un documento no son automáticamente auténticos. Los tribunales necesitan procedimientos que permitan a las partes impugnar el material y a los jueces evaluar su valor probatorio. Quizá sea necesario revisar las normas vigentes para garantizar que contemplen el contenido generado o manipulado con IA, además de otras formas de prueba digital.
Las políticas de Brunéi ofrecen un punto de partida
Brunéi ha publicado directrices nacionales para el uso responsable de la IA. La Autoridad de la Industria de las Tecnologías de la Información y las Comunicaciones de Brunéi Darusalam publicó en 2025 las Directrices de Gobernanza y Ética de la IA de Brunéi Darusalam. Una segunda edición, publicada este año, incluye orientaciones sobre la IA generativa, un tipo de sistema que produce nuevos textos, imágenes u otros contenidos en respuesta a instrucciones.
La Orden de Protección de Datos Personales de 2025 también refuerza la protección de la información personal. El ministro dijo que los tribunales civiles publicaron directrices sobre el uso de la IA para los funcionarios judiciales en 2025, mientras que se están elaborando orientaciones para los usuarios de los tribunales. Instó a compartir la experiencia de los tribunales civiles y de la sharía y señaló que otros países de la región están impulsando iniciativas relacionadas.
Las directrices nacionales ofrecen una base, pero los tribunales también necesitan normas adaptadas al trabajo judicial. Unos estándares claros podrían especificar qué tareas pueden realizarse con IA, qué nivel de revisión humana se exige, cómo debe manejarse la información confidencial de los casos y cómo deben notificarse los errores o usos indebidos. También deben ser compatibles con los principios jurídicos islámicos y los marcos nacionales y regionales aplicables.
Es posible que las normas jurídicas deban actualizarse
El ministro pidió examinar si las leyes vigentes de Brunéi sobre procedimientos y pruebas en los tribunales de la sharía abarcan adecuadamente las pruebas digitales y el contenido generado o manipulado con IA. Las normas procesales regulan cómo avanzan los casos en los tribunales, mientras que las normas sobre pruebas determinan qué material puede presentarse y cómo se evalúa.
Revisar esas normas no significa que las pruebas de IA deban aceptarse o excluirse automáticamente. Significa establecer una base sólida para gestionarlas: cómo comprobar su autenticidad, qué información deben recibir las partes y cómo pueden distinguir los jueces el material fiable del contenido falsificado o alterado.
Este trabajo requerirá coordinación entre los tribunales de la sharía, la Fiscalía General, el Departamento del Muftí del Estado y otros organismos pertinentes. El ministro vinculó esta cooperación con la Visión 2035 de Brunéi y los valores de la Monarquía Islámica Malaya del país. La labor conjunta de las instituciones jurídicas, religiosas y técnicas puede ayudar a garantizar que las prácticas judiciales sean viables y coherentes con los marcos que rigen Brunéi.
La cooperación regional y la capacitación, en la agenda
La conferencia de Nusantara ofrece a funcionarios de cuatro países un espacio para comparar enfoques. Las diferencias entre los sistemas jurídicos hacen que las normas de un país no puedan trasladarse sin más a otro. Aun así, los participantes pueden debatir garantías comunes, compartir experiencias sobre el uso de la IA e identificar ámbitos en los que la cooperación sería útil.
El ministro expresó su esperanza de que la reunión dé lugar a recomendaciones prácticas, incluidos principios comunes para el uso ético de la IA en la justicia conforme a la sharía. También pidió una mayor cooperación en materia de capacitación e intercambio de conocimientos, y señaló como una de las prioridades la alfabetización en IA para jueces, secretarios judiciales y otros funcionarios de los tribunales.
Esa capacitación ayudaría al personal judicial a reconocer cuándo un sistema puede no ser fiable, verificar las citas y los resúmenes generados y proteger la información confidencial. También permitiría dejar claro que la responsabilidad recae en el funcionario que utiliza un resultado generado por IA. Sin esas competencias y garantías, una tramitación más rápida podría ir en detrimento de la precisión o la confianza pública.
La confianza pública depende de un uso responsable
El debate en Brunéi refleja un desafío más amplio para los tribunales que adoptan nuevas tecnologías: aumentar la eficiencia de los servicios sin debilitar los principios que otorgan legitimidad a las decisiones judiciales. La IA puede apoyar tareas administrativas y de investigación, pero la autoridad jurídica sigue correspondiendo a jueces humanos, capaces de explicar sus decisiones y responder por ellas.
Para la judicatura de la sharía, ese equilibrio incluye proteger la información privada, examinar las pruebas digitales y garantizar que la tecnología se utilice de manera coherente con la ley islámica. La cooperación regional podría contribuir a desarrollar estándares prácticos, mientras que las leyes e instituciones locales seguirían siendo responsables de aplicarlos.
Puntos clave
- Los tribunales de la sharía de Brunéi podrían utilizar la IA para apoyar la gestión de casos, la investigación jurídica y los servicios públicos, pero no para sustituir a los jueces.
- El personal responsable debe revisar y verificar los resúmenes, las citas, las traducciones y los borradores generados con IA.
- Entre las principales preocupaciones figuran las referencias jurídicas inventadas, la exposición de información confidencial de casos de familia y las pruebas falsas creadas con deepfakes.
- Las directrices de Brunéi sobre gobernanza de la IA y la Orden de Protección de Datos Personales ofrecen una base normativa, mientras que quizá sea necesario revisar las leyes sobre pruebas y procedimientos en los tribunales de la sharía.
- La conferencia regional busca establecer principios prácticos y reforzar la capacitación y la cooperación entre los funcionarios de los tribunales de la sharía.
