SCBA: proyecto de REGLAMENTO PARA EL DESARROLLO Y USO RESPONSABLE DE LA IA

 

La SCBA mediante Res. SC 1719/26 y Res. RP 747/26 ha abierto un proceso de consulta participativa para la elaboración de un Reglamenteo para el desarrollo y uso responsable de la IA (https://www.scba.gov.ar/institucional/nota.asp?id=59397&veradjuntos=no)

El texto respecto del que se pueden formular sugerencias y observaciones es el siguiente:

 

ANEXO I: Proyecto de Reglamento para el desarrollo y uso responsable de la Inteligencia Artificial

 

CAPITULO I. Disposiciones generales.

Artículo 1: Objeto. El presente reglamento tiene por objeto establecer los principios, normas, criterios y pautas de diseño y uso que regirán el uso de la Inteligencia artificial (IA) en la Jurisdicción Administración de Justicia.

Artículo 2: Sujetos alcanzados. Las disposiciones aquí contenidas son de observancia obligatoria para:

● Jueces/juezas, funcionarios/as, agentes y empleados/as de todos los órganos judiciales de todos los fueros.

● Los funcionarios y agentes que presten servicios dentro de las estructuras de gobierno de esta Jurisdicción Administración de Justicia, 

● Auxiliares de la Justicia.

● Entidades externas que desarrollen, provean, integren o mantengan sistemas de IA utilizados por la Suprema Corte, en la medida que sus contratos o convenios así lo establezcan. 

Artículo 3: Ámbito de aplicación. Las disposiciones que integran el presente reglamento aplican a la totalidad del ciclo de vida de los sistemas de Inteligencia Artificial, entendido como las etapas de pre-diseño, diseño, desarrollo, evaluación, prueba, despliegue, uso, venta, adquisición, operación y desmantelamiento.

Artículo 4: Finalidad. La integración de sistemas de IA en la Jurisdicción Administración de Justicia persigue las siguientes finalidades: mejorar la eficiencia en la gestión de los procesos judiciales y procedimientos administrativos; fortalecer el acceso a la justicia eliminando barreras tecnológicas, lingüísticas y geográficas; apoyar la función jurisdiccional sin sustituir el razonamiento jurídico y el juicio humano; garantizar la transparencia, la rendición de cuentas y la impugnabilidad en el uso de herramientas de IA; y proteger los derechos fundamentales de todas las personas que intervienen en procesos judiciales y/o administrativos en la órbita de la Suprema Corte. 

Artículo 5: Definiciones. A los efectos del presente reglamento y de las normativas que en su consecuencia se dicten se entenderá por:

·         Sistema o herramientas de Inteligencia Artificial: Sistemas computacionales "capaces de procesar datos e información de una manera que se asemeja a un comportamiento inteligente, y abarca generalmente aspectos de razonamiento, aprendizaje, percepción, predicción, planificación o control".

·         Sistema de Inteligencia Artificial generativa: Sistemas computacionales "que se comunican en lenguaje natural, capaces de responder a preguntas relativamente complejas y pueden crear contenido (proporcionar texto, imagen o sonido) tras una pregunta o instrucciones formuladas (prompt)".

·         Modelo de lenguaje de gran tamaño (LLM por su sigla en inglés): Es un tipo de algoritmo de inteligencia artificial que utiliza técnicas de aprendizaje profundo y conjuntos de datos muy grandes para comprender, resumir, generar y predecir nuevo contenido. El término IA generativa también está estrechamente relacionado con los LLM, que son, de hecho, un tipo de IA generativa que se ha diseñado específicamente para ayudar a generar contenido.

·         Aprendizaje Automático (ML): "un conjunto de técnicas que permite a las máquinas aprender automáticamente usando patrones y deducciones en lugar de instrucciones directas de una persona".

·         Procesamiento de Lenguaje Natural (PLN): "una técnica de aprendizaje automático que analiza grandes cantidades de datos de texto o voz humana (transcriptos o acústicos) en busca de propiedades específicas, como significado, contenido, intención, actitud y contexto".

·         Sistema de IA seguro (safe): Aquel que, durante todo su ciclo de vida —desde el diseño hasta la desactivación—, identifica, evalúa y mitiga activamente los riesgos de daños no deseados sobre las personas, instituciones y el entorno, garantizando que sus resultados no excedan lo necesario para alcanzar el objetivo legítimo perseguido y que se encuentren dentro de niveles de riesgo aceptables.

·         Sistema de IA protegido (secure): Aquel que implementa medidas técnicas y organizativas robustas para preservar la integridad, confidencialidad y disponibilidad de los datos y procesos, resistiendo accesos no autorizados, manipulaciones maliciosas o ciberataques, y que cuenta con marcos de acceso a los datos que respeten la privacidad y garanticen la calidad de la información utilizada.

·         Sistema de IA confiable (trustworthy): Aquel cuyo funcionamiento es transparente, explicable, trazable y sometido a supervisión humana efectiva; que respeta los derechos fundamentales, la democracia y el Estado de Derecho; que actúa de manera consistente con valores éticos verificables; y cuya cadena de responsabilidad es clara e identificable a lo largo de todo su ciclo de vida.

·         Algoritmo: Serie de instrucciones para realizar cálculos u otras tareas, ya sea en matemáticas o en informática. En el caso de la inteligencia artificial, un algoritmo proporciona las reglas o instrucciones que permiten a un computador aprender a aprender del entorno y realizar un conjunto de tareas.

·         Análisis de Impacto Algorítmico (AIA): Proceso que se desarrolla en la fase de pilotaje o diseño preliminar con el objetivo es anticipar posibles impactos antes que el sistema entre en operación. Permite ajustar parámetros, detectar riesgos tempranos (p.e. sesgos), y evaluar el desempeño de la herramienta en condiciones reales controladas, para luego decidir sobre su posible implementación definitiva Este análisis es fundamental para valorar si una herramienta determinada es técnicamente viable, socialmente aceptable y jurídicamente compatible con el contexto institucional en el que se pretende aplicar.

·         Evaluación de impacto algorítmico (EIA): Proceso que permite evaluar el desempeño del sistema, si emergen sesgos no contemplados en el diseño, si los datos utilizados han perdido representatividad, o si cambios institucionales hacen necesario ajustar su funcionamiento. La EIA permite así corregir desvíos, actualizar medidas de mitigación (o adoptarlas en aquellos casos en que no se llevó a cabo una AIA) y asegurar que la herramienta sigue cumpliendo con los estándares éticos y jurídicos exigidos.

·         Ciclo de vida de los sistemas de IA: Ciclo que incluye las etapas de prediseño, diseño, desarrollo, evaluación, prueba, despliegue, uso, venta, adquisición, operación y desmantelamiento.

·         Prompt o input: Instrucción, consulta o conjunto de datos de entrada que un usuario introduce en un sistema de IA para generar una respuesta.

·         Alucinaciones y desinformación: Resultados imprecisos o inexactos que pueden generar los sistemas de IA generativa, especialmente los basados en modelos de lenguaje de gran tamaño (LLM).

·         Sesgo de Inteligencia artificial: el sesgo de IA es una diferencia sistemática en el tratamiento de ciertos objetos, personas o grupos (por ejemplo, estereotipos, prejuicios o favoritismo) en comparación con otros mediante algoritmos de IA. Este tipo de sesgos resultan de los datos usados para entrenar el algoritmo, lo que puede reforzar prejuicios de raza, género, sexualidad, etnia o discapacidad.

·         Operador judicial: Toda persona humana perteneciente a la estructura del Suprema Corte de Justicia —o que actúe en su nombre o bajo su autoridad— que, en el ejercicio de sus funciones jurisdiccionales o administrativas, utilice, supervise, gestione o tome decisiones a través de la utilización  de un sistema de inteligencia artificial, asumiendo responsabilidad directa sobre las condiciones de uso, la supervisión humana del sistema y las consecuencias jurídicas de los resultados producidos por dicho sistema en el marco de la actividad judicial.

Las definiciones precedentes han sido elaboradas tomando como referencia, entre otros instrumentos y documentos especializados, las “Directrices para el Uso de Sistemas de Inteligencia Artificial en Cortes y Tribunales” de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO, 2026); “Inteligencia Artificial en los Poderes Judiciales de Latinoamérica: Reflexiones y Lineamientos para las Américas” del Centro de Estudios de Justicia de las Américas (CEJA, 2025); la Resolución A/RES/78/265 de la Asamblea General de las Naciones Unidas; el Acuerdo PCSJA24-12243 de la Corte Constitucional de Colombia y demás estándares, lineamientos y documentos técnicos nacionales e internacionales aplicables en la materia.

CAPITULO II. PRINCIPIOS RECTORES

Artículo 6: El uso y aprovechamiento de los sistemas de inteligencia artificial se regirá por los principios que a continuación se detallan:

Protección de los derechos humanos: Implica tomar las medidas necesarias para respetar, proteger y promover los derechos humanos y el estado de derecho a lo largo de todo el ciclo de vida de los sistemas de IA debiendo existir salvaguardas eficaces respecto de los sistemas de IA que puedan representar un alto riesgo para los derechos humanos, así como como la implementación de las evaluaciones de rendición de cuentas. 

El despliegue de sistemas de IA debe proteger especialmente los derechos de las mujeres y las niñas, las personas con discapacidad, los niños, las minorías y otros grupos y/o poblaciones en situación de marginación y/o vulnerabilidad. Aunque todos los derechos humanos pueden verse potencialmente afectados por ciertos sistemas de IA a lo largo del ciclo de vida de estas herramientas, los siguientes son especialmente importantes en el contexto de los procedimientos judiciales y administrativos.

a) No discriminación: Adoptar, desplegar y utilizar sistemas de IA que busquen alcanzar objetivos mediante procesos que salvaguarden la equidad y garanticen un acceso inclusivo a la tecnología. Prevenir el desarrollo y las aplicaciones sesgadas de sistemas y resultados de IA que puedan agravar, reproducir, reforzar o perpetuar la discriminación basada en raza, color, ascendencia, género, edad, idioma, religión, opinión política, condición nacional, étnica, social o económica, discapacidad y cualquier otro motivo.

b. Igualdad: Garantizar el acceso y el trato igualitario para todos ante los tribunales, independientemente de sus capacidades digitales. La implementación de herramientas de IA en lo judicial debería tener en cuenta a quienes no pueden permitirse estas tecnologías, carecen de alfabetización digital o enfrentan otras barreras tecnológicas. Para ello, es pertinente seguir el principio de No Dejar a Nadie Atrás (LNOB), desarrollado como parte de la Agenda de las Naciones Unidas para el Desarrollo Sostenible, para abordar la exclusión digital.

c. Equidad procesal: Evaluar las implicaciones de los sistemas de IA para garantizar la equidad procedimental a lo largo de todo su ciclo de vida y evitar despliegues que vulneren este derecho.

d. Derecho a la privacidad y protección de datos personales: La adopción, despliegue y utilización de sistemas de inteligencia artificial en el ámbito de la administración de justicia deben garantizar la protección efectiva del derecho a la privacidad y a la protección de los datos personales de todas las personas involucradas en los procesos judiciales y procedimientos administrativos. La utilización de herramientas de IA deberá evitar la generación de riesgos de divulgación indebida de datos personales y prevenir el acceso no autorizado a los mismos por parte de terceros, a lo largo de todo el ciclo de vida del sistema.

e. Libertad y seguridad: Ninguna persona podrá ser detenida, privada de su libertad, sometida a medida cautelar restrictiva o afectada en sus derechos fundamentales con base, total o parcial, en decisiones adoptadas mediante sistemas de inteligencia artificial, cuando dicha persona no haya sido informada del uso de tales sistemas, no pueda comprender los criterios mediante los cuales el sistema produjo el resultado que la afecta, o no cuente con medios efectivos para impugnar o apelar tanto el proceso de toma de decisiones como la decisión en sí misma.

·         Proporcionalidad: La adopción, despliegue y utilización de sistemas de IA deben como objetivo lograr fines legítimos y proporcionales en el contexto de su uso.

·         Viabilidad de los beneficios: Antes de adoptar sistemas de IA, deben evaluarse tanto los beneficios potenciales específicos (para el poder judicial, los usuarios y el público) como su capacidad institucional para generarlos.

·         Seguridad: La adopción, despliegue y utilización de sistemas de IA deben evitar, abordar, prevenir mitigar o eliminar daños no deseados para las partes, los operadores judiciales, los órganos judiciales y organismos administrativos a los que pertenecen.

·         Seguridad de la información: La adopción, despliegue y utilización de sistemas de IA deben asegurar la aplicación de estándares para asegurar la integridad, confidencialidad y disponibilidad de la información, cumpliendo con las obligaciones establecidas en las leyes aplicables, en los lineamientos de este Reglamento y demás normativa que en su consecuencia se dicte.

·         Precisión y fiabilidad: La adopción, despliegue y utilización de sistemas de IA deben ser precisos, es decir, deben proporcionar información útil y relevante y producir resultados y predicciones correctas, y sistemas de IA fiables, es decir, que funcionen “correctamente con una variedad de entradas y en una variedad de situaciones”.

·         Explicabilidad: La adopción, despliegue y utilización de sistemas de IA deberán proporcionar información —tanto a quienes despliegan la herramienta como a sus usuarios— sobre las entradas, razonamientos, resultados y funcionamiento de los sistemas de IA, haciendo que estos elementos sean comprensibles, interpretables y rastreables para las personas humanas.

·         Auditabilidad: La adopción de medidas administrativas y legales para asegurar y permitir que los sistemas de IA puedan ser auditados durante su despliegue.

·         Justicia transparente y abierta/ Transparencia: La adopción, despliegue y utilización de sistemas de IA deben ser transparentes en cuanto a cómo se desarrollaron, cómo funcionan, cuáles son sus datos de entrenamiento, sus limitaciones (incluido el margen de error), sus capacidades y el propósito de los sistemas. Asimismo, deben informar de manera adecuada y oportuna cuándo y cómo se despliegan, cómo funcionan estas herramientas, especialmente cuando las decisiones tomadas con o basadas en ellas puedan afectar los derechos y libertades de individuos o comunidades., de forma tal que permita a los usuarios e interesados su pleno conocimiento y la efectiva posibilidad de contradicción.

·         Concientización y uso informado: Implica la comprensión de las funcionalidades, tipos de uso, posibles impactos, limitaciones y riesgos de los sistemas de IA disponibles, para tomar decisiones informadas sobre su implementación; el conocimiento del propósito previsto del uso de un sistema de IA específico para llevar a cabo actividades judiciales; y mantenerse al día de los avances tecnológicos.

·         Responsabilidad: Los usuarios de herramientas de IA en la gestión de trámites y procesos deben estar capacitados y comprender los impactos de esta tecnología. Además, darán cuenta del origen, idoneidad, limitaciones y necesidad del uso de la IA, lo mismo que la información suministrada por la misma, que deberá ser, en todo caso verificada. En este sentido órganos judiciales, organismos y operadores judiciales que desarrollen y utilicen sistemas de IA deben asumir la responsabilidad de las decisiones y acciones tomadas mediante el uso de dichas herramientas.

·         Rendición de cuentas y contestabilidad: Importa garantizar la rendición de cuentas, informando y explicando cómo y por qué ciertas herramientas de IA fueron adoptadas, así como los resultados obtenidos (o no) con su despliegue. Además, introduce mecanismos que permitan a las partes afectadas impugnar y contrainterrogar cualquier resultado producido por un sistema de IA que pueda influir en el resultado del caso en cuestión, así como impugnar las decisiones y responsabilizar a los operadores judiciales por sus errores.

·         Supervisión y toma de decisiones humanas: Los operadores judiciales no deben delegar ninguna parte de su mandato ni depender exclusivamente de los sistemas de IA para adoptar decisiones o automatizar procesos completos que puedan afectar negativamente los derechos de individuos, comunidades o colectivos. Deben preservar la posibilidad de intervención humana en todos los procesos de toma de decisiones en los que se desplieguen los sistemas de IA. Las herramientas de IA no deben sustituir el análisis independiente de hechos, leyes y pruebas por parte del responsable de la toma de decisiones.

·         Diseño participativo y centrado en el ser humano: El desarrollo, despliegue y uso de sistemas de IA debe seguir principios de diseño centrados en el ser humano para complementar y ampliar las capacidades de la organización en la que se insertan y respetar la dignidad y la autonomía humanas.

·         Gobernanza y colaboración multiactor: Las organizaciones judiciales deben consultar a diversos interesados, realizar consultas públicas e implementar enfoques de participación ciudadana a lo largo del ciclo de vida del sistema de IA, especialmente a quienes puedan verse afectados directa o indirectamente por su despliegue.

·         Adecuación a buenas prácticas y estándares colectivos. Importa la adopción prácticas y estándares que se adecúen a los principios, diseño y funcionamiento de la Jurisdicción Administración de Justicia, en el marco de las definiciones que adopten sus autoridades, tanto en sede de administración como en su faz jurisdiccional.

·         Seguimiento, mejoramiento y adaptación continua. Para el uso de sistemas de IA se consultarán permanentemente los avances jurídicos, sociológicos y tecnológicos que se vayan implementando, así como los esquemas de mejora y control que se construyan en forma progresiva.

·         Prevención de riesgos. Aplicación estándares adecuados de identificación, evaluación, gestión, mitigación y control sobre situaciones que generen riesgo por la aplicación de herramientas de IA, en aspectos como imprecisiones, desactualizaciones,  alucinaciones, sesgos o inconsistencias.

Capítulo III. De la Gobernanza.

Artículo 7: Autoridad de Aplicación. Creación. Créase la Comisión de Gobernanza y Uso de Inteligencia Artificial —en adelante, "la Comisión"—, que funcionará como autoridad de aplicación del presente Reglamento y de las normas complementarias que en su consecuencia se dicten.

Artículo 8: Integración. La Comisión estará integrada por las Secretarías de Planificación, de Tecnología Informática y de Servicios Jurisdiccionales de esta Suprema Corte de Justicia, quienes ejercerán sus funciones de manera conjunta.

La Comisión podrá requerir la colaboración y asesoramiento de las restantes áreas de la Suprema Corte, de organismos, de los Colegios de Magistrados y Funcionarios, Asociaciones Sindicales, del Colegiado de la Abogacía, y otros Colegios Profesionales, de las Universidades, de empresas y de expertos externos acreditados, cuando la complejidad técnica, jurídica o ética de las materias a tratar así lo requiera.

Artículo 9: Funciones. La Comisión tendrá las siguientes funciones:

a) Elaborar un diagnóstico de las necesidades que los sistemas de IA pueden atender, identificando áreas prioritarias de implementación.

b) Determinar los objetivos generales y específicos del uso de la IA en la Jurisdicción Administración de Justicia, diferenciando funciones administrativas y jurisdiccionales.

c) Propiciar el dictado de normativas, protocolos, lineamientos y manuales de uso para tecnologías específicas y sus actualizaciones periódicas.

d) Determinar los tipos de sistemas de IA autorizados, sujetos a restricciones y expresamente prohibidos, conforme a los criterios de estratificación por nivel de riesgo establecidos en el presente Reglamento.

e) Establecer los mecanismos de seguimiento, monitoreo y evaluación de la implementación de los sistemas de IA, con indicadores de desempeño verificables.

f) Sugerir  desarrollos, funcionalidades, modificaciones y actualizaciones de tecnologías de IA, así como la realización de pruebas piloto previas a su implementación definitiva.

g) Propiciar la implementación de Agentes de Inteligencia Artificial, propios o externos, los que deberán cumplir estrictamente con los requisitos de seguridad, trazabilidad, auditoría, supervisión humana, individualización y demás principios rectores del presente Reglamento.

h) La elaboración de indicadores de medición de impacto.

i) Publicar un informe anual sobre el estado de implementación de la IA en el ámbito de la Suprema Corte, los impactos identificados, las auditorías realizadas y las medidas adoptadas o recomendadas.

j) Elaborar, en coordinación con el Instituto de Estudios Judiciales, los programas de capacitación y actualización correspondientes, asegurando que contemplen las distintas funciones y niveles de responsabilidad del personal judicial.

k) Dar intervención a otras áreas de la Suprema Corte cuando la temática así lo requiera.

l) Toda otra función que le delegue la Suprema Corte de Justicia.

Artículo 10. Selección del modelo de provisión tecnológica. “La Comisión” evaluará y propondrá, en cada caso, el modelo de provisión tecnológica (desarrollo interno, desarrollo a medida por tercero, sistema de código abierto o herramienta comercial), a propuesta de la Secretaría de Tecnología Informática, considerando las implicaciones de cada opción para la independencia judicial, la seguridad de la información, la transparencia, la explicabilidad y la auditabilidad. Se dará preferencia a modelos que permitan el mayor control institucional sobre los datos de entrenamiento, el funcionamiento del sistema y la corrección de errores.

Cuando se opte por proveedores externos, deberá suscribirse un convenio que garantice el acceso a auditorías algorítmicas y la compatibilidad con las leyes de protección de datos y con el presente Reglamento.

Artículo 11. Interdisciplinariedad y reducción de sesgos. La Comisión  garantizará la incorporación de perspectivas interdisciplinarias en el diseño, evaluación y monitoreo de los sistemas de IA, aportando una visión integral que permita reducir al máximo las posibilidades de alucinaciones, sesgos y errores sistemáticos. A tal fin, elaborará documentos técnicos, recomendaciones de buenas prácticas y criterios operativos de aplicación interna.

Artículo 12. Implementación de soluciones o proyectos institucionales. En la evaluación e implementación de los proyectos y soluciones que involucren sistemas de IA “La Comisión”, deberán validar el cumplimiento de las pautas y lineamientos para su uso respetuoso, responsable y seguro, y en particular:

1. Analizar la adopción de herramientas sobre las cuales se haya realizado un análisis de impacto algorítmico, con el fin de prever y gestionar posibles riesgos de uso, especialmente para los derechos fundamentales.

2. Evaluar la elección de herramientas que ofrezcan una mayor transparencia de sus datos de entrenamiento, que permitan a los implementadores y usuarios evaluar la calidad e integridad de dichos datos, que proporcionen información comprensible y rastreable sobre las entradas, los resultados y el funcionamiento, en particular cuando el uso se refiere a actividades que terminan impactando y reflejándose en los procesos de adopción y emisión de decisiones de fondo.

3. Contemplar los procesos propios de calidad de los datos que se involucrarán en el uso de las herramientas de IA, con el objeto de disminuir sesgos y alucinaciones y usar técnicas para vincular el uso de datos propios al procesamiento de las herramientas de IA generativa.

4. No usar datos personales y/o confidenciales en los procesos de entrenamiento de los modelos que soportarán este tipo de herramientas.

5. Llevar a cabo análisis de impacto de privacidad y protección de datos personales respecto del uso de determinadas herramientas de IA generativa, cuando requieran la incorporación y uso de este tipo de datos por parte de los usuarios finales. El análisis de impacto de privacidad debe identificar las implicaciones del uso de las herramientas en relación con los derechos de privacidad y protección de datos de los usuarios y terceros. De dicho análisis se derivarán recomendaciones acerca de su eventual adopción, así como protocolos, prácticas y lineamientos para evitar o mitigar los riesgos de afectación de derechos de privacidad y protección de datos personales.

6. Evitar la dependencia por tecnologías y proveedores específicos, promover la neutralidad tecnológica, buscando fomentar la sostenibilidad y autonomía en el uso de las tecnologías. En todo caso, asegurarán que los proveedores externos de herramientas o sistemas de IA tengan términos y condiciones de uso que sean compatibles con el cuerpo normativo aplicable, lo previsto en este Reglamento y las políticas que oportunamente disponga la Suprema Corte y, que incorporen provisiones, medidas y obligaciones relacionadas con el cumplimiento de las políticas y lineamientos para el uso y aprovechamiento responsable y seguro de IA. Se priorizarán los proveedores que permitan realizar auditorías y evaluaciones de impacto, así como conocer información sobre los procesos y datos de entrenamiento de las herramientas y el funcionamiento de sus algoritmos.

7. Propender por el desarrollo interno de tecnologías que sean idóneas para apoyar iniciativas  de acuerdo con los lineamientos y estándares establecidos por la Suprema Corte.

8. Priorizar la integración de herramientas de IA con otros sistemas o aplicaciones existentes en la Jurisdicción Administración de Justicia, con el fin de potenciar y complementar funcionalidades, prácticas y usos.

9. Usar herramientas que sean accesibles por parte de los distintos grupos de interés de la Jurisdicción Administración de Justicia, evitando el uso de tecnologías y sistemas que tengan barreras económicas y técnicas sustanciales de uso por parte de las personas humanas

Artículo 13: Toda sugerencia, proyecto o solicitud de desarrollo, implementación o utilización de sistemas de inteligencia artificial, formulada por sujetos u organismos internos o externos al servicio de Administración de Justicia, deberá ser remitida a la Autoridad de Aplicación para su tratamiento, debiendo sus promotores observar y respetar las disposiciones del presente reglamento.

Capitulo IV. Del área técnica operativa en materia de sistemas de inteligencia artificial

Artículo 14: La Secretaría de Tecnología Informática es el área técnica operativa en materia de sistemas de inteligencia artificial, teniendo a cargo su desarrollo, implementación, integración, operación y soporte técnico a lo largo de todo su ciclo de vida.

A tales efectos, le corresponderá:

a) Evaluar su viabilidad técnica y compatibilidad;  

b) Configurar, ajustar y, en su caso, entrenar modelos;

c) Implementar técnicamente los sistemas y casos de uso aprobados;

d) Gestionar y garantizar la calidad y resguardo de los datos utilizados;

e) Realizar pruebas, validaciones y monitoreo de desempeño;

f) Garantizar la trazabilidad, auditabilidad, seguridad, actualización y funcionamiento eficiente de los sistemas;

g) Detectar y reportar incidentes, errores, sesgos o desvíos; 

h) Documentar su funcionamiento y evolución;

i) Adoptar las medidas de seguridad y de gestión de riesgos necesarias en la utilización de los sistemas de IA cuya utilización se habilite.

j) Brindar asistencia técnica y elaborar informes para la Autoridad de Aplicación.

k) Realizar auditorías periódicas sobre el desempeño de los sistemas en uso.

En el ejercicio de sus funciones, la Secretaría de Tecnología Informática deberá asegurar que los sistemas de inteligencia artificial sean desarrollados y operados de conformidad con los principios rectores establecidos en el presente Reglamento.

Artículo 15: Límite de las facultades técnico-operativas. En ningún caso las funciones asignadas a la Secretaría de Tecnología Informática implicarán facultades decisorias respecto de la aprobación, autorización o clasificación de los sistemas de inteligencia artificial. Dichas atribuciones corresponden exclusivamente a la Suprema Corte de Justicia a propuesta de la Comisión, conforme al procedimiento que oportunamente se establezca en el presente Reglamento

CAPITULO V. De los niveles de riesgo en los sistemas de IA. Estratificación. Auditorías.

Artículo 16. A los efectos del presente Reglamento, los sistemas de IA se clasifican en tres categorías según su nivel de riesgo para los derechos de las partes, la independencia judicial y la integridad del proceso: sistemas de bajo riesgo, sistemas de alto riesgo y sistemas prohibidos o de uso expresamente restringido. La clasificación de cada sistema será determinada por la Comisión y puesta a consideración de la Suprema Corte de Justicia para su aprobación.

La Comisión deberá actualizar la clasificación ante cambios significativos en las funcionalidades, el contexto de uso o los hallazgos de auditorías o evaluaciones de impacto.

Artículo 17. Sistemas de IA de bajo riesgo — Gestión administrativa. Corresponden a esta categoría los sistemas de IA utilizados para funciones de gestión administrativa, que presentan bajo riesgo de afectación a los derechos fundamentales y alto potencial de mejora en eficiencia y acceso. Se encuentran incluidos, de manera enunciativa y no taxativa:

• Gestión documental, clasificación y organización de expedientes.

• Programación y asignación de audiencias.

• Anonimización y pseudo-anonimización de resoluciones judiciales.

• Transcripción automática de audiencias (voz a texto).

• Traducción de documentos a idiomas locales.

• Chatbots de atención ciudadana con información general sobre

trámites.

• Estadísticas, indicadores de desempeño y análisis de plazos en

los procesos judiciales.

• Corrección ortográfica y gramatical de documentos.

Artículo 18. Sistemas de IA de alto riesgo. Apoyo a la función jurisdiccional. Corresponden a esta categoría los sistemas de IA que asisten funciones críticas de la función jurisdiccional, incluyendo la interpretación de normas, la valoración de pruebas, la predicción de resultados de litigios, el análisis de jurisprudencia y la generación de propuestas de resolución o sentencia.

Los sistemas de esta categoría solo podrán utilizarse en el ámbito de la Jurisdicción Administración de Justicia previo cumplimiento de los siguientes requisitos:

1. Análisis de Impacto Algorítmico favorable

2. Informe favorable de La Comisión y autorización expresa de la Suprema Corte.

3. Implementación de supervisión humana significativa

4. Mecanismos de impugnación accesibles para las partes procesales respecto de los resultados producidos por el sistema.

5. Registro en el repositorio público de sistemas de IA.

6. Plan de monitoreo continuo y revisión periódica aprobado por la Comisión.

Bajo ninguna circunstancia los sistemas de IA de alto riesgo sustituirán el juicio del juez. Sus resultados se emplearán exclusivamente como apoyo informativo, siendo la decisión final responsabilidad exclusiva de la persona juzgadora.

Artículo 19. Sistemas de IA prohibidos o de uso restringido. Quedan expresamente prohibidos en el ámbito de la Suprema Corte los siguientes usos de sistemas de IA:

1. La automatización plena de decisiones jurisdiccionales, incluidas las decisiones de admisibilidad, cautelares, de fondo o cualquier otra que la ley atribuya exclusivamente al juez.

2. El uso de sistemas de IA que operen sin posibilidad de supervisión humana real y efectiva sobre sus resultados.

3. El uso de herramientas de IA que reproduzcan sesgos discriminatorios por raza, género, origen, religión, condición económica, discapacidad u otro motivo. 

4. El uso de herramientas de IA externas que procesen datos judiciales confidenciales sin las garantías de anonimización, cifrado y protección de datos personales, requeridas por la legislación nacional aplicable y el presente Reglamento.

5. El uso de sistemas de IA generativa cuyos términos de servicio autoricen al proveedor a utilizar los datos de los usuarios para el entrenamiento de modelos futuros, cuando dichos datos incluyan información judicial confidencial .

6. La generación de material probatorio de forma sintética o automatizada.

7. La utilización de sistemas de IA, para la elaboración total o parcial de informes o dictámenes periciales, sin la participación activa del perito habilitado conforme a la legislación procesal aplicable. Se entiende por participación activa la validación de la metodología empleada, la evaluación crítica de los resultados, la asunción personal de las conclusiones y la suscripción del dictamen con firma y sello profesional.

La prohibición no alcanza a las operaciones computacionales que, por carecer de las capacidades definidas en el artículo 5, produzcan resultados determinísticos, verificables y reproducibles -tales como la verificación de funciones hash, la validación de firmas digitales conforme a la Ley N° 25.506 o la consulta de revocación de certificados digitales-, las que igualmente requerirán suscripción pericial con constancia del procedimiento y resultado.

Cuando el dictamen incorpore ambas componentes, la prohibición se aplicará exclusivamente a la basada en sistemas de IA. El uso autorizado de sistemas de IA en pericias quedará sujeto a las obligaciones del artículo 29.

8. El uso de sistemas de predicción del riesgo de reincidencia con efectos vinculantes para decisiones de libertad, prisión preventiva o libertad condicional, salvo que exista norma legal expresa habilitante y previo Análisis de Impacto Algorítmico favorable con auditoría externa independiente

La Comisión podrá recomendar la ampliación o reducción de esta nómina, para su consideración por parte de la Suprema Corte, ante la aparición de nuevas tecnologías o usos que se configuren riesgos equivalentes o superiores a los aquí enumerados, o en su caso, mitiguen los mismos.

Capítulo VI. Del Análisis de Impacto Algorítmico. Planes Piloto. Auditorías y evaluación de impacto algorítmico.

Artículo 20. Análisis de Impacto Algorítmico. Todo sistema de IA categorizado como de alto riesgo requerirá previo a su despliegue, de manera previa e ineludible, la realización de un Análisis de Impacto Algorítmico (AIA). El AIA deberá examinar, como mínimo:

a) El impacto probable del sistema sobre los derechos fundamentales de las partes y de los usuarios del servicio de justicia, con especial atención a los grupos en situación de vulnerabilidad;

b) La presencia de sesgos estructurales en los datos de entrenamiento y en el diseño del algoritmo;

c) Los niveles de precisión, fiabilidad, transparencia y explicabilidad del sistema en el contexto de uso previsto;

d) Los riesgos de seguridad, ciberseguridad y protección de datos personales;

e) La compatibilidad del sistema con el ordenamiento jurídico vigente y con los principios rectores del presente Reglamento.

Artículo 21. Implementación por fases. Planes Pilotos. Todos los sistemas de IA calificados como de alto riesgo será sometido a una implementación por fases, iniciando con un plan piloto en un entorno controlado. La fase piloto permitirá evaluar la funcionalidad, el impacto potencial y los posibles riesgos del sistema antes de su despliegue a gran escala. Los resultados de la prueba piloto, incluyendo retroalimentación de los operadores judiciales participantes, serán documentados y considerados para la decisión de escalamiento.

Artículo 22. Evaluación de impacto algorítmico (EIA) Seguimiento post-despliegue. Una vez que un sistema de IA haya sido puesto en operación, “La Comisión” realizará, con la periodicidad establecida en el artículo siguiente, una Evaluación de Impacto Algorítmico (EIA). La EIA es el proceso que permite evaluar el desempeño efectivo del sistema en producción, detectar si han emergido sesgos no contemplados en el diseño, verificar si los datos utilizados han perdido representatividad, e identificar si cambios normativos o funcionales hacen necesario ajustar su funcionamiento.

Artículo 23. Auditorías algorítmicas periódicas. Las auditorías algorítmicas examinarán:

·         Cumplimiento de las normas legales nacionales y los principios establecidos en el presente Reglamento.

·         Presencia de sesgos, inequidades o efectos discriminatorios en los resultados.

·         Niveles de precisión, fiabilidad, transparencia y explicabilidad.

·         Grado de supervisión humana efectiva ejercida sobre los resultados del sistema.

·         Seguridad técnica y ciberseguridad del sistema.

Los sistemas de IA en uso serán objeto de auditorías algorítmicas  con la siguiente periodicidad mínima:

·         para sistemas de alto riesgo: semestral

·         para sistemas de bajo riesgo:  anual

Los informes de auditoría serán públicos e incluirán recomendaciones de mejora, suspensión o desmantelamiento del sistema auditado. “La Comisión” adoptará las medidas correspondientes dentro de los treinta días hábiles siguientes a la recepción del informe

Artículo 24. Desmantelamiento de sistemas incompatibles con derechos fundamentales. Cuando las auditorías algorítmicas, las evaluaciones de impacto o cualquier otro mecanismo de control detecten que un sistema de IA viola derechos fundamentales, incumple el presente Reglamento o resulta incompatible con el derecho internacional de los derechos humanos, la Comisión informará de inmediato a la Suprema Corte de Justicia, la que evaluará la suspensión inmediata de su uso y, en caso de corresponder el inicio del proceso de desmantelamiento.

CAPITULO VII. DE LOS DEBERES DE OPERADORES JUDICIALES.

Artículo 25. Deberes generales de uso informado. Los sujetos alcanzados por el artículo 2° del presente Reglamento que utilicen herramientas de IA en el ejercicio de sus funciones tienen el deber de:

1. Informarse, con carácter previo a la utilización de cualquier herramienta de IA, acerca de sus funcionalidades, limitaciones técnicas, riesgos conocidos —incluyendo alucinaciones y sesgos — y términos y condiciones de uso publicados por el proveedor;

2. Verificar que la herramienta que se pretende utilizar haya sido autorizada.

3. Abstenerse de utilizar chatbots de uso general en sus versiones de acceso gratuito para el desarrollo de tareas vinculadas a funciones jurisdiccionales o al tratamiento de información judicial;

4. Evaluar, antes de cada uso, si la tarea en cuestión puede ser realizada de manera más fiable o segura con herramientas que no impliquen IA generativa.

Artículo 26. Deberes específicos en la utilización de herramientas de IA. Los sujetos alcanzados por el presente Reglamento que usen herramientas de IA para el ejercicio de sus funciones deberán:

1. Prescindir de herramientas de IA para la valoración de medios probatorios, el escrutinio de hechos, la realización de juicios de valor y la solución de problemas jurídicos de fondo;

2. Prescindir de herramientas de IA para aplicar el ordenamiento jurídico, motivar o adoptar decisiones en un proceso, tomando como único o determinante fundamento las respuestas ofrecidas por el sistema;

3. Abstenerse de introducir, por cualquier medio, datos personales, información sensible, datos de investigaciones en curso o cualquier otro dato confidencial en herramientas de IA generativa de acceso público o comercial cuyos términos de servicio autoricen el uso de dichos datos para reentrenar modelos futuros o permitir el acceso de terceros;

4. Prescindir del uso de herramientas de IA si se advierte que sus resultados generan daños potenciales a los derechos humanos o producen resultados sesgados o discriminatorios;

5. Abstenerse de presentar como de autoría propia el texto o contenido elaborado íntegramente con herramientas de IA generativa, debiendo citar en forma adecuada y transparente los materiales producidos con su asistencia;

6. Verificar, contrastar y validar con fuentes fiables toda información, cita jurisprudencial, referencia normativa o análisis producido por un sistema de IA antes de incorporarlos a cualquier actuación judicial;

7. Reportar de inmediato a la Secretaría de Tecnología Informática cualquier fallo, comportamiento inesperado, resultado sesgado o impacto negativo identificado en un sistema de IA, conforme al procedimiento establecido en el artículo 32.

Capítulo VIII – Protección de Datos Personales.

Artículo 27. Principios de protección de datos en el uso de IA. El uso de sistemas de IA en la Jurisdicción Administración de Justicia deberá observar los siguientes principios en la protección de datos personales, sensibles, confidenciales:

1. Minimización de datos: Los sistemas de IA deberán requerir un mínimo de datos personales para funcionar. Se dará preferencia a sistemas que mejoren la privacidad por diseño.

2. Consentimiento informado: Se elaborarán e implementarán protocolos de consentimiento para el tratamiento de datos personales con herramientas de IA en el ámbito judicial, conforme a la legislación nacional de protección de datos aplicable.

3. Anonimización: Cuando los sistemas de IA procesen datos personales, se emplearán técnicas de anonimización, especialmente en la creación de bases de datos utilizadas para análisis jurídico o estudios de precedentes; salvo en los supuestos comprendidos en el último párrafo del artículo 10.

4. Control institucional: Solo se permitirá que personal debidamente calificado acceda a datos individuales con la competencia y necesidad de hacerlo. Los protocolos de datos especificarán quién puede acceder y bajo qué circunstancias.

5. Protección ante proveedores externos: Cuando el procesamiento de datos judiciales involucre proveedores externos o servicios en la nube, se garantizará que el nivel de protección ofrecido cumpla con los estándares legales locales y los estándares de seguridad que se establezcan.

Artículo 28. Prohibición de compartir datos confidenciales con IA comercial. Los sujetos alcanzados, conforme el artículo 2 del presente Reglamento, no incluirán datos personales, información confidencial de las partes, datos de investigaciones en curso ni cualquier otro dato sensible en los prompts o instrucciones dirigidos a herramientas de IA generativa de acceso público o comercial, cuyos términos de servicio autoricen el uso de los datos ingresados para entrenar modelos futuros o permitir el acceso de terceros.

Capítulo IX. De la transparencia.

Artículo 29. Transparencia e integridad. Deber de información a las partes. Los operadores judiciales deberán informar expresamente sobre el uso de sistemas de IA generativa para la realización de labores, tareas o actividades institucionales. En especial para actividades que terminan impactando y reflejándose en los procesos de adopción y emisión de decisiones sustanciales, los funcionarios y empleados harán explícito en el expediente, documento o decisión, el nombre de la herramienta usada, modelo y empresa proveedora; fecha en que fue usada; explicarán para qué fue empleada, el detalle sobre cómo fue usada; referirán la ubicación específica de los productos o resultados reproducidos, transcriptos o incorporados, con comillas, negrillas, letra cursiva o cualquier formato distintivo, para identificar claramente los textos de la decisión que fueron producidos directamente por la herramienta.

A los fines de este artículo, dichas manifestaciones o revelaciones podrán incluirse en el cuerpo principal del expediente o decisión, en notas a pie de página. Esta obligación de información garantiza el derecho de las partes al debido proceso y a la impugnación efectiva.

Artículo 30. Repositorio público de sistemas de IA  La Suprema Corte mantendrá un repositorio público en línea con información clave sobre los sistemas de IA adoptados. El repositorio incluirá, como mínimo, la siguiente información por cada sistema:

● Nombre, proveedor y versión del sistema.

● Propósito y funciones para las que fue adoptado.

● Tipo de datos utilizados para su entrenamiento (cuando sea de conocimiento de la institución).

● Carácter del modelo: propietario, código abierto o desarrollo interno.

● Resultados del Análisis de Impacto Algorítmico y de las auditorías realizadas.

● Indicación sobre si las decisiones adoptadas con apoyo del sistema son impugnables y el mecanismo correspondiente.

● Fecha de incorporación y fecha de la última actualización de la información.

El repositorio se actualizará al menos una vez al año. La información será presentada de forma comprensible para el público general, siguiendo los principios de datos abiertos FAIR: Findable, Accessible, Interoperable and Reusable.

Capitulo X. SEGURIDAD INFORMÁTICA Y GESTIÓN DE RIESGOS

Artículo 31. Medidas de seguridad y ciberseguridad previas al despliegue. Antes de desplegar cualquier sistema de IA, la Secretaría de Tecnología Informática Judicial deberá:

● Poner a prueba la resiliencia del sistema ante ataques adversarios, incluidos ataques de inyección de prompts, extracción de datos, evasión y envenenamiento de datos.

● Establecer medidas técnicas, gerenciales y humanas para prevenir, controlar y mitigar riesgos e incidentes de ciberseguridad.

● Garantizar que el acceso a servicios en la nube utilizados para sistemas de IA cumpla con los estándares legales locales y los estándares de seguridad institucional.

● Implementar un sistema de gestión de riesgos con roles, responsabilidades y procedimientos claros a lo largo de todo el ciclo de vida del sistema.

Artículo 32. Reporte y gestión de incidentes. Todo integrante de la organización judicial que identifique fallos, comportamientos inesperados, vulneraciones de seguridad, sesgos, alucinaciones o impactos negativos derivados de sistemas de inteligencia artificial deberá reportarlos de inmediato a la Secretaría de Tecnología Informática.

La Secretaría de Tecnología Informática documentará y efectuará el análisis técnico de los incidentes reportados, elevando el correspondiente informe a la Comisión para su evaluación y eventual recomendación de medidas.

De acuerdo con la gravedad, naturaleza o impacto del incidente, la Comisión podrá proponer a la Suprema Corte la adopción de medidas preventivas, correctivas, de mitigación, suspensión o desactivación del sistema involucrado. En caso de corresponder, será aplicable el procedimiento previsto en el artículo 24 del presente Reglamento.

Capitulo XI. Disposiciones complementarias.

Artículo 33. Actualización periódica del Reglamento. El presente Reglamento será objeto de revisión y actualización periódica, a los fines de reflejar cambios significativos en el estado del arte tecnológico, el marco normativo aplicable o los hallazgos de las auditorías y evaluaciones de impacto así lo aconsejen. La Comisión elevará al Tribunal las propuestas de modificación debidamente fundamentadas.

 

REFERENCIAS:

Funcionario Firmante: 04/06/2026 13:56:42 - TORRES Sergio Gabriel - JUEZ

Funcionario Firmante: 17/06/2026 13:00:13 - KOGAN Hilda - JUEZA

Funcionario Firmante: 19/06/2026 11:04:41 - SORIA Daniel Fernando - JUEZ

Funcionario Firmante: 19/06/2026 13:13:14 - TRABUCCO Nestor Antonio

SECRETARIO DE LA SUPREMA CORTE DE JUSTICIA