Mientras la inteligencia artificial avanza sobre profesiones, industrias y gobiernos de todo el mundo, la Justicia bonaerense decidió marcar un límite contundente. La Suprema Corte de Justicia de la provincia de Buenos Aires presentó un proyecto de reglamento que prohíbe que los sistemas de IA reemplacen el criterio humano en sentencias, valoración de pruebas o decisiones que puedan afectar derechos fundamentales.
PROHIBIDO DICTAR SENTENCIAS
Inteligencia artificial bajo fuego: la Justicia le cierra la puerta a los jueces robot
La inteligencia artificial podrá ayudar a agilizar procesos administrativos, pero sin intervenir en aspectos sustanciales de una causa.
En pocas palabras
- Justicia bonaerense: Prohíbe que sistemas de IA reemplacen criterio humano en sentencias y decisiones que afecten derechos.
- Usos permitidos: La IA podrá transcribir audiencias, organizar documentos y clasificar expedientes, agilizando procesos administrativos.
- Control y transparencia: Se crea una comisión para evaluar herramientas y se exigirá informar el uso de IA generativa en expedientes judiciales.
Resumen generado por Thinkindot AI
La iniciativa, inédita en Argentina por su alcance, busca evitar que los tribunales queden atrapados en una lógica de automatización que comprometa garantías constitucionales.
¿Por qué la inteligencia artificial no podrá dictar sentencias judiciales?
La piedra angular del proyecto es un principio que la Corte considera innegociable, la función jurisdiccional es indelegable.
Seguir leyendo
En otras palabras, ningún sistema informático podrá asumir tareas que impliquen interpretar pruebas, ponderar circunstancias particulares o definir el destino de una persona dentro de un proceso judicial.
En los últimos dos años, herramientas de inteligencia artificial generativa comenzaron a ser utilizadas informalmente por abogados, funcionarios y empleados judiciales para redactar escritos, resumir documentos y buscar antecedentes jurídicos.
Sin embargo, los magistrados advierten que estos sistemas pueden producir respuestas falsas, referencias inexistentes o análisis sesgados, un fenómeno conocido internacionalmente como "alucinaciones" de la inteligencia artificial.
Inteligencia artificial y Justicia: Cuáles serán los usos permitidos
El proyecto no busca prohibir la tecnología, sino establecer reglas precisas para su utilización.
Las tareas consideradas de bajo riesgo podrán incorporar herramientas de IA. Entre ellas aparecen la transcripción automática de audiencias, la organización documental, la clasificación de expedientes y la corrección de textos.
La inteligencia artificial podrá ayudar a agilizar procesos administrativos, pero sin intervenir en aspectos sustanciales de una causa.
En cambio, cualquier sistema destinado a interpretar normas, sugerir resoluciones o predecir resultados judiciales será catalogado como de alto riesgo y estará sujeto a controles mucho más estrictos.
¿Qué riesgos de la inteligencia artificial detectó la Corte bonaerense?
Uno de los conceptos centrales del documento es el denominado "sesgo de automatización".
Se trata de la tendencia de las personas a confiar excesivamente en las recomendaciones emitidas por una máquina, incluso cuando esas sugerencias pueden contener errores.
La preocupación no es exclusiva de Argentina. Organismos como la Comisión Europea, el Consejo de Europa y las Naciones Unidas vienen advirtiendo sobre los riesgos de trasladar decisiones sensibles a sistemas algorítmicos sin supervisión humana efectiva.
La Corte bonaerense considera que una dependencia excesiva de estas herramientas podría afectar el debido proceso, el derecho de defensa y la tutela judicial efectiva.
Inteligencia artificial: Qué prácticas quedaron expresamente prohibidas
El borrador establece varias restricciones contundentes. Entre ellas sobresale la prohibición de utilizar sistemas predictivos para evaluar riesgos de reincidencia cuando esas estimaciones puedan influir en decisiones sobre libertades, prisiones preventivas o medidas cautelares.
También se veta la generación de pruebas sintéticas mediante inteligencia artificial y la elaboración automática de pericias sin intervención crítica de profesionales habilitados.
La intención es impedir que elementos creados o interpretados por algoritmos adquieran valor probatorio sin un control humano exhaustivo.
¿Cómo controlará la Justicia el uso de la inteligencia artificial?
La Suprema Corte creó una Comisión de Gobernanza y Uso de Inteligencia Artificial que funcionará como autoridad de aplicación.
El organismo tendrá facultades para evaluar herramientas, impulsar pruebas piloto, monitorear resultados y elaborar informes periódicos sobre el impacto de estas tecnologías dentro del sistema judicial.
Además, el proyecto introduce una obligación inédita en el ámbito local, cuando un juez o funcionario utilice inteligencia artificial generativa para elaborar un documento, deberá informarlo expresamente dentro del expediente.
Esa transparencia permitirá que las partes conozcan qué herramienta fue utilizada, qué modelo intervino y cuál fue el alcance concreto de la asistencia tecnológica.
Inteligencia artificial y datos sensibles: La advertencia sobre los chatbots
Otro de los puntos más relevantes apunta a la protección de información confidencial.
La Corte propone impedir que magistrados y funcionarios utilicen chatbots comerciales o gratuitos para procesar datos sensibles vinculados a causas judiciales o investigaciones en curso.
El temor radica en que la información cargada en plataformas externas pueda quedar almacenada, procesada o utilizada para entrenar futuros modelos fuera del control institucional.
Por ese motivo, el reglamento impulsa una estrategia de adopción gradual, con estándares de seguridad, auditorías periódicas y mecanismos permanentes de supervisión.
Más noticias en Urgente24
Javier Milei autorizó a YPF la construcción de un gasoducto en un área crítica a nivel seguridad
Nancy Pazos con el agua hasta el cuello: "Hablá de por qué te rajaron de..."
Revuelo total por lo que salió al aire en TVR: "A Patricia Bullrich le saltábamos en..."
Milei estira la agonía de Adorni, y ambos se miran en el 'espejo Espert'
Crece el escándalo por lo que se filtró de la China Suárez: "La agarró de los pelos y..."
Te puede interesar
No te lo pierdas
CONSPIRACIONES