Buenos Aires regula el uso de Inteligencia Artificial en la administracion publica provincial

La Provincia de Buenos Aires sumo un marco especifico para regular el uso institucional de Inteligencia Artificial dentro de su administracion publica. Mediante la Resolucion 9/2025 de la Subsecretaria de Gobierno Digital, la provincia paso de un escenario de adopcion tecnologica dispersa a uno con reglas expresas sobre cuando, como y bajo que condiciones pueden desarrollarse, contratarse o utilizarse sistemas de IA en organismos estatales.

Para abogados que asesoran al sector publico, proveedores tecnologicos o actores que interactuan con el Estado, no es una novedad menor. La resolucion ordena la adopcion de estas herramientas con criterios de razonabilidad, supervision humana, transparencia y trazabilidad, y ademas impone obligaciones concretas de evaluacion, documentacion y gobernanza de datos segun el nivel de riesgo del sistema involucrado.

Alcance y finalidad del marco regulatorio

Desde su publicacion, la Resolucion 9/2025 se consolida como el marco obligatorio para el uso de Inteligencia Artificial dentro de la administracion publica provincial bonaerense. Su alcance comprende a los organismos centralizados y descentralizados que desarrollen, adopten, contraten o utilicen sistemas basados en IA en el ejercicio de sus funciones.

El objetivo declarado es asegurar que estas tecnologias se implementen de manera razonable, confiable y respetuosa de los derechos fundamentales. En terminos practicos, la provincia unifica criterios juridicos y operativos para reducir riesgos, mejorar la transparencia y fortalecer la trazabilidad de decisiones publicas asistidas por algoritmos.

Principios rectores y lineamientos para el uso institucional de IA

La resolucion fija un conjunto amplio de principios aplicables a todo el ciclo de vida de los sistemas de IA utilizados por organismos provinciales. No se trata de enunciados decorativos: funcionan como pautas de diseno, contratacion, implementacion, control y rendicion de cuentas.

Entre los lineamientos mas relevantes aparecen la neutralidad tecnologica y la razonabilidad tecnologica, que obligan a justificar por que el uso de IA representa una mejora concreta frente a herramientas tradicionales. Tambien se destaca la centralidad de la persona humana, que exige supervision humana efectiva y mantiene en cabeza del Estado provincial la responsabilidad final por las decisiones asistidas por sistemas automatizados.

El texto incorpora, ademas, el respeto por los derechos humanos y los valores democraticos, la igualdad y la no discriminacion, el crecimiento inclusivo para atender impactos de la brecha digital y el respeto del medioambiente por la huella asociada a estas tecnologias. En materia de datos, pone especial enfasis en privacidad, autodeterminacion informativa y proteccion reforzada de datos sensibles.

La norma tambien exige transparencia, trazabilidad y auditabilidad, de modo que los procesos y resultados puedan documentarse y verificarse. A eso suma responsabilidad demostrada, seguridad, innovacion responsable y capacitacion permanente como condiciones necesarias para sostener un uso institucional licito y controlable.

Clasificacion de riesgos y obligaciones operativas vinculadas

La resolucion adopta un enfoque basado en niveles de riesgo para definir obligaciones diferenciadas. El esquema se asemeja al utilizado por el AI Act europeo y distingue entre riesgo inaceptable, alto, limitado y nulo.

En la categoria de riesgo inaceptable, la administracion provincial no puede utilizar tecnologias que manipulen conductas mediante tecnicas subliminales, exploten vulnerabilidades de grupos especificos o implementen mecanismos de scoring social capaces de afectar el acceso a servicios o decisiones administrativas.

Los sistemas de alto riesgo, en cambio, no quedan prohibidos, pero quedan sujetos a exigencias reforzadas. La resolucion incluye dentro de este universo herramientas con impacto significativo sobre derechos fundamentales, como identificacion biometrica, infraestructura critica, justicia, educacion o relaciones laborales. Para estos casos exige una Evaluacion de Impacto Algoritmica previa, destinada a detectar riesgos legales, tecnicos, eticos y sociales antes de su puesta en funcionamiento.

En el nivel de riesgo limitado aparecen herramientas con impacto acotado, como ciertos chatbots genericos que no procesan datos sensibles. Aun en estos supuestos la resolucion exige medidas basicas de transparencia. En riesgo nulo se ubican soluciones automatizadas de impacto insignificante, como filtros de spam.

Hay una regla transversal para todos los organismos: advertir de forma previa y clara cuando una interaccion es realizada por un sistema automatico. Esa exigencia refuerza transparencia y autodeterminacion informativa, y obliga a revisar interfaces, avisos y flujos de atencion al ciudadano.

Gestion de datos, gobernanza institucional y Registro Provincial de IA

La resolucion dedica un tramo central a la gobernanza de datos. Define datos de entrenamiento como los conjuntos de datos utilizados para ensenar a un modelo a operar y exige que su recopilacion, uso, conservacion y eliminacion respeten la normativa vigente, permitan auditorias y contemplen salvaguardas especiales cuando involucren datos personales o sensibles.

Los organismos provinciales deben implementar politicas de calidad de datos, controles tecnicos y documentacion suficiente para asegurar rastreabilidad durante todo el ciclo de vida del sistema. Esto no solo impacta en desarrollos propios, sino tambien en contrataciones con terceros, donde la debida diligencia sobre datasets, controles y registros pasa a ser parte del analisis juridico y contractual.

Como mecanismo estructural, la norma crea el Registro Provincial de Inteligencia Artificial, en el que deberan inscribirse los sistemas utilizados por la administracion publica provincial. La Direccion Provincial de Innovacion Digital actuara como autoridad de aplicacion, con facultades para emitir lineamientos complementarios, supervisar el cumplimiento y sostener tareas de evaluacion continua.

Que implica para abogados y clientes

Para quienes asesoran organismos publicos, la resolucion obliga a revisar procesos de contratacion, bases de licitacion, matrices de riesgo, clausulas de tratamiento de datos, responsabilidades por supervision humana y mecanismos de auditoria. Ya no alcanza con evaluar si una solucion tecnologica funciona: ahora tambien debe acreditarse por que su uso es juridicamente defendible y operacionalmente trazable.

Para proveedores de tecnologia, integradores y consultoras que venden o implementan IA para el sector publico bonaerense, el cambio eleva el estandar documental y de cumplimiento. La clasificacion por riesgos, la exigencia de evaluaciones previas y la futura inscripcion registral pueden impactar tanto en la oferta comercial como en la asignacion contractual de responsabilidades.

Para estudios y equipos de compliance, el marco abre un frente concreto de trabajo en privacidad, sesgos, transparencia algoritmica, evidencia de control y gobernanza institucional. Es una norma con potencial de irradiacion practica mas alla de la provincia, porque ofrece una referencia regulatoria local para discutir adopcion responsable de IA en el sector publico.

Que conviene revisar ahora

La revision inmediata deberia incluir:

• identificar que sistemas de IA ya estan en uso, desarrollo o contratacion dentro del organismo o cliente involucrado;
• clasificar preliminarmente esas herramientas segun su nivel de riesgo regulatorio;
• relevar si existen interacciones automatizadas con ciudadanos que hoy no se informan de manera clara;
• revisar datasets, politicas de calidad, contratos con proveedores y resguardos sobre datos personales o sensibles;
• anticipar si algun sistema debera pasar por Evaluacion de Impacto Algoritmica o futura inscripcion en el Registro Provincial.

Para abogados que asesoran administracion publica, tecnologia o regulacion, la Resolucion 9/2025 no es solo una declaracion institucional. Es un marco operativo que introduce deberes concretos de control, documentacion y trazabilidad sobre sistemas de IA con impacto directo en decisiones estatales.

Conceptos clave

• Datos sensibles: subcategoria de datos personales cuyo uso indebido puede generar discriminacion o afectar gravemente la privacidad, como informacion sobre salud, orientacion sexual, creencias religiosas o politicas.
• Scoring social: mecanismo que asigna puntajes o calificaciones a personas segun conductas o caracteristicas, con potencial impacto en el acceso a servicios o decisiones administrativas.
• Evaluacion de Impacto Algoritmica: analisis previo orientado a detectar riesgos legales, tecnicos, eticos y sociales antes de implementar un sistema de IA, especialmente cuando se trata de herramientas de alto riesgo.
• Chatbots: sistemas automatizados capaces de interactuar mediante lenguaje natural. Su riesgo regulatorio varia segun el tipo de datos que procesan y el nivel de incidencia que tengan sobre decisiones publicas.
• Gobernanza: conjunto de politicas, procesos y controles que ordenan como una organizacion disena, implementa, supervisa y audita sistemas tecnologicos, algoritmos y datos.
• Autodeterminacion informativa: principio que reconoce el derecho de las personas a conocer, controlar y decidir como se recolectan, usan y conservan sus datos personales.
• Brecha digital: desigualdad en el acceso, uso o aprovechamiento de tecnologias digitales, capaz de generar impactos diferenciados cuando la IA se aplica a servicios publicos.

Fuente oficial: Resolucion 9/2025 de la Subsecretaria de Gobierno Digital de la Provincia de Buenos Aires, publicada el 28/11/2025.