La Provincia exige supervisión humana, evaluación de riesgos, trazabilidad y registro para los sistemas de Inteligencia Artificial utilizados por la administración pública. Los usos considerados de riesgo inaceptable estarán prohibidos.
En momentos en que la Inteligencia Artificial vuelve a quedar en el centro de un debate mundial sobre sus alcances, riesgos y mecanismos de control, la provincia de Buenos Aires ya comenzó a establecer límites para su utilización dentro del Estado. A través de un marco normativo impulsado por la Subsecretaría de Gobierno Digital, la administración de Axel Kicillof fijó las condiciones que deberán cumplir los organismos bonaerenses cuando desarrollen o incorporen sistemas basados en IA.
La discusión internacional recobró fuerza en los últimos días a partir de nuevas advertencias provenientes incluso de investigadores vinculados a las principales compañías del sector. Jacob Coxon, quien trabajó en OpenAI y Anthropic, dejó esta última empresa y cuestionó la velocidad con la que avanza el desarrollo de sistemas cada vez más capaces sin que, a su entender, estén completamente resueltos los mecanismos para mantenerlos bajo control. Sus planteos más extremos no representan un consenso científico, pero volvieron a poner sobre la mesa una pregunta que empieza a trascender a Silicon Valley: qué decisiones pueden delegarse en una máquina y cuáles deberían permanecer necesariamente bajo responsabilidad humana.
Buenos Aires empezó a construir su propia respuesta antes de que esta polémica volviera a escalar. Mediante la Resolución 9/2025, la Provincia estableció un marco para el desarrollo, implementación y utilización responsable de Inteligencia Artificial dentro de la administración pública. Su alcance es específico: no regula a las empresas privadas ni el desarrollo general de IA en territorio bonaerense, sino las herramientas que utilice o desarrolle el propio Estado provincial.
Uno de los pilares de la regulación es precisamente el control humano. La normativa establece que la responsabilidad final, la supervisión y el control deberán permanecer en manos de personas, incluso cuando un organismo utilice algoritmos para automatizar tareas, analizar información o asistir en determinados procesos. También obliga a implementar mecanismos de protección frente a usos que se aparten, de manera intencional o accidental, del propósito para el que fue incorporado el sistema.
La Provincia decidió además clasificar las herramientas de Inteligencia Artificial según el riesgo que puedan representar para la seguridad y los derechos fundamentales. El esquema contempla cuatro niveles: riesgo inaceptable, alto, limitado y nulo o mínimo. Los sistemas considerados de riesgo inaceptable directamente no podrán ser utilizados por la administración pública, mientras que aquellos clasificados como de alto riesgo deberán someterse a una evaluación de impacto algorítmico y contar con medidas de mitigación durante todo su ciclo de vida.
El marco introduce también dos conceptos que apuntan directamente a cómo deberá incorporar tecnología el Estado: neutralidad tecnológica y razonabilidad tecnológica. Esto implica que la administración no debería adoptar Inteligencia Artificial simplemente porque exista una herramienta disponible o porque su utilización se haya convertido en tendencia, sino cuando pueda justificarse que representa una mejora sustancial en costos, eficiencia o eficacia frente a otras alternativas.
El principio resulta relevante en momentos en que organismos públicos y empresas aceleran la incorporación de soluciones identificadas como IA en procesos de todo tipo. Bajo el criterio establecido por la Provincia, utilizar Inteligencia Artificial no constituye por sí mismo una modernización del Estado: deberá existir una razón concreta que justifique su implementación.
Otro punto central es la trazabilidad. Los organismos deberán contar con procedimientos y registros capaces de reconstruir las distintas etapas de funcionamiento de los sistemas, identificar las herramientas utilizadas y permitir posteriormente su evaluación. La intención es evitar que una decisión pública termine dependiendo de un algoritmo cuyo funcionamiento no pueda ser explicado ni auditado.
En esa línea, la normativa creó el Registro Provincial de Sistemas de Inteligencia Artificial, en el que los organismos de la administración bonaerense deberán inscribir las herramientas de IA que desarrollen o utilicen. El mecanismo permitirá, al menos formalmente, conocer dónde está siendo utilizada esta tecnología dentro del Estado, con qué finalidad y bajo qué condiciones.
La resolución incorpora además principios relacionados con la privacidad y protección de datos personales, transparencia, equidad, respeto por los derechos fundamentales y autodeterminación informativa. También contempla específicamente la brecha digital y establece que los organismos deberán considerar los posibles perjuicios que estas tecnologías pueden generar sobre personas que se encuentren en situaciones de mayor vulnerabilidad frente a los entornos digitales.
El punto más complejo comenzará, sin embargo, cuando las reglas deban convertirse en controles concretos. Registrar un sistema de IA no equivale necesariamente a poder auditarlo. Determinar qué nivel de riesgo representa una herramienta, evaluar modelos complejos, controlar proveedores tecnológicos y verificar cómo un algoritmo llega a determinados resultados requiere especialistas y capacidades técnicas dentro del propio Estado.
Ese será uno de los principales desafíos para la administración bonaerense. La Provincia cuenta con un marco que incorpora varios de los conceptos que actualmente atraviesan el debate internacional —supervisión humana, evaluación de riesgos, trazabilidad y responsabilidad—, pero su efectividad dependerá de la capacidad para trasladarlos desde una resolución hacia el funcionamiento cotidiano de los organismos públicos.
Mientras las principales compañías tecnológicas continúan acelerando el desarrollo de modelos cada vez más sofisticados y crece el debate mundial sobre quién debe ponerles límites, Kicillof decidió establecer una primera frontera dentro de su propia administración: el Estado bonaerense podrá utilizar Inteligencia Artificial, pero no de cualquier manera. El próximo paso será demostrar que, además de regularla, cuenta con las herramientas necesarias para entender y controlar la tecnología que empieza a incorporar.
