California Desafía a Trump con Nuevas Reglas de IA para Contratos Estatales

El conflicto entre Washington y los estados sobre la política de inteligencia artificial escaló el lunes después de que el gobernador de California, Gavin Newsom, firmara una orden ejecutiva que exige mayores salvaguardas a las empresas de IA que buscan contratos estatales.

Según la orden, las empresas que vendan sistemas de IA a agencias de California deberán demostrar políticas que prevengan el uso indebido y protejan la privacidad, la seguridad y los derechos civiles.

“California siempre ha sido la cuna de la innovación. Pero también entendemos el lado opuesto: en manos equivocadas, la innovación puede ser mal utilizada de formas que ponen a las personas en riesgo”, señaló Newsom en un comunicado. “California lidera en IA, y vamos a usar todas las herramientas que tenemos para garantizar que las empresas protejan los derechos de las personas, no los exploten ni los pongan en peligro. Mientras otros en Washington diseñan políticas y crean contratos bajo la sombra del uso indebido, nosotros estamos enfocados en hacerlo de la manera correcta”.

La orden de Newsom instruye a la Agencia de Operaciones Gubernamentales del estado a desarrollar estándares de contratación para proveedores de IA que aborden temas como la generación de contenido ilegal, el sesgo de los modelos y los riesgos para los derechos civiles y la libertad de expresión. La orden también instruye al Departamento de Tecnología de California a elaborar recomendaciones para el uso de marcas de agua en imágenes generadas por IA y videos manipulados.

La orden pone a California en conflicto con el esfuerzo de la administración de Donald Trump por establecer estándares nacionales de IA y limitar la regulación a nivel estatal. A principios de este mes, la administración Trump presentó un marco de política nacional de inteligencia artificial en el que instó al Congreso a establecer estándares federales y reducir lo que los funcionarios describen como un mosaico de regulaciones estatales de IA.

Kevin Frazier, investigador adjunto del Instituto Cato, afirmó que la disputa refleja un equilibrio constitucional de larga data entre la autoridad estatal y federal.

“Cada avance tecnológico —desde el barco de vapor hasta la superinteligencia— plantea preguntas clave sobre cómo distribuir la autoridad regulatoria entre los estados y el gobierno federal”, dijo Frazier a Decrypt. “La Constitución ofrece una respuesta clara: el gobierno federal debe liderar en asuntos de seguridad económica y nacional, así como en aquellos que exigen una respuesta uniforme; los estados pueden ejercer sus poderes de policía tradicionales dentro de sus fronteras”.

Frazier calificó la orden ejecutiva de Newsom como “un ejemplo paradigmático del federalismo en acción” y señaló que las empresas que rechacen los requisitos de California pueden optar por no vender al estado.

“Mientras tanto, el Congreso sigue en posición de fijar los términos del ritmo y la dirección de las ambiciones de IA del país”, agregó.

Quinn Anex-Reis, analista senior de políticas del Centro para la Democracia y la Tecnología, indicó que el tamaño y el poder adquisitivo de California podrían influir en la forma en que las empresas diseñan y prueban sus sistemas de IA si quieren vender al estado.

“Los contratos gubernamentales son muy valiosos para las empresas”, dijo Anex-Reis a Decrypt. “Es una parte enorme del negocio para los desarrolladores de tecnología en general, y una vía cada vez más importante para los desarrolladores de IA en particular”.

Añadió que las normas de contratación son una de las formas más eficaces que tienen los gobiernos para moldear el desarrollo y la evaluación de los sistemas de IA.

“El proceso de contratación es un lugar realmente importante al que prestar atención”, afirmó Anex-Reis. “Porque es realmente el lugar más importante donde el estado puede establecer protecciones y expectativas sobre cómo los proveedores desarrollan sus herramientas”.

Newsom ha emergido como una figura nacional del Partido Demócrata y posible candidato presidencial para 2028. Una encuesta reciente de Politico–UC Berkeley Citrin Center lo encontró liderando a la exvicepresidenta Kamala Harris por 14 puntos entre los votantes demócratas probables en las primarias de California.

El choque de políticas en torno a la regulación de la IA lo coloca en conflicto directo con la administración Trump, en un momento en que se intensifican los debates sobre quién debe establecer las reglas que rigen la tecnología. El verano pasado, la administración Trump ordenó a las agencias federales evitar contratos con lo que denominó modelos de IA “woke” y adquirir sistemas que demuestren neutralidad ideológica.

Sin embargo, Anex-Reis señaló que la cuestión de la regulación de la IA va más allá de la política.

“Esto realmente no debería ser un asunto político”, señaló Anex-Reis. “Se trata verdaderamente de garantizar que el dinero de los contribuyentes no se desperdicie y que las herramientas que compra nuestro gobierno funcionen”.