Formato de impresión

Estados Unidos exige más garantías y transparencia para el uso de la IA por parte de la Administración

2024-03-28

Por David Shepardson

28 mar (Reuters) - La Casa Blanca anunció el jueves que exigirá a las agencias federales que utilizan inteligencia artificial que adopten medidas "concretas" antes del 1 de diciembre para proteger los derechos de los estadounidenses y garantizar la seguridad de cara al uso por parte de la Administración de la IA en una amplia gama de aplicaciones.

La Oficina de Gestión y Presupuesto emitió una directiva para que las agencias federales supervisen, evalúen y prueben los impactos de la IA "en el público, mitiguen los riesgos de discriminación algorítmica y proporcionen al público transparencia sobre cómo utiliza la Administración la IA".

Las agencias también deben realizar evaluaciones de riesgos y establecer métricas operativas y de gobernanza.

Según la Casa Blanca, las agencias "estarán obligadas a aplicar salvaguardias concretas cuando utilicen la IA de un modo que pueda afectar a los derechos o la seguridad de los estadounidenses", incluida la divulgación pública detallada para que el público sepa cómo y cuándo utiliza la Administración la inteligencia artificial.

El presidente Joe Biden firmó una orden ejecutiva en octubre invocando la Ley de Producción de Defensa para exigir a los desarrolladores de sistemas de IA que planteen riesgos para la seguridad nacional, la economía, la salud pública o la seguridad de Estados Unidos que compartan los resultados de las pruebas de seguridad con el Gobierno de Estados Unidos antes de divulgarlos públicamente.

La Casa Blanca informó el jueves de que las nuevas salvaguardias garantizarán que los viajeros aéreos puedan optar por no utilizar el reconocimiento facial de la Administración de Seguridad en el Transporte sin retrasos en los controles. Cuando la IA se utilice en la sanidad federal para apoyar decisiones diagnósticas, un humano deberá supervisar "el proceso para verificar los resultados de las herramientas".

La IA generativa —que puede crear textos, fotos y vídeos en respuesta a preguntas abiertas— ha suscitado tanto entusiasmo como temores de que pueda provocar la pérdida de puestos de trabajo, alterar las elecciones y, potencialmente, imponerse a los humanos con efectos catastróficos.

La Casa Blanca está exigiendo a las agencias gubernamentales que publiquen inventarios de casos de uso de la IA, informen de las métricas sobre el uso de la IA y publiquen el código, los modelos y los datos de IA propiedad del Gobierno si no plantean riesgos.

El Gobierno de Biden citó los usos actuales de la IA a nivel federal, incluida la Agencia Federal de Gestión de Emergencias que emplea la IA para evaluar los daños estructurales causados por los huracanes, mientras que los Centros para el Control y la Prevención de Enfermedades utilizan la IA para predecir la propagación de enfermedades y detectar el consumo de opiáceos. La Administración Federal de Aviación está utilizando la IA para ayudar a "desconfigurar el tráfico aéreo en las principales áreas metropolitanas para mejorar los tiempos de los desplazamientos".

La Casa Blanca tiene previsto contratar a 100 profesionales de la IA para promover su uso seguro y está exigiendo a los organismos federales que designen responsables principales de IA en un plazo de 60 días.

En enero, el Gobierno de Biden propuso exigir a las empresas estadounidenses de la nube que determinen si entidades extranjeras acceden a centros de datos estadounidenses para entrenar modelos de IA mediante normas de "conozca a su cliente".