La Casa Blanca desveló el lunes una amplia orden ejecutiva destinada a frenar los riesgos y «aprovechar las promesas» de la inteligencia artificial, mientras el presidente Joe Biden apunta a complicadas cuestiones en torno a esta tecnología en rápida evolución que los legisladores han tenido dificultades para abordar de forma significativa.
La orden esboza «las medidas más amplias jamás adoptadas para proteger a los estadounidenses de los riesgos potenciales de la IA» y reunirá a las agencias gubernamentales y a la industria para abordar cuestiones como la privacidad, la fiabilidad y la seguridad, según informó la Casa Blanca en un comunicado.
A las empresas que desarrollen potentes sistemas de IA que puedan suponer una amenaza para la seguridad nacional, la economía o la salud pública se les exigirá que compartan los resultados de las pruebas de seguridad y otra información crítica con el gobierno de EE.UU. en virtud de la Ley de Producción de Defensa de la época de la Guerra Fría, dijo la Casa Blanca.
También se ordenará al Instituto Nacional de Estándares y Tecnología que cree un nuevo conjunto de «estándares rigurosos» para probar los sistemas de IA antes de que salgan al mercado y las agencias que financian proyectos de ciencias de la vida utilizarán estos estándares como condición para las subvenciones para «protegerse contra los riesgos de utilizar la IA para diseñar materiales biológicos peligrosos».
La orden también tiene como objetivo impulsar la protección de los consumidores y abordar las áreas en las que la IA podría alimentar la discriminación, incluyendo la provisión de orientación a los propietarios y los programas de beneficios sobre cómo prevenir la discriminación algorítmica, el desarrollo de directrices que las agencias pueden utilizar para evaluar las cuestiones de privacidad en la IA y la elaboración de mejores prácticas sobre cómo la IA puede ser utilizada dentro del sistema de justicia.
La administración dijo que también está abordando las falsificaciones y otras formas en que la IA alimenta la desinformación y la Casa Blanca dijo que el Departamento de Comercio desarrollará directrices para autenticar claramente y poner marcas de agua al contenido generado por IA que se utilizará en las comunicaciones oficiales del gobierno «para que sea fácil para los estadounidenses saber» que lo que ven del gobierno es real. Se espera que Biden firme la orden en un acto el lunes.
La Casa Blanca dijo que la orden marca el intento más fuerte de un gobierno para abordar la IA. El vicejefe de gabinete de la Casa Blanca, Bruce Reed, en declaraciones a los periodistas sobre la nueva orden, dijo que la Administración Biden «está poniendo en marcha el conjunto de medidas más enérgicas que ningún gobierno del mundo haya tomado jamás en materia de seguridad, protección y confianza en la IA», según Axios. Reed dijo que la orden ejecutiva es «el siguiente paso en una estrategia agresiva para hacer todo lo posible en todos los frentes para aprovechar los beneficios de la IA y mitigar los riesgos». Estas declaraciones pueden irritar a los legisladores europeos, que están a punto de aprobar un ambicioso marco legal que marcaría el primer conjunto de leyes armonizadas del mundo que abordan la IA.
Compromisos para mitigar los riesgos de la IA
La orden ejecutiva se basa en los compromisos voluntarios que la Casa Blanca consiguió en julio de líderes del sector como OpenAI, fabricante de ChatGPT, Meta, Amazon y Alphabet. Las empresas se comprometieron a acatar una serie de salvaguardias para mitigar los riesgos de la IA, pero no existía ningún mecanismo para hacer cumplir la participación ni un castigo significativo en caso de que se desviaran. Este tipo de autorregulación se ha convertido en un tema recurrente en la tecnología en los últimos años, ya que el rápido ritmo de desarrollo ha superado la capacidad de los legisladores para seguirle el ritmo.
Los riesgos de la IA han sido un tema de debate entre reguladores, líderes cívicos, tecnólogos y legisladores durante años, pero ha adquirido un nuevo sentido de urgencia con el lanzamiento de sistemas de IA generativa como ChatGPT, que ha sido rápidamente adoptado por el público y puede generar contenidos como texto, música, arte, datos y vídeo desde cero. Plantea una serie de cuestiones jurídicas, sociales y éticas que no pueden resolverse fácilmente, como quién es el propietario de los productos elaborados a partir de un sistema entrenado con el trabajo de muchos otros y cómo evitar que los sistemas de IA reproduzcan y refuercen los sesgos y la discriminación de los datos con los que se entrenan. Como las empresas guardan celosamente sus productos y los datos utilizados para diseñarlos, muchas afirmaciones de transparencia han sido tratadas con escepticismo.
A qué prestar atención
Líderes del gobierno y de las principales empresas tecnológicas se reunirán en el Reino Unido para celebrar una cumbre de alto nivel sobre la seguridad de la IA a finales de esta semana. Estados Unidos estará representado por la vicepresidenta Kamala Harris, que pronunciará un discurso sobre el enfoque de la administración respecto a la IA.