Aparte de los riesgos conocidos, cerca de un tercio de los riesgos de la inteligencia artificial (IA) son desconocidos, pero existen. Recientemente, investigadores del MIT CSAIL y del MIT FutureTech han creado una base de datos de acceso público, extraída de informes, revistas y otros documentos, para arrojar luz sobre los riesgos que los expertos en IA revelan a través de artículos, informes y otros documentos.
La base de datos, compuesta por más de 700 riesgos de la IA, revela que se atribuyen más a los sistemas de IA (51%) que a los humanos (34%), y que es más probable que aparezcan una vez desplegada la IA (65%) que durante su desarrollo (10%). Sin embargo, incluso los marcos de IA más exhaustivos pasan por alto aproximadamente el 30% de los riesgos identificados en todos los factores que aparecen en la base de datos.
Los ámbitos de riesgo abordados con más frecuencia son los siguientes:
- «Seguridad, fallos y limitaciones del sistema de IA» 76% de los documentos
- «Daños socioeconómicos y medioambientales» 73%.
- «Discriminación y toxicidad» 71%.
Otros riesgos citados en la base de datos del MIT son «la privacidad y la seguridad» (68%) y «los agentes malintencionados y el uso indebido» (68%). En cambio, la «interacción persona-ordenador» (41%) y la «desinformación» (44%) preocupan algo menos.
Estos riesgos de referencia ayudarán a comprender mejor los riesgos frente a los beneficios de la entrada de esta nueva fuerza en el panorama empresarial. Sin embargo, el reto consiste en comprender exactamente cuándo se cruza el umbral en el que las recompensas superan a los riesgos. Los expertos y líderes del sector afirman que aún no hemos llegado a ese punto.
«Introducir una nueva tecnología es siempre un reto importante en cualquier organización, y la IA es bastante compleja», explica a Forbes W. Raghupathi, profesor de la Gabelli School of Business de la Universidad de Fordham. «La escala, la complejidad y la dificultad de implantación y despliegue, las actualizaciones, el soporte, etc., son cuestiones relacionadas con la tecnología. Además, la privacidad, la seguridad, la confianza y la aceptación de usuarios y clientes son retos fundamentales. Justificar el coste –y no disponemos de buenos modelos de medición– es un reto importante».
A este reto se añade la velocidad casi cegadora a la que se está adoptando la IA, antes de que afloren los riesgos conocidos e imprevistos. «Tenemos que actuar rápido y pensar aún más rápido, respondiendo a las preguntas sobre la mejor manera de mostrar el valor que la IA puede añadir a la empresa –y si vale la pena el riesgo», dijo Jay Jamison, presidente de Producto y Tecnología de LogicGate. «Hay una amplia gama de soluciones de IA que pueden ser capaces de mejorar la eficiencia, pero ¿cómo deben medirse con factores como las directrices reglamentarias, los riesgos de seguridad y las necesidades adicionales de gobernanza?».
Es probable que incluso sea demasiado pronto para saber si las recompensas de la IA compensan los riesgos, afirma Raghupathi. «Hay un desfase entre el despliegue de aplicaciones y su impacto en el negocio. Las aplicaciones específicas, como la automatización de bajo nivel, tienen éxito, pero las aplicaciones de alto nivel que apoyan la estrategia aún no se traducen en beneficios tangibles».
Va a llevar tiempo –quizá años– «evaluar el impacto y los beneficios de las aplicaciones complejas frente a las aplicaciones sencillas que automatizan tareas específicas rutinarias y repetitivas», señala Raghupathi. «Medir el beneficio es nuevo y no tenemos puntos de referencia ni modelos cuantitativos».
Puede que la IA sea la que más bombo esté recibiendo en el sector en estos momentos, pero, inevitablemente, el entusiasmo se irá apagando a medida que nuevas generaciones de tecnología y enfoques generen nuevo entusiasmo. A medida que el bombo publicitario en torno a la IA retroceda –si es que no retrocede–, las empresas echarán un segundo y un tercer vistazo a sus riesgos frente a sus recompensas.
«A medida que la tecnología sea más potente, la IA exigirá cada vez más energía, y los costes aumentarán inevitablemente», señala Jamison. «Ahora mismo, la IA es muy valiosa y relativamente barata, lo que permite a una amplia gama de organizaciones disfrutar de sus beneficios. Pero no será así para siempre. Con el tiempo, llegará el momento de pagar la factura».
Se necesita una gobernanza de la IA más sólida para desarrollar una evaluación de riesgos más reveladora. «Las organizaciones deben considerar cómo y por qué planean utilizar la IA e identificar los riesgos potenciales que se derivan de su uso», dijo Jamison. «No pueden permitirse hacer la vista gorda: es fundamental contar con un plan que aborde cómo pueden utilizarse estas soluciones de IA de forma segura y eficaz».
