La mañana del 20 de octubre de 2015, un joven equipo de investigación invitó a un hombre con ceguera legal a subir a un coche en una calle residencial de Austin, donde viajó durante 10 minutos sin nadie al volante.
Este fue el primer trayecto totalmente autónomo en una vía pública de Estados Unidos, cortesía del equipo que más tarde se convertiría en Waymo.
Ahora, once años después, puedo sentarme en un Waymo sin conductor y recorrer las calles de San Francisco mientras respondo a mensajes de Slack. La presencia de los Waymo sin conductor ha pasado a un segundo plano en la ciudad; salvo algunos turistas en Market Street, ya casi nadie se sorprende al ver un coche totalmente autónomo con el asiento del conductor vacío.
Cuando los líderes empresariales me preguntan cómo incorporar una IA fiable a la empresa, mi respuesta comienza con la «capa de confianza», que es exactamente lo que Waymo construyó entre esos dos viajes. A continuación explico cómo, en nuestra empresa, generamos confianza a través de la gobernanza.
Cómo se ganó Waymo la confianza necesaria
Waymo acumuló decenas de millones de millas supervisadas, y miles de millones más en simulación, bajo la supervisión más estricta en las decisiones más difíciles a las que una máquina puede enfrentarse. Estas millas registradas generaron un historial que los reguladores, las aseguradoras y las ciudades podían auditar libremente, lo que culminó en un registro que muestra un 90 % menos de accidentes con lesiones graves que con conductores humanos en las mismas ciudades.
Waymo se ganó el derecho a dejar el asiento del conductor vacío al aportar pruebas en las que terceros pudieran confiar y que pudieran verificar. Tras demostrar una gobernanza repetible conforme a las medidas de seguridad exigidas, la autonomía pudo seguir su curso.
La confianza es la propiedad emergente de una gobernanza transparente. Esto es válido tanto para un coche en un cruce con cuatro stops como para un agente de IA a punto de aprobar la renovación de un software empresarial de siete cifras.
Ejecutivos preparados para una autonomía en la que puedan confiar
En mi trabajo, hablo con ejecutivos que buscan formas nuevas, más rápidas y más autónomas de gestionar las compras y el abastecimiento. Están deseando que los procesos de abastecimiento se desarrollen por sí solos y que las renovaciones se negocien sin que haya un humano en cada paso del proceso. Los responsables financieros con los que hablo quieren un cierre de cuentas que no obligue a la mitad del equipo a dedicarse a las periodificaciones durante la última semana del mes.
Según nuestra reciente encuesta (se requiere iniciar sesión) realizada a 1.050 responsables de compras, finanzas, TI y operaciones, el 93 % espera que la tecnología de compras cambie de forma significativa en los próximos tres a cinco años. Esperamos que tengan razón en eso.
Pero casi nadie puede predecir el alcance exacto de este futuro. Solo el 13 % afirma poder planificar con confianza con una antelación de tres a cinco años. Solo el 2 % espera una función de compras totalmente autónoma.
Al mismo tiempo, casi todo el mundo utiliza en su trabajo herramientas de IA que aceleran y automatizan una enorme cantidad de tareas cotidianas, y está claro que muchos de nosotros nos estamos volviendo dependientes de ellas, quizás en exceso.
Aunque la mayoría de los líderes empresariales afirman que utilizan la IA «varias veces al día» -y yo soy uno de ellos-, muchos señalan que también utilizan herramientas de IA que sus empresas no han autorizado ni proporcionado. Se trata de ejecutivos con amplia experiencia, no de becarios de verano.
Una IA no autorizada y sin control que se extiende sin freno por la empresa es un riesgo que se agrava. No es algo que ningún auditor quiera oír.
Los líderes que esperan un cambio tienen razón en cuanto a dónde conduce esto en teoría, pero no están seguros de cómo llegar hasta allí en la práctica. La autonomía no es el resultado de que los laboratorios de vanguardia construyan modelos cada vez mejores que den lugar a juguetes nuevos y más llamativos; se consigue milla a milla, bajo una gestión adecuada, tal y como ocurrió en las carreteras de Austin.
La limitación: permiso, no capacidad
La IA ya es capaz de mucho más de lo que la mayoría de las empresas creen o de lo que están aprovechando. Lo que falta para la escalabilidad es el permiso, y el permiso es una cuestión de gobernanza. En esta era en la que los agentes «se rebelan», la empresa necesita más que nunca unas barreras de seguridad.
La gobernanza integrada garantiza que la IA se adhiera a las políticas de su empresa, actúe dentro de los mismos límites que un empleado y deje un registro que un auditor pueda reconstruir. A medida que ese registro se acumula, el conjunto de decisiones que se le confían por naturaleza puede ampliarse.
La alternativa es el enfoque que vemos aplicar hoy en día a demasiadas empresas: un esbozo de políticas que los sistemas no están diseñados para hacer cumplir. Las instrucciones de política sin un mecanismo estricto de cumplimiento no constituyen gobernanza.
Quienes están creando estos mecanismos con nuevas bases en mente ya están obteniendo resultados. Pocas de las organizaciones encuestadas informaron de un retorno de la inversión (ROI) claro y cuantificable derivado de las inversiones en IA en su tecnología de compras. Sin embargo, la mayoría ha otorgado a las compras un papel central o colaborativo en la gobernanza de la IA.
Estamos desarrollando una herramienta para implantar adecuadamente una capa de confianza en la IA para las áreas de compras y finanzas, las funciones más difíciles de gobernar adecuadamente en cualquier empresa.
Un agente al que se le confía la tarea de aprobar gastos de acuerdo con la política, negociar dentro de unos límites críticos y participar en el cierre financiero ha superado un listón más alto que el que exige cualquier otra función. Si la IA puede ganarse la confianza allí donde se mueve el dinero, puede ganársela en cualquier parte, y todo lo que venga después se construirá sobre esa base.
Todas las empresas tendrán que acabar, inevitablemente, con políticas de IA reguladas.
La elección a la que se enfrentan hoy los líderes empresariales es si inculcan ellos mismos esta capa de confianza o la heredan de un regulador, un auditor o un incidente.
Aquellos que solo se pregunten cómo la IA puede acelerar su negocio obtendrán una respuesta que suena impresionante. Llevarán a cabo sus proyectos piloto, publicarán un blog corporativo sobre la transformación y quizá pronto descubran que no pueden confiar en lo que han creado para los gastos críticos para el negocio.
Aquellos que empiecen preguntándose en qué se le debe confiar a la IA entregarán a sus equipos «superagentes» regulados que trabajen dentro de unos límites de seguridad, a los que luego se les permitirá trabajar de forma autónoma, generar valor de forma sostenible y hacer crecer el negocio de forma exponencial.
*Este artículo ha sido traducido de Forbes.com y escrito por Rujul Zaparde, miembro de los Consejos de Forbes.