Si has visto la serie de HBO Juego de Tronos, probablemente conozcas la estrecha pero compleja relación que Daenerys Targaryen mantenía con sus tres dragones: Drogon, Rhaegal y Viserion. En la serie, los dragones son criaturas poderosas pero peligrosas. En el caso de Daenerys, dos de ellos resultaron ser demasiado incontrolables para que incluso ella, la madre de los dragones, pudiera controlarlos.
Puede que la inteligencia artificial (IA) no sea capaz de incinerar un ejército enemigo con una ráfaga de llamas, pero aun así, su asombroso poder me recuerda bastante al de aquellos dragones. Es mucho lo que la tecnología actual puede hacer, pero sus capacidades no deben tomarse a la ligera. El panorama de la IA todavía está plagado de retos éticos y legales, preocupaciones por la privacidad, sesgos incontrolados y alucinaciones. Para los líderes que estén considerando implantar la IA con agentes en sus operaciones, es esencial tener en cuenta estos riesgos.
Lo cierto es que no todas las empresas necesitan un agente de IA. ¿Estás pensando en crear el tuyo propio? Aquí hay tres cosas que debes evaluar.
1/ Tus clientes realmente no lo necesitan
Empresas de todo tipo han apostado por la IA, y el resultado ha sido una multitud de productos impulsados por la IA que nadie necesita, ni quiere. Pero subirse al carro de la IA con agentes sólo para estar a la altura de los demás, dotados de tecnología, no sólo puede ser contraproducente, sino también un lastre.
De hecho, una investigación publicada en el Journal of Hospitality Marketing & Management descubrió que, en lugar de señalar capacidades y características avanzadas, los productos que anuncian el uso de IA pueden en realidad repeler a los clientes. «Cuando se menciona la IA, tiende a disminuir la confianza emocional, lo que a su vez reduce las intenciones de compra», afirma Mesut Cicek, autor principal del estudio. «Descubrimos que la confianza emocional desempeña un papel fundamental en la forma en que los consumidores perciben los productos impulsados por IA».
Esto no quiere decir que la IA no sea transformadora para las empresas: el 79% de los estrategas corporativos están de acuerdo en que la IA es fundamental para el éxito, según Gartner. La clave está en asegurarse de que los agentes se implementan de forma que sirvan a los clientes, y no simplemente aprovechando la última moda. Las empresas deben realizar estudios de mercado, averiguar los puntos de fricción y escuchar las opiniones. Lo último que quieres es volcar tiempo, energía y dinero en una oferta que nunca necesitó existir.
2/ Esperas sustituir tu mano de obra humana
Lo que diferencia a los agentes de IA de los Modelos de Lenguaje Grandes (LLM, por sus siglas en inglés) es su capacidad para operar de forma autónoma: por ejemplo, mientras que un LLM puede generar respuestas de texto o resúmenes cuando se le solicita, un agente de IA puede programar tareas de forma proactiva, conectarse a sistemas externos (como correo electrónico o bases de datos) y ejecutar acciones por sí mismo, sin esperar a una solicitud humana.
Los agentes representan una oportunidad apasionante para las empresas que desean aumentar la eficiencia y ahorrar a sus empleados tareas aburridas y repetitivas. Pero si tu objetivo es eliminar a todos los miembros de carne y hueso de tu equipo a cambio de una plantilla hipereficiente y potenciada por la IA, estás enfocándolo mal.
Aunque la autonomía de la IA con agentes es una de sus características, también es uno de sus mayores riesgos. Su capacidad para actuar de forma independiente plantea numerosas amenazas, desde la exposición accidental a la privacidad o el envenenamiento de datos, que pueden tener consecuencias devastadoras. Como escribe Shomit Ghose en el Sutardja Center for Entrepreneurship and Technology de la Universidad de Berkeley: «Podríamos conceder cierta indulgencia a un chatbot impulsado por un LLM que alucina con una respuesta incorrecta, llevándonos a perder una apuesta en un bar. Seremos menos caritativos cuando una IA con agentes impulsada por LLM alucine una estrategia de day-trading en nuestras carteras de acciones».
Como líder, tu objetivo debe ser que los agentes de IA trabajen junto a tu equipo, no que lo sustituyan. El hecho es que los agentes son buenos, pero no infalibles. Si un agente comete un error que no se detecta hasta que es demasiado tarde, tu organización perderá una credibilidad que quizá nunca recupere.
3/ No estás prestando atención a las normativas gubernamentales ni a la gestión de riesgos
El rápido avance de los agentes de IA crea oportunidades sin precedentes para las empresas, pero sin una gobernanza adecuada, estos sistemas pueden convertirse rápidamente en pasivos. Un reto importante es que la IA opera de forma autónoma a través de vastos conjuntos de datos, aprendiendo y evolucionando de maneras que no siempre se alinean con las normas éticas o reglamentarias. Los directivos que estén considerando implantar la IA con agentes deben familiarizarse con todos los peligros potenciales y establecer marcos de supervisión estructurados para mitigarlos.
A medida que la toma de decisiones impulsada por la IA se vuelve más integral para las operaciones comerciales, las empresas deben establecer políticas claras en torno al cumplimiento, la transparencia y la responsabilidad. Esto incluye la adopción de modelos de gobernanza que se ajusten a todas las normativas vigentes, que están cambiando rápidamente.
Las organizaciones también deben integrar marcos de gestión de riesgos de IA para garantizar una supervisión continua y un despliegue ético.
Los agentes de IA, como los dragones de Daenerys, tienen un poder inmenso. Pero sin una estrategia cuidadosa y deliberada, pueden convertirse rápidamente más en un lastre que en un activo. En lugar de apresurarse a adoptar la IA para mantenerse a la moda, las empresas deben adoptar un enfoque mesurado, asegurándose de que sus agentes atienden necesidades reales, apoyan la experiencia humana y se adhieren a la evolución de la normativa.