El acuerdo contempla la creación de un equipo de evaluadores integrado en Anthropic, que trabajará con los equipos internos y los socios de seguridad de la compañía de IA para examinar sus modelos, identificar potenciales vulnerabilidades, realizar evaluaciones de alineamiento y poner a prueba las salvaguardas incorporadas a estos sistemas.
Accenture aportará a esta iniciativa su experiencia en inteligencia artificial responsable y las capacidades técnicas y de seguridad de Faculty, firma de IA aplicada adquirida por la consultora. Faculty ha desarrollado pruebas y evaluaciones de modelos para algunos de los principales laboratorios de IA y cuenta con experiencia en proyectos para administraciones públicas, defensa, sanidad e infraestructuras.
Entre sus trabajos figura el desarrollo del Sistema de Alerta Temprana del Servicio Nacional de Salud británico (NHS) durante la pandemia de Covid-19.
La presidenta y consejera delegada de Accenture, Julie Sweet, ha señalado que la compañía está formando un equipo especializado con conocimientos en IA, seguridad y diferentes sectores para colaborar con Anthropic.
«La seguridad requiere tanto un profundo conocimiento técnico como una comprensión clara de cómo se utiliza la IA en el mundo real», ha subrayado Sweet, quien ha definido la evaluación integrada como un ámbito emergente y ha confiado en que la alianza contribuya a acelerar el desarrollo de estos profesionales dentro del ecosistema de seguridad.
Por su parte, el director de Tecnología de Accenture y consejero delegado de Faculty, Marc Warner, ha destacado que la firma fue creada bajo la premisa de que la IA debe ser «segura por diseño» y ha defendido que la integración en Accenture permite desplegar estas capacidades a una escala con impacto en el sector.