Empresas

La IA de este multimillonario debía acelerar la vigilancia policial. No está funcionando bien

El condado de San Mateo invirtió 12 millones de dólares en un gran sistema de vigilancia con inteligencia artificial, creado por C3 AI, del multimillonario Tom Siebel, que supuestamente optimizaría la labor policial. Tres años después del inicio del proyecto, la policía afirma que aún no ha visto los beneficios.

Stefan Wermuth/Bloomberg

En junio de 2022, la Oficina del Sheriff del Condado de San Mateo organizó un día de diversión en el Campo de Tiro Coyote Point. El equipo de TI del departamento y el personal de C3 AI, una empresa con una capitalización bursátil de 2.400 millones de dólares fundada por el multimillonario Tom Siebel, fueron invitados a celebrar su trabajo en un nuevo sistema de vigilancia diseñado para unificar los datos policiales de las agencias de todo el condado en una sola aplicación. Después del almuerzo, el personal de C3 AI pudo practicar tiro al blanco en las mismas instalaciones donde entrenaban los policías. La elección del lugar no fue casual: en 2018, la fundación de Siebel donó 4,5 millones de dólares al condado para financiar la remodelación del campo de tiro.

En estrecha colaboración con C3 AI y su socio de larga data, Amazon Web Services, la Oficina del Sheriff quería conectar grandes cantidades de datos de al menos 15 agencias diferentes bajo su jurisdicción, recopilados de dispositivos como lectores de matrículas, cámaras de vigilancia, registros de arrestos, llamadas al 911 y bases de datos policiales históricas. El núcleo del Proyecto Sherlock, llamado así por el detective ficticio de Arthur Conan Doyle, era la inteligencia artificial capaz de recopilar los datos, encontrar pistas para los investigadores y proporcionar conocimiento de la situación a los policías en acción. El objetivo final era agilizar drásticamente el trabajo policial rutinario.

Para C3 AI, Sherlock iba a ser un contrato emblemático para la división de gobierno local de la empresa. Y fue tan crucial que el propio Siebel participó activamente en las primeras etapas del trabajo, incluyendo la redacción de secciones del contrato y la recepción de la policía de San Mateo en sus oficinas de Redwood City.

Pero después de 12 millones de dólares y tres años, el Proyecto Sherlock ha tenido problemas de usabilidad, descuidos en las funciones y retrasos significativos, en algunos casos de más de un año, según registros públicos obtenidos por Forbes . Un cronograma del lanzamiento planificado de Sherlock, obtenido a través de registros públicos, mostró que 14 agencias debían implementar Sherlock a más tardar en enero de este año. Siete de esas agencias (Atherton, Belmont, East Palo Alto, Foster City, Menlo Park, San Bruno y South San Francisco) informaron a Forbes que no tenían acceso a un producto completamente funcional y, por lo tanto, no habían visto ningún beneficio de investigación.

Mi evaluación, sin rodeos, es que llevamos dos años trabajando con ellos y su producto apenas funciona.

Un analista de la Oficina del Sheriff del Condado de San Mateo

La Oficina del Sheriff del Condado de San Mateo afirmó que, de hecho, los departamentos de policía de Foster City y San Bruno  tenían acceso, al igual que Daly City, Redwood City y San Mateo. Sin embargo, la agencia no aclaró si los agentes de las agencias incorporadas utilizaban Sherlock activamente o si, como Foster City, cuyo lanzamiento estaba previsto para el 31 de mayo del año pasado, pero que, según el jefe Cory Call, «aún no veía ningún beneficio, ya que este proyecto aún se encuentra en fase de desarrollo». De igual manera, la exjefa interina de San Bruno, Susan Manheimer, declaró a Forbes en junio que el departamento estaba utilizando una versión beta limitada de Sherlock.

El jefe del Departamento de Policía de Menlo Park, David Norris, afirmó que las 14 agencias estaban retrasadas en la implementación. «Si bien la tecnología ya está implementada, la implementación práctica se ha retrasado», declaró Norris. El teniente de Belmont, Clyde Hussey, gerente de proyecto de Sherlock en su departamento, confirmó los retrasos y añadió que no podía explicarlos. «Ojalá tuviera una buena respuesta». Las demás agencias no respondieron a las solicitudes de comentarios.

Una fuente cercana a las agencias del condado afirmó que existía cierta decepción entre los departamentos participantes de Sherlock. «Aquellos a los que se les ha implementado están realmente decepcionados y esperan a que comience su desarrollo», declararon a Forbes . La fuente comentó que era una locura que el producto siguiera en desarrollo después de tres años completos, y añadió que no había tenido éxito ni siquiera en los departamentos que utilizan la versión beta. «Casi todas las agencias con las que he hablado esperan con ansias la finalización de este proyecto para poder contar con un sistema robusto que les brinde información en tiempo real».

El progreso titubeante del Proyecto Sherlock, cuyo nombre y naturaleza se informan aquí por primera vez, muestra cómo, incluso con el respaldo de un multimillonario de Silicon Valley como Siebel y una de las empresas más poderosas del mundo como Amazon, el tan publicitado uso de la IA en la policía se enfrenta a obstáculos burocráticos y problemas para cumplir con sus promesas. En el condado de San Mateo, la esperanza de que la IA, sumada a la recopilación masiva de datos de vigilancia, permitiera a la policía acceder a información vital con mayor rapidez aún no se ha materializado plenamente.

C3 AI en Davos
C3 AI tuvo un pabellón en el Foro Económico Mundial de este año en Davos.
© 2025 Bloomberg Finance LP

La jefa de comunicaciones de la Oficina del Sheriff del Condado de San Mateo, Gretchen Spiker, atribuyó los retrasos a los «esfuerzos por realizar mejoras antes de incorporar agencias adicionales». Dijo que Sherlock sigue siendo un «trabajo en progreso», y agregó: «La Oficina del Sheriff y las agencias asociadas continúan trabajando en estrecha colaboración con C3 AI para realizar las mejoras necesarias en el sistema». El director de proyectos de gobierno estatal y local de C3 AI, Grant Guttschow, atribuyó los retrasos de Sherlock a lo que describió como desafíos burocráticos inherentes que vienen con la implementación de un sistema de vigilancia tan extenso en múltiples agencias. «Tenemos reuniones frecuentes con todos los participantes y, como se puede imaginar, la burocracia en una colaboración a nivel de condado a veces puede retrasar los cronogramas del proyecto», dijo.

Ni el Condado de San Mateo ni C3 AI pudieron proporcionar datos que demostraran el impacto significativo de Sherlock en la labor policial de la región. Guttschow afirmó que la iniciativa había dado lugar a múltiples casos de éxito, pero se negó a mencionar casos específicos en los que Sherlock hubiera brindado un apoyo significativo a los investigadores.

La Oficina del Sheriff proporcionó un solo ejemplo, en el que agentes de patrulla utilizaron C3 AI en un caso de agresión con violencia. «El sistema fue clave para que los agentes pudieran acceder a información crucial, lo que resultó en pistas de investigación y un arresto posterior», declaró Spiker. Añadió que existían varios ejemplos más, pero no podía detallarlos para no comprometer los procedimientos penales en curso.

Los proyectos de tecnología policial a gran escala suelen verse afectados por retrasos y fallos de funcionalidad, pero los proyectos de IA en la policía también pueden verse perjudicados por una exageración publicitaria que genera una incomprensión fundamental de cómo funciona realmente la tecnología, afirma Aaron Rosler, exinvestigador criminal del servicio diplomático del Departamento de Estado. «El éxito en este ámbito puede ser difícil de cuantificar. Algunos programas pueden tener éxito en el cumplimiento de sus objetivos analíticos programados, pero fracasarán porque las agencias los implementan de forma deficiente», declaró Rosler, ahora director asociado de la consultora Kroll, a Forbes.

Sherlock es uno de los muchos «centros de detección de delitos en tiempo real» (RTCC) que se comercializan actualmente para las fuerzas del orden. Empresas de tecnología de seguridad pública como Axon, Peregrine y, más recientemente, Flock ofrecen este tipo de sistemas, que toman registros públicos y datos de vigilancia dispares y los envían a salas llenas de analistas de inteligencia, quienes utilizan IA para extraer pistas de investigación.

C3 AI estaba bien posicionada para ser un actor importante en el sector de RTCC y Sherlock, un contrato de referencia. Siebel amasó su fortuna gestionando big data, vendiendo Siebel Systems, proveedor de software de gestión de relaciones con clientes, a Oracle en 2006 por 5.800 millones de dólares. En 2009, fundó C3 AI, que ofrece modelos de IA que pueden ayudar a empresas gubernamentales y privadas a extraer información de conjuntos de datos masivos, y en 2020 la sacó a bolsa con una valoración de 10.000 millones de dólares.

Siebel tenía otra razón para ser optimista sobre hacerse con una gran tajada del mercado de tecnología policial de 11 mil millones de dólares: su asociación con Amazon Web Services (AWS). En 2017, Siebel afirmó que C3 AI y AWS vendieron conjuntamente «todas las cuentas a nivel mundial» y afirmó estar en contacto directo con el director ejecutivo de Amazon, Andy Jassy, ​​entonces director ejecutivo de AWS. Desde 2023, Amazon ha financiado a C3 AI para desarrollar su producto para las fuerzas del orden, y ambas empresas tienen un acuerdo para integrar sus tecnologías. En San Mateo, un responsable de Sherlock de la Oficina del Sheriff afirmó que los fondos de AWS para C3 AI habían cubierto la totalidad del piloto de Daly City de 600,000 dólares para el Proyecto Sherlock. Aisha Johnson, directora de comunicaciones de AWS, afirmó que dependía de los socios decidir la mejor manera de utilizar los fondos de la asociación. Declinó hacer más comentarios sobre esta historia.

A mediados de 2023, C3 AI parecía avanzar a buen ritmo, celebrando un premio otorgado por la firma de análisis IDC a la Oficina del Sheriff por su labor policial basada en datos. Sin embargo, en aquel momento, los registros muestran que el proyecto no era ampliamente utilizado por la policía de San Mateo. Ese año, un analista sénior de la Oficina del Sheriff envió un correo electrónico a un policía de otra agencia con una evaluación sincera de la tecnología de C3 AI: «Mi evaluación, sin rodeos, es que llevamos dos años trabajando con ellos y su producto apenas funciona. Hace lo que promete, pero no bien. Tiene mucho potencial de crecimiento, pero yo esperaría a que tuvieran un producto terminado».

Guttschow dijo que no podía hablar sobre ese comentario en particular, pero sugirió que las quejas sobre la herramienta provenían principalmente de usuarios «descontentos». Añadió que Sherlock había «madurado significativamente» desde 2023, y declaró a Forbes que estaba «progresando, y estamos orgullosos de apoyar a todos en las agencias participantes», añadiendo que «muchos analistas satisfechos usan la aplicación hoy en día».

Pero algunos de esos oficiales de la Oficina del Sheriff del Condado de San Mateo que han tenido acceso a Sherlock han planteado problemas. En correos electrónicos obtenidos por Forbes de este marzo, un capitán escribió a C3 AI preguntando por qué no podían ver los antecedentes penales de un sospechoso que les interesaba, cuando sabían que el individuo los tenía. La premisa principal de Sherlock era garantizar un acceso rápido y fácil a los datos sobre posibles sospechosos, pero un empleado de C3 AI le dijo al capitán que no estaba extrayendo ningún dato de los registros y el sistema de gestión de casos del Sheriff del Condado de San Mateo que se creó antes de 2012. «¿Alguna vez vamos a extraer todos los informes?» preguntó el capitán en un correo electrónico, y un miembro del personal de C3 AI le dijo que no estaba programado. El portavoz de la Oficina del Sheriff, Spiker, dijo que el problema surgió porque la Oficina del Sheriff hizo la transición a un sistema de gestión de registros diferente en 2012 y Sherlock solo está integrado con el actual.

Hubo más errores preocupantes. A principios de este año, un empleado de la Oficina del Sheriff advirtió que el software de C3 AI estaba procesando «casos restringidos», que eran sensibles y solo deberían haber sido visibles para ciertas personas. También se produjeron repetidos tiempos de inactividad y agentes que no pudieron iniciar sesión debido a errores. Guttschow afirmó que la empresa siempre estuvo disponible para mejorar la aplicación y corregir cualquier fallo.

El plan de Siebel era adoptar el modelo del Proyecto Sherlock y ofrecerlo a otras agencias. Sin embargo, C3 AI ha perdido terreno frente a sus competidores. Guttschow afirmó que C3 AI tenía 20 clientes que utilizaban sus productos para las fuerzas del orden (se negó a nombrar a ninguno ni a indicar si esa cifra incluía los 16 departamentos de San Mateo). En comparación, Axon afirma que su producto rival, Fusus, es utilizado por más de 250 departamentos de policía en todo Estados Unidos. Peregrine también afirma tener más de 250 contratos de seguridad pública y su valoración privada ha igualado la capitalización bursátil de C3, con 2500 millones de dólares, a pesar de que la empresa de Siebel tiene un alcance mucho más amplio que la policía local y lleva ocho años de ventaja sobre Peregrine.

El negocio en general de C3 AI también atraviesa dificultades. Tras registrar dos años de crecimiento constante de ingresos, sus resultados más recientes cayeron un 35 % intertrimestralmente, registrando 70 millones de dólares en ingresos y una pérdida de 125 millones. Siebel calificó los resultados como «totalmente inaceptables». El fundador, quien ha padecido problemas de salud y visión relacionados con una enfermedad autoinmune, anunció en julio su dimisión como director ejecutivo tras 14 años al mando, aunque permanecerá como presidente ejecutivo. «Confío en que la empresa está posicionada para acelerar el crecimiento en el futuro», declaró entonces.

A principios de este año, según los registros de correo electrónico, el equipo técnico de Siebel para las fuerzas del orden seguía promocionando su software a la Oficina del Sheriff del Condado de Placer, en California. «Están muy interesados ​​en implementar una aplicación similar a Sherlock», escribió el director de interacción con IA de la empresa al personal de la Oficina del Sheriff de San Mateo, solicitando ayuda para una demostración.

Todo terminó en decepción. «C3 AI se puso en contacto con nosotros», declaró a Forbes Elise Soviar, gerente de comunicaciones del condado de Placer . «Decidimos no usar su producto».

Artículos relacionados