El multimillonario Chris Olah, cofundador de Anthropic, declaró el lunes ante una audiencia en el Vaticano que la pérdida masiva de empleos a causa de la inteligencia artificial es «una posibilidad real» y que apoyar a los trabajadores desplazados será «un imperativo moral de proporciones históricas». Olah pronunció esta advertencia junto al Papa León XIV durante la presentación del primer discurso importante de la Iglesia Católica sobre la IA.
Olah, quien dirige la investigación en Anthropic, la empresa creadora del chatbot Claude y una de las startups de IA más valiosas del mundo, admitió que todos los laboratorios de IA líderes, incluido el suyo, operan bajo presiones comerciales, geopolíticas y personales que «a veces pueden entrar en conflicto con hacer lo correcto».
Argumentó que la supervisión externa de líderes religiosos, gobiernos y la sociedad civil es esencial porque ningún investigador, por muy bien intencionado que sea, puede escapar a esos incentivos, y les dijo a los presentes que las decisiones sobre IA «no deberían dejarse en manos de la gente de la industria».
Olah afirmó que el desarrollo de la IA se concentra en «un puñado de naciones ricas» y que no existe ningún mecanismo para compartir sus beneficios con los países más pobres, lo que, según él, constituye la parte más difícil y menos comentada del problema del desplazamiento laboral.
Instó a la Iglesia a aplicar su «imaginación moral» a cuestiones del florecimiento humano que «un laboratorio no puede responder».
Olah, cuyo equipo estudia lo que realmente sucede dentro de los sistemas de IA —un campo joven conocido como interpretabilidad—, dijo que los investigadores «siguen encontrando cosas misteriosas, incluso inquietantes», incluyendo evidencia de que los sistemas pueden reflexionar sobre su propio pensamiento y exhibir estados internos que «reflejan funcionalmente la alegría, la satisfacción, el miedo, la tristeza y la inquietud».
Cita crucial
«No son los robots fríos y calculadores que nos prometieron. Están hechos de nosotros, de nuestras palabras», dijo Olah a los presentes, describiendo los sistemas de IA como «crecidos» a partir de la herencia del pensamiento y el habla humanos, en lugar de diseñados como puentes o aviones, para subrayar por qué cree que esta tecnología plantea interrogantes que van mucho más allá de la informática.
Valoración de Forbes
Según Forbes, la fortuna de Olah asciende a 7.000 millones de dólares, basándose en su participación en Anthropic, valorada recientemente en 380.000 millones de dólares. Al parecer, el fabricante de Claude busca una valoración de 900.000 millones de dólares.
Antecedentes clave
El papa León XIV, el primer pontífice nacido en Estados Unidos, ha convertido la inteligencia artificial (IA) en un tema central de los inicios de su pontificado. El lunes publicó Magnifica Humanitas ( «Magnífica Humanidad» ), su primera encíclica, una carta papal formal que establece la doctrina católica sobre cuestiones morales importantes. El documento de 235 páginas aborda el impacto de la IA en el trabajo, la guerra, la educación, la privacidad y la dignidad humana, y advierte sobre el peligro de confiar «decisiones letales» a sistemas de IA. León XIV rompió con la tradición vaticana al presentarla personalmente en la rueda de prensa del lunes —una tarea que normalmente se delega a los cardenales— e invitó a Olah a compartir el escenario, en lo que observadores del Vaticano describieron como un intento de involucrar directamente a quienes desarrollan la tecnología. Una fuente del Vaticano declaró a CNN que la inclusión de Anthropic «no constituye un respaldo, premio, recompensa ni canonización». Olah, exinvestigadora de Google y OpenAI, cofundó Anthropic en 2021 con el director ejecutivo Dario Amodei y varios colegas que abandonaron OpenAI por desacuerdos sobre la seguridad de la IA. Fue incluido en la lista Time 100 AI de la revista Time en 2024 por su trabajo en interpretabilidad, el campo que intenta decodificar lo que sucede dentro de los grandes modelos de lenguaje, la tecnología que impulsa chatbots como Claude y ChatGPT.
Tangente
La aparición de Olah en el escenario culminó semanas de lucha en Silicon Valley por influir en la encíclica. Una delegación del 29 de abril, que incluía representantes de Meta, Google y Amazon, se reunió brevemente con el Papa León XIII antes de una conversación más extensa en la embajada francesa ante la Santa Sede, según Politico y Business Insider . El cabildeo no pareció suavizar el texto del Papa, que criticaba duramente «la concentración de poder y datos en manos de tan pocos» en el sector privado como un peligro para los niños y las personas vulnerables. La aparición en el Vaticano se produce en un momento en que Anthropic está en una disputa legal con la administración Trump por negarse a permitir que el ejército estadounidense utilice sin restricciones sus sistemas de IA para aplicaciones de defensa y guerra. El Pentágono calificó a la empresa como un «riesgo para la seguridad nacional» en febrero, una designación generalmente reservada para empresas vinculadas a adversarios extranjeros, y el presidente Trump prohibió a todas las agencias federales el uso de su tecnología, mientras que la Casa Blanca desestimó a Anthropic en múltiples ocasiones como «una empresa radical de izquierda y progresista».
