Forbes Funds

Pausar la Inteligencia artificial: ¡tu seguridad está en juego!

Humanos e inteligencia artificial (IA) trabajando juntos en nuevo tipo de equipo.

ChatGPT desató las ganas de quedarnos desnudos de pensamiento al cubrir nuestra mente con ingente contenido robotizado. El potente invento acelerado por Mina Murati genera un frenesí de información inimaginable en segundos de tiempo ¿buena o mala? Esa es la cuestión. ¿La máquina es perversa, los laboratorios de Inteligencia Artificial (IA) están fuera de control para desplegar el poderío en el universo digital?, ¿su uso es un regalo boomerang que nos puede dejar sin habilidades para desarrollar la inteligencia, nos hará drogodependientes de la tecnología, más interactivos, pero menos sociales, con pereza mental y hasta mamertos?, ¿nos dejará sin trabajo?, ¿quién tiene la gobernanza de la IA? ¿dónde están los riesgos?

La IA será lo más importante de esta década, tanto como el PC e Internet, dice Bill Gates. Mark Zuckerberg por su parte resalta que «la gente recurrirá cada vez más a motores de descubrimiento basados en IA para entretenerse, aprender cosas y conectarse con personas que comparten sus intereses”.

Temor al descontrol de la información errónea, a la protección de datos, a la automatización del trabajo, al gobierno de los algoritmos. Goldman Sachs ha anunciado que pueden automatizarse hasta 300 millones de empleos en todo el mundo con la ola de inteligencia artificial que ha generado plataformas como ChatGPT. China, Rusia, Corea del Norte, Irán y ahora Italia, la primera nación occidental, se suma a prohibir el uso ChatGPT.

También ha levantado ampolla estos días la carta publicada desde Future of Life Institute, en la que un grupo de líderes tecnológicos e investigadores, entre ellos Elon Musk, consejero delegado de SpaceX, Tesla y Twitter; Yoshua Bengio, fundador de Mila-Quebec AI Institute; Steve Wozniak, cofundador de Apple y Yuval Noah Harari, profesor de la Universidad Hebrea de Jerusalén, piden dar al botón del pause para encauzar esta tecnología, que pueda ser transformadora hacia el beneficio de la vida y alejarla de riesgos extremos a gran escala, objetivo de la institución. Pero, primero es necesario garantizar una regulación que enmarque a esta tecnología, se necesita gobernanza.

«Hacemos un llamado a todos los laboratorios de IA para que pausen inmediatamente durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4»

La IA se ha desarrollado desde la década de los 50, con el avance de las redes neuronales artificiales y técnicas de aprendizaje automático. Precisamente si le preguntas por ello a ChatGPT, te dice que el término «inteligencia artificial» fue acuñado en 1956 durante la Conferencia de Dartmouth, donde se reunieron expertos en informática, matemáticas y psicología para discutir la posibilidad de crear máquinas que pudieran imitar la inteligencia humana.

Desde entonces, la investigación en IA ha avanzado enormemente, especialmente en áreas como el procesamiento del lenguaje natural, la visión por ordenador, la robótica y la toma de decisiones autónoma.

Es ChatGPT, ¡estúpido! Sólo cinco días después de su lanzamiento, a finales de noviembre de 2022, ya había alcanzado el millón de usuarios. Dos meses después, UBS afirmó que el chatbot había ganado 100 millones de usuarios activos mensuales, convirtiéndose en la aplicación que más rápido ha crecido en la historia.

Me dejo seducir por un instante y el chatbot me dice “como modelo de lenguaje, no tengo riesgos en el sentido de que no tengo emociones, deseos o voluntad propia. Sin embargo, es importante señalar que los modelos de lenguaje, como yo, pueden ser utilizados de diversas maneras y existen riesgos potenciales asociados con su uso”.

Algunos de los riesgos que indica son el sesgo en los datos; el uso malintencionado para crear contenido engañoso o dañino, como noticias falsas o mensajes de odio, la privacidad, la dependencia: si se confía demasiado en los modelos de lenguaje para tomar decisiones importantes.

Antes de ChatGPT, Alexa fue una innovación de gran relevancia en su momento. Al igual que hace muchos años, teníamos a AlphaGo de Google. Que ahora la IA detrás de ChatGPT sea tendencia no surge de un hito concreto sino de los avances tecnológicos. Actualmente, tenemos plataformas como TensorFlow de Google que se utiliza para crear modelos de aprendizaje automático y redes neuronales profundas. Facebook – Meta tiene PyTorch e IBM a Watson. Por lo que respecta a Microsoft, forma parte de la vanguardia de la IA invirtiendo 1.000 millones de dólares en el laboratorio de investigación OpenAI.

Las bondades de la inteligencia artificial

Vincent Mercadier, gestor de fondos de Amiral Gestion, en su análisis “Las olas disruptivas de la tecnología actual”, publicado a principios de año, destaca que tras el reciente lanzamiento de ChatGPT y DALL-E, ambos desarrollados por OpenAI, la inteligencia artificial es más popular que nunca. Para Demis Hassabis, cofundador y consejero delegado de DeepMind de Alphabet «la IA hará avanzar las fronteras del conocimiento y desbloqueará vías completamente nuevas de descubrimiento científico, mejorando la vida de miles de millones de personas».

Hay muchos sectores beneficiados de los avances de la IA, por ejemplo, la Salud. Tanto en la atención médica como en el proceso de diagnóstico de cualquier enfermedad ayudando a los médicos a detectar patrones o en la investigación de nuevos medicamentos. La Automoción con el desarrollo de los vehículos autónomos, la Educación, personalizando el aprendizaje para cada persona. La IA moderna que se inspira en la neurociencia puede aumentar la automatización, la productividad y ayudar a científicos e investigadores a resolver retos complejos. Por ello, parece importante que las grandes empresas tecnológicas desarrollen una experiencia en este campo.

También en el terreno de las Finanzas. La IA en el mercado financiero puede ser utilizada para predecir tendencias del mercado, detectar fraudes y mejorar la precisión en la toma de decisiones de inversión. Pero sin lugar a duda, la minimización del riesgo en el proceso de toma de decisiones es lo más relevante. Hablamos de tomar decisiones en milisegundos que pueden cambiar el transcurso de la economía mundial y que, gracias a la tecnología, las personas puedan usar mejores herramientas para tener mejor información y tomar mejores decisiones. 

Asimismo, la IA ha abierto nuevos campos de desarrollo profesional. Elena Jin, profesora del Programa de Blockchain e Innovación Digital del IEB, explica que “la IA es un campo que seguirá creciendo durante los próximos años y veremos muchas más salidas profesionales que hoy día. Actualmente, algunos de los oficios más conocidos relacionados con la IA son los científicos del dato, ingenieros especializados en machine learning, expertos en robótica, especialistas en visión por computadora o especialistas en procesamiento del lenguaje natural entre muchos otros”. No cabe duda de que la IA permitirá grandes aumentos de productividad para desarrolladores de software, ingenieros de diseño, diseñadores creativos e incluso contables.

A juicio de Jin, a las bondades del sistema hay que restarle los cuidados por la falta de gobernanza y control. La falta de transparencia, el uso de los datos con sesgo algorítmico. “Si el entrenamiento de la IA está hecha a base de datos históricos sesgados, el resultado son decisiones sesgadas. Otros desafíos son el tema de la dependencia tecnológica que genera toda esta tendencia y la vulnerabilidad de seguridad que requerirá de expertos cada vez más especializados para una correcta supervisión”.

El impacto en los mercados financieros: la fiebre del oro de la IA

Dries Dury, gestor de cartera de renta variable fundamental de DPAM, cree que la IA está destinada a revolucionar múltiples sectores y a crear un inmenso valor en la próxima década. Con el rápido crecimiento de los chatbots basados en IA, como ChatGPT, y la creciente demanda de potencia de cálculo y semiconductores, empresas de diversos sectores compiten por un trozo del pastel de la IA. Pero ¿qué empresas saldrán ganando?

Como inversores, es clave identificar quién capturará el valor creado.  DPAM identifica tres ganadores potenciales:

En primer lugar, los proveedores de infraestructura en la nube -como Microsoft, Amazon y Alphabet- están proporcionando la potencia informática y el almacenamiento necesarios para las empresas que están realizando la transición de sus operaciones a la era de la IA.

En segundo lugar, Dury destaca que las empresas de software con capacidades punteras en IA también se beneficiarán. Por ejemplo, la IA cambia las reglas del juego para empresas de ciberseguridad como Crowdstrike. La nube y la IA les permiten detectar brechas de seguridad y tomar medidas correctivas en tiempo real. Es probable que los clientes se decanten por el proveedor con la mayor red (es decir, el mejor conjunto de datos) y las capacidades de IA más avanzadas.

En tercer lugar, desde la gestora de origen belga indican que “no puede haber fiebre del oro de la IA sin las herramientas necesarias, lo que nos lleva al papel de las empresas de semiconductores. La ola de la IA requiere cada vez más potencia de cálculo y, por tanto, chips y equipos semiconductores. El entrenamiento de los modelos de IA se realiza en chips GPU, normalmente fabricados por Nvidia, pero AMDes un aspirante. Determinar quién domina el mercado de la inferencia, el uso del modelo de IA es menos sencillo. Sin embargo, AMD podría estar en un buen lugar gracias a la innovación en sus CPU y su afinidad con los aceleradores”.

Mercadier destaca también que dentro del portfolio de inversión de Amiral Gestion están Alphabet, Meta y Microsoft ya que se están posicionando para ser líderes en IA. “Alphabet, por ejemplo, ha sido una de las pioneras, desarrollando tanto infraestructura como software. Su Unidad de Procesamiento Tensorial (TPU) se desarrolló por primera vez internamente en 2015 y luego se puso a disposición de terceros en 2018 a través de la suscripción en la nube. La TPU es un chipset de aplicación específica, optimizado para el aprendizaje automático de redes neuronales. Esta unidad de procesamiento se diseñó específicamente para el marco Google TensorFlow, que es una biblioteca de código abierto para el aprendizaje automático y la inteligencia artificial. Esta combinación de hardware y software accesible en Google Cloud facilita y hace más eficiente la investigación en IA para los científicos de datos y las empresas”.

Urgen gobernanza y control

¿Es necesaria la existencia de códigos éticos en el uso de la IA?  La respuesta es clara “Es fundamental”. Gobiernos y empresas van con retraso al respecto. La existencia de códigos éticos en el uso de la IA debe garantizar que la tecnología se utilice de manera responsable y en beneficio de la sociedad. Los códigos éticos pueden establecer principios y normas para asegurar la transparencia, la protección de la privacidad, la equidad y la responsabilidad en la toma de decisiones. La regulación de la IA de por sí es un asunto muy complejo. Llegará sin duda, ojalá que no sea demasiado tarde y mal, nuestra seguridad  y privacidad están en juego.

*Por Cristina Murgas Aguilar, periodista y directora del Área de Comunicación Financiera e Institucional de QUUM.

Artículos relacionados