La empresa de inteligencia artificial de Elon Musk, xAI, ha publicado las transcripciones de cientos de miles de conversaciones entre su chatbot Grok y los usuarios del bot, en muchos casos, sin el conocimiento o permiso de dichos usuarios.
Cada vez que un usuario de Grok hace clic en el botón «compartir» en uno de sus chats con el bot, se crea una URL única que le permite compartir la conversación por correo electrónico, mensaje de texto u otros medios. Sin embargo, sin que los usuarios lo sepan, esa URL única también está disponible para motores de búsqueda como Google, Bing y DuckDuckGo, lo que permite que cualquier persona en la web pueda buscarla. En otras palabras, en Grok de Musk, al hacer clic en el botón «compartir», la conversación se publicará en el sitio web de Grok, sin previo aviso ni descargo de responsabilidad para el usuario.
Hoy, una búsqueda en Google de los chats de Grok muestra que el motor de búsqueda ha indexado más de 370.000 conversaciones de usuarios con el bot. Las páginas compartidas revelaron conversaciones entre usuarios de Grok y el LLM, que abarcan desde tareas empresariales sencillas como escribir tuits hasta generar imágenes de un ataque terrorista ficticio en Cachemira e intentar hackear una billetera de criptomonedas. Forbes analizó conversaciones en las que los usuarios hacían preguntas íntimas sobre medicina y psicología; algunas incluso revelaron el nombre, datos personales y al menos una contraseña compartida con el bot por un usuario de Grok. También se podía acceder a archivos de imagen, hojas de cálculo y algunos documentos de texto subidos por los usuarios a través de la página compartida de Grok.
Entre las conversaciones indexadas se encontraban algunas iniciadas por el periodista británico Andrew Clifford, quien usaba Grok para resumir las portadas de los periódicos y redactar tuits para su sitio web Sentinel Current. Clifford declaró a Forbes que desconocía que al hacer clic en el botón para compartir, su mensaje se encontraría en Google. «Me molestaría un poco, pero no había nada que no debiera estar», dijo Clifford, quien ahora usa la inteligencia artificial Gemini de Google.
Sin embargo, no todas las conversaciones fueron tan benignas como las de Clifford. Algunas fueron explícitas, intolerantes e infringieron las normas de xAI. La compañía prohíbe el uso de su bot para «promover daños graves a la vida humana» o «desarrollar armas biológicas, químicas o de destrucción masiva». Sin embargo, en conversaciones publicadas y compartidas, fáciles de encontrar mediante una búsqueda en Google, Grok ofreció a los usuarios instrucciones sobre cómo fabricar drogas ilegales como el fentanilo y la metanpina, codificar un malware autoejecutable, construir una bomba y métodos de suicidio. Grok también ofreció un plan detallado para el asesinato de Elon Musk. Mediante la función «compartir», las instrucciones ilícitas se publicaron en el sitio web de Grok y fueron indexadas por Google.
xAI no respondió a una solicitud detallada de comentarios.
xAI no es la única startup de IA que ha publicado las conversaciones de sus usuarios con sus chatbots. A principios de este mes, los usuarios de ChatGPT de OpenAI se alarmaron al descubrir que sus conversaciones aparecían en los resultados de búsqueda de Google, a pesar de haber optado por que otros las vieran . Sin embargo, tras las protestas, la empresa cambió rápidamente su política. El director de seguridad de la información de OpenAI, Dane Stuckey, calificó la indexación como un experimento efímero y declaró en una publicación en X que se descontinuaría porque «ofrecía demasiadas oportunidades para que la gente compartiera accidentalmente información que no pretendía».
Después de que OpenAI cancelara su función para compartir, Musk se dio la vuelta de la victoria. La cuenta X de Grok afirmó entonces que no contaba con dicha función, y Musk tuiteó en respuesta: «¡Grok, por fin!». No está claro cuándo Grok añadió la función para compartir, pero los usuarios de X llevan advirtiendo desde enero que Google estaba indexando las conversaciones de Grok.
Algunas de las conversaciones en las que se solicitaba a Grok instrucciones sobre cómo fabricar drogas y bombas probablemente fueron iniciadas por ingenieros de seguridad, redteamers o profesionales de Confianza y Seguridad. Pero en al menos algunos casos, la configuración de uso compartido de Grok confundió incluso a investigadores profesionales de IA.
Nathan Lambert, científico computacional del Instituto Allen de IA, usó Grok para crear un resumen de las entradas de su blog y compartirlo con su equipo. Le sorprendió saber, a través de Forbes, que su mensaje en Grok y la respuesta de la IA se indexaron en Google. «Me sorprendió que los chats de Grok compartidos con mi equipo se indexaran automáticamente en Google, a pesar de no haber recibido ninguna advertencia, especialmente después del reciente conflicto con ChatGPT», declaró el investigador residente en Seattle.
Google permite a los propietarios de sitios web elegir cuándo y cómo indexar su contenido para las búsquedas. «Los editores de estas páginas tienen control total sobre su indexación», declaró Ned Adriance, portavoz de Google, en un comunicado. Google ya permitía indexar los chats con su chatbot de IA, Bard, pero los eliminó de las búsquedas en 2023. Meta sigue permitiendo que los motores de búsqueda detecten sus búsquedas compartidas, según informó Business Insider .
Los oportunistas están empezando a notar y aprovechar los chats publicados de Grok. En LinkedIn y el foro BlackHatWorld, los profesionales del marketing han hablado de crear y compartir conversaciones con Grok para aumentar la visibilidad y el reconocimiento de sus empresas y productos en los resultados de búsqueda de Google. (No está claro cuán efectivas serían estas iniciativas). Satish Kumar, director ejecutivo de la agencia de SEO Pyrite Technologies, mostró a Forbes cómo una empresa utilizó Grok para manipular los resultados de una búsqueda de empresas que redactarían su tesis doctoral.
“Todos los chats compartidos en Grok son totalmente indexables y buscables en Google”, dijo. “La gente está usando tácticas activas para posicionar estas páginas en el índice de Google”.
