La teoría dice que los algoritmos llegarán a ser tan potentes que cada día recibiremos cosas en nuestros hogares sin que las hayamos pedidos. Serán las cosas que realmente necesitamos. De hecho, eso ya podría ser una realidad.
Amazon y los nuevos Amazones enviarán a nuestros hogares productos que saben que vamos a necesitar ese día. Lo sabrán antes que nosotros. Y nosotros podremos dedicar más tiempo para nosotros, olvidándonos de la monótona rutina de pensar que necesitamos y tener que ir a comprar a tiendas. La vida será mejor y más agradable.
La humanidad está en los albores de la nueva era del dato. La Edad de Piedra, la Edad de los Metales, la Edad Antigua, la Edad Media, la Edad Moderna, la Edad contemporánea… Y la edad del dato.
Al final de esta década, nuestra vida estará tan hipertecnologizada, tan circunvalada de datos, que asistiéramos a una reformulación de la cuestión humana, de las estructuras macroeconómicas, las relaciones sociales, las comunidades y la vida familiar. Todos nosotros y todas nosotras, seremos observados como nunca en la historia de la humanidad. Un gran ojo invisible nos seguirá constantemente en nuestras cotidianeidades. Vivir en un mundo supratecnológico y pretender pasar desapercibido es imposible. Te observan. Hay una nueva deidad invisible. Ha nacido la era del dato.
La pregunta es ¿quién vigila al gran ojo invisible?
Hoy la economía del dato ha puesto a 8 empresas entre las 10 más poderosas del mundo. Los datos nutren algoritmos, y los algoritmos nacen para llevarnos a una sociedad mejor: salvarán vidas, mejorarán las condiciones sociales, etc. Pero qué sucede cuándo los consumidores tienen sus guardianes digitales. Enormes ojos invisibles que saben de él más que él mismo. Entonces, ¿los consumidores son números o son personas? ¿Entonces son consumidores realmente libres?
Hoy un consumidor abonado a Amazon Prime, consume Amazon, ve Amazon, vive Amazon. Incluso ha metido a Alexa en casa que está escuchándole 24 horas. Es sencillo, Jeff Bezos sabe de ti más que tú. Sabe a qué partido votas, sabe tu orientación sexual, y el tipo de porno que consumes, sabe que odias la carne poco hecha, y sabe que jamás serás madre, sabe que eres racista, o sabe que odias a los racistas, y sabe que sufres de ardores de estómago. Sabe que tienes muchas posibilidades de enfermar en los próximos meses, y es posible que (por arte de magia) se lo diga a alguna aseguradora (no perdón, borren esto, era solo una hipótesis: Bezos jamás haría algo así).
Durante septiembre de 2020, Amazon.com tuvo más de 2,44 mil millones de visitas. En junio 2.7 mil millones. La cosa crece. Amazon es el gran vigilante de las formas de consumo de occidente en tiempo de pandemias. Él sabe más del consumidor covid-19, de sus miedos, ansias, pensamientos, que cualquiera de los Gobiernos. Amazon lo sabe casi todo.
Luego está el gran observador de lo que buscas: Google. ¿Cuántos buscadores en internet conocen? ¿O mejor aún cuántos usan? Hace un año, el departamento de justicia norteamericano acusó a Google de cerrar acuerdos con socios gigantes como Apple y de limitar la competencia a través de contratos y acuerdos comerciales exclusivos.
Los acuerdos de Google con Apple, operadores de telefonía móvil y otros fabricantes de dispositivos para hacer de su motor de búsqueda la opción predeterminada para los usuarios representaron la mayor parte de su participación de mercado dominante en búsquedas, algo así como el 80 por ciento de cuota de mercado.
La justicia europea unos meses después ratifica la multa de 2.424,5 millones a Google por vulnerar la competencia.
Les sale a cuenta.
Google es el gran guardián de la información: sabe infinitamente más de los ciudadanos que cualquier estado.
Y luego están el resto de las grandes tecnológicas. Pero este artículo no va de la cuestión tan en boga, sino de si los consumidores pueden ser libres en sus decisiones en un escenario donde cada vez la información, y el dato está en manos de unas pocas empresas.
Los algoritmos nacieron para personalizar servicios y productos y que los consumidores salieran beneficiados. Pero tras el algoritmo siempre hay humanos, construyéndolos, y la realidad es que la mayoría de los algoritmos no son “números al servicio de la comunidad”, sino que responden a intereses de las empresas (cosa lógica, por cierto), entonces surge la duda de que puedan manipularse para reducir las opciones o cambiar artificialmente las percepciones de los consumidores. Las empresas también pueden usar algoritmos para cambiar la forma en que clasifican los productos en los sitios web, otorgando una calificación más alta a sus propios productos y excluyendo a los competidores (hay sospechas más que fundadas, aparte de decenas de denuncias al respecto, de que Amazon ha manipulado de una forma u otra sus algoritmos durante sus 26 años de vida)
Un informe del The Wall Street Journal de hace un año, denunciaba la manipulación de sus algoritmos por parte de Amazon, con el fin de que las pequeñas empresas que vendían en Amazon no pudieran competir en igualdad de condiciones contra los productos de marca propia de Amazon. Además, el informe indicaba que Amazon había realizado cambios controvertidos en su algoritmo de búsqueda que favorecen los artículos que son más rentables para la empresa, incluso si no son los más relevantes para el cliente. La clave se llama algoritmo A9, del que les he hablado en muchas ocasiones en mi blog.
Alguien dirá que esto es lo que hacen los retailers tradicionales en sus tiendas desde hace décadas: favorecer sus propios productos sobre los de los fabricantes, pero el problema nace cuando el algoritmo “engaña” a los consumidores, diciéndoles que esos resultados que les muestra es una selección justa y neutral que se ajusta a las necesidades que él ha estado buscado últimamente. El algoritmo es simplemente un notario de sus necesidades, un amigo que le susurra al oído.
Hoy casi la mitad de las ventas mundiales que se hacen por internet en occidente se hacen en una plataforma que a su vez es vendedor. Habitualmente se afirma en los foros especializados y en la mayoría de las escuelas de negocio que Amazon ha puesto al consumidor en el centro, lo cual si llevas años estudiando y escribiendo sobre Amazon te das cuenta de que nunca fue así, Amazon y su padre fundador, Jeff Bezos, lo que siempre puso en el centro fueron los datos de los consumidores. Todo el ecosistema de Amazon no está edificado hacia la conveniencia de los consumidores, sino en torno a conseguir más información de estos. Y la mejor forma de conseguir información era la conveniencia. Pero la conveniencia era solo una herramienta para el fin nuclear: la información.
En Estados Unidos hoy (Amazon no da los datos), seguramente haya más de 120 millones de norteamericanos que sean Amazon Primes, y posiblemente el 65% de los hogares de ese país tenga un miembro Amazon Prime, que ve series en Amazon, lee y escucha música gratis en Amazon, que compra y recibe gratis en Amazon, que almacena fotos en Amazon, que juega a video juegos en Amazon, que devuelve sistemáticamente (y gratuitamente) la ropa azul, que le pregunta a Alexa a cuales son los nombres más comunes que se ponen a los recién nacidos que nacerán este verano….
La clave está en la cantidad de servicios que dan a los consumidores por ser miembros de Amazon. Por entrar en ese ecosistema del que les será casi imposible salir.
Morgan Stanley publicó en 2019 sobre cuánto costaría para un particular contratar independientemente uno por uno los servicios que le ofrecía Amazon prime con los líderes de mercado, competidores en cada uno de esos servicios. El coste sería $784. Amazon les cobraba $119.
Evidentemente las membresías no le eran rentables a Amazon, pero obtenía la rentabilidad a agregar millones de clientes a su ecosistema. Bezos conseguía su objetivo fundacional: tener trillones de datos de los consumidores.
El viejo sueño de Bezos es un vecindario donde gran parte de sus vecinos fueran Amazon Prime, tener miles de “Amazon neighborhoods”, donde supiera de esas familias casi todo (y desde luego todos sus hábitos de consumo), una arcadia feliz, donde los seres humanos no tuvieran que perder tiempo en pensar qué comprar hoy, o qué cocinar, o si mañana van a estar malos, o qué traje le vendrá bien en función del tiempo que va a hacer la próxima semana…. que todo su sagrado tiempo lo dedicarán a ellos, a sus familias, amantes, enemigos o mascotas. Un vecindario donde estuvieran dando vueltas camiones de Amazon cargados de los productos que van a necesitar en las próximas horas (necesidades desveladas por los potentísimos algoritmos amazónicos), y que en cuestión de minutos, tras dar al click, el amigo Amazon llamase a tu puerta y te entregara tu productos. Las entregas en una hora serían una pieza de museo. De museo de arte del Paleolítico.
Por otra parte, hay que hablar del aspecto poliédrico de estas empresas que abarcan casi todo en torno al dato de los consumidores. Un ejemplo, claro es Amazon. Permítanme que me explique: los demócratas de la Cámara de Representantes publicaron, en octubre de 2020, un informe de 449 páginas sobre el posible monopolio de las grandes tecnológicas. En el caso de Amazon se centraron mucho en su negocio de la computación en la nube.
Durante gran parte de la vida de Amazon su negocio retail puro ha sido un desastre desde el punto de vista financiero, pero el negocio en la nube, AWS, ha sido quien ha “pagado la fiesta”, representando más del 50% de los ingresos operativos de la compañía, a pesar de contribuir menos del 15 por ciento de los ingresos.
Y hay muchas sospechas de que gran parte del éxito de AWS nace de observar los datos de ese lado del negocio más ruinoso que es el retail puro.
Se habla también en el informe de la posibilidad de que los empleados de AWS puedan tener acceso a los Servicios de administración de claves (KMS) de Amazon, que los clientes pueden usar para almacenar claves de cifrado. De tal suerte que dichos empleados podrían acceder a las claves de cifrado de un cliente, con lo que podría ver el contenido de la aplicación de un cliente, incluido el código de propiedad, las transacciones comerciales y sus datos.
También se sospecha del uso de datos de vendedores de terceros en Amazon.com para informar el desarrollo de productos internos, incluso The Wall Street Journal afirmó en un artículo que encontró que la práctica era generalizada.
En 2011, Reuters informó que Amazon estaba usando AWS para obtener información que lo ayudara a determinar en qué empresas invertir o adquirir.
Como pueden imaginarse (eso espero), no soy un relacionista de la tecnología y de los algoritmos (todo lo contrario), y mucho menos de Amazon (soy el único europeo que ha escrito dos libros sobre ellos, y he confesado en estos libros mi elefantiásica admiración por los de Seattle y por Jeff Bezos), pero es evidente que debe haber unas reglas claras y leyes a los que se sometan estos algoritmos. Los algoritmos nacen de mentes humanas, y eso perse les hace no neutrales, y muchas veces basados en perjuicios humanos.
Dos ejemplos que vienen a cuento:
- En 2018, se descubrió que el software creado por Amazon para ayudar a las empresas a identificar a los candidatos más prometedores estaba sesgado contra las mujeres, según Reuters. El algoritmo había aprendido a detectar currículos “buenos” a partir de una dieta de ejemplos muy sesgados hacia los hombres.
- La nueva tarjeta de crédito de Apple fue investigada en noviembre de 2018, luego de que un cliente se quejara de que su algoritmo de préstamos le ofrecía una línea de crédito 20 veces más alta que la que ofrecía a su esposa, a pesar de que su puntaje crediticio era mejor que el de él.
¿Ustedes imaginan una tienda física donde se ofreciera distintos precios en sus lineales en función de que fuera una mujer o un hombre???
Por regla general, usted entra en una tienda física y le asaltan un trillón de precios, carteles, publicidad, pero usted sigue caminando por los pasillos, y todo resulta más o menos neutral a la merced de su decisión. En internet le asaltan un trillón de algoritmos que le susurran que eso es lo que le conviene, que esa suerte de voz divina es un viejo colega que te conoce mejor que tu santa madre, y que deberías hacer caso a este viejo amigo que solo busca un mundo mejor para ti. Entonces dudas, y no le haces caso, y al anochecer cierras el ordenador, y duermes, y te levantas, y sigues con tu vida, y varias semanas después vuelves a meterte en esa tienda digital, y entonces ahí está, tu viejo amigo, observándote, susurrándote las cosas que te conviene.
¿Y si el algoritmo a veces no fuera dirigido a satisfacer tus necesidades, sino a manipular tus necesidades?
¿Y qué sucedería si una empresa, un retailer, pudiera proveernos no solo de nuestras necesidades de productos, sino también de servicios, y de ocio, e incluso de salud? ¿Qué sucedería si edificara en torno a nosotros un ecosistema tan sólido que ya no necesitara salir de él para satisfacer mis necesidades? ¿Qué sucedería si ese retailer tuviera más información de mí que, por ejemplo, el Gobierno de mi país? ¿Yo realmente sería un consumidor libre?
