El pasado mes de marzo, el empresario y astronauta Jeff Bezos dirigía una carta, la última como CEO de Amazon, a los accionistas de la compañía. En alguno de sus apartados, respondía a las críticas recibidas de algunos de sus 800.000 empleados afirmando que los reportes recibidos diciendo que los trabajadores de la firma son tratados “como robots” son imprecisos. Concretamente afirmaba que “no establecemos objetivos de desempeño alcanzables. Fijamos objetivos de desempeño alcanzables que tienen en cuenta la antigüedad y los datos del desempeño actual del empleado”.

Más recientemente aún, la misma “GAFA” norteamericana (acrónimo para definir a Google, Apple, Facebook y Amazon) anunciaba dos cambios que forman parte del objetivo declarado en la epístola urbi et orbi de su máximo dirigente. El primero, no realizar test de consumo de marihuana como parte del exhaustivo examen de drogas que realizaba con asiduidad la compañía en Estados Unidos a sus empleados. El segundo, reprogramar el algoritmo que analiza la métrica Time off task (Tiempo para tareas libres), un indicador que trataba de contabilizar momentos como el acudir al servicio o una pausa para el café. El nuevo proceso de cálculo en la métrica tratará de evitar que los micro-descansos contabilicen en el largo plazo en los reportes y así no incluir resultados injustos o inadecuados en las evaluaciones

El líder global del comercio electrónico no es hoy una excepción de las numerosas empresas y servicios que se apoyan en sistemas de inteligencia artificial (IA) y programas algorítmicos para decidir cuestiones tan habituales como la asignación de tareas en un proyecto, la elaboración de una propuesta de servicios, la contratación de personal en las organizaciones, la evaluación del desempeño profesional, la verificación de la consecución de objetivos, o la fijación de una retribución variable.

Esta realidad alcanza a todo tipo de proyecto empresarial incluidos los dedicados a la prestación de servicios profesionales desarrollados por socios (en el mundo anglosajón este tipo de sociatura se denomina partnership, referida a la relación que existe entre aquellas personas que desarrollan un negocio en común con ánimo de lucro), normalmente integrados mediante contrato o mediante acuerdo expreso de asociación, en los que se observa también una clara tendencia al crecimiento, a la profesionalización de la gestión y a la globalización. En la misma línea, es posible identificar en estos grupos profesionales (auditores, consultores, abogados…) una nueva etapa dominada por métodos de cálculos matemáticos que tratan de sustituir la gestión humana por la aplicación de métricas que, insuficientemente formuladas, pueden llegar a generar resultados analíticos que impactan en las relaciones internas, la forma en que se prestan los servicios, o la propia naturaleza social.

Un mal ejemplo de la incorporación de la IA en la gestión de las actividades profesionales con formato societario, es el diseño de fórmulas de evaluación que se limitan a valorar el beneficio. Una métrica que mal aplicada puede contribuir a desnaturalizar un elemento necesario para la existencia de la sociedad misma: la affectio societatis. En el Codex Justiniano Romano (529 dC) se proclamaba In fides societatis contractibus fides exuberet (“Que en los contratos de sociedad abunde la buena fe”). Los romanos entendían que el contrato de sociedad, basado en la confianza, en la affectio societatis, tenía como elemento esencial el interés común, generador de una estructura llamada a perdurar situando a los socios en un mismo nivel, uno junto a otro, sin posiciones de dominancia. Algo así como el trasunto jurídico del ius fraternitatis.

Es cierto que, históricamente, especialmente en el caso de la profesión de abogado, éstos se han asociado por razones normalmente de afinidad profesional e, incluso, familiar. El interés común se ha basado fundamentalmente en crear un despacho que les permita ofrecer servicios a sus propios clientes, distribuir gastos y abordar algunos casos en conjunto con la idea de poder acceder también a clientes más importantes. La affectio societatis en plenitud.

Sin embargo, una rápida mirada a algunas de las grandes firmas prestadoras de servicios, muy implicadas con una sociedad actualmente mucho más regulada, comercialmente muy desarrollada, lanzada a una carrera vertiginosa por la digitalización, y con requerimientos de los clientes cada vez más exigentes en calidad y rapidez del servicio, debiera llevar a sus actores a reflexionar si las relaciones entre sus socios no se están haciendo muy vulnerables como consecuencia de un abuso de logaritmos de escasa formulación y principalmente basada en parámetros económicos.

Aun reconociendo que no es suficiente una relación de afecto y confianza para dar estabilidad a una sociedad, y que la aportación de beneficios por parte de cada socio al proyecto común es muy relevante, todo contrato de sociedad necesita de un proyecto común que posibilite que cada profesional pueda desarrollar razonablemente su actividad a satisfacción. La sostenibilidad de un proyecto empresarial de esta tipología exige que cada socio perciba que es compensado de acuerdo a su aporte efectivo al desarrollo de la Firma, pero sin dar la espalda a las contribuciones profesionales y cualitativas. La affectio societatis se sustenta en la confianza mutua y en la posibilidad de desarrollar la actividad profesional como cada socio la concibe, sometida, además, a otras variables que igualmente la afectan.

Como seres humanos, deberíamos ser conscientes de que tenemos muchos sesgos, los cuales se ven reflejados en las decisiones que tomamos cada día. Esta realidad se extiende a toda obra realizada por el hombre, incluidos los propios algoritmos, que pueden repetir prejuicios tan humanos como la tendencia a no considerar o considerar con retraso los permanentes cambios del entorno, obviar la práctica de determinados valores, o a discriminar por géneros o por edad. En los colectivos profesionales puede también generar un riesgo superior cuando las decisiones se adoptan por una fórmula no diseñada por sus socios, o solo centrada en aspectos cuantitativos.

Una situación de dominio por parte de la máquina en la relación entre sus socios aumenta el riesgo de generar desavenencias entre ellos, llegando incluso a justificar la separación de sus miembros, cuando no la disolución de la sociedad.

La rebeldía del legendario HAL 9000 en la mítica “2001 Odisea en el espacio” (1968 !) de Kubrick no procedía de la nada. Los astronautas querían desconectarle y, ante eso, reacciona de la forma más humana posible: defendiéndose. Desarrolló una emoción, la comprendió y actuó en función a esta. Pero su rebeldía de entonces y parece que, afortunadamente, la AI de cualquier robot del futuro seguirá dependiendo de la intervención humana. De cómo formulemos el algoritmo.