El presidente Javier Milei sumó un nuevo capítulo a su debate con el influyente historiador israelí Yuval Noah Harari sobre la posibilidad de crear empresas no humanas con inteligencia artificial (IA).

El lunes, el filósofo había cuestionado un articulo de la autoría del mandatario para el Financial Times. En resumidas cuentas, el jefe de Estado se había expresado a favor de crear “sociedades automatizadas”, que funcionan con algoritmos o robots, sin la necesidad de contar con personas humanas.

Harari ofreció respuesta a aquel planteo en otra columna para el mismo medio: “Cuando hablé en el Foro Económico Mundial en enero de este año, advertí que los gobiernos podrían algún día otorgar personalidad jurídica a los modelos de IA. Jamás imaginé que ese algún día llegaría tan solo cuatro meses después”.

Desde el título de la nota -“No debemos otorgar personalidad jurídica a los agentes de IA-, Harari se ubica en la vereda de enfrente de Milei, quien imagina nueva tipología de empresas no humanas con el objetivo de garantizar una seguridad jurídica a un tipo de inversiones que en general operan en un gris legal. Esa idea es la que surge del proyecto de ley empujado por el ministro de Desregulación, Federico Sturzenegger.

“La semana pasada, en este periódico, el presidente argentino Javier Milei anunció la creación de una nueva categoría jurídica para las corporaciones no humanas. Al igual que las corporaciones tradicionales, estas corporaciones no humanas gozarán de los beneficios de la personalidad jurídica. Presumiblemente, podrán poseer activos, contratar empleados, participar en el comercio internacional, demandar ante los tribunales e incluso donar a campañas políticas. A diferencia de las corporaciones tradicionales, podrán hacer todo esto sin la intervención ni la responsabilidad de ningún ser humano. Todas las decisiones sobre compra, venta, contratación, inversión, litigios y donaciones podrán ser tomadas por agentes de IA”, escribió el filósofo e historiador.

Y cerró al advertir: “Otorgar personalidad jurídica a las IA permitiría a los agentes de IA emprender numerosas iniciativas nuevas, generando potencialmente una enorme riqueza. Sin embargo, la personalidad jurídica es una llave de uso general que también les permitiría acceder a nuestros sistemas financieros, económicos y políticos. Esto suscita muchas preocupaciones”.

En su última contestación, Milei le agradeció por participar del “fascinante y trascendental debate” y anticipó que prepararía una réplica con la intención de “calmar sus temores”. En ese marco, la Oficina del Presidente compartió este jueves un extenso comunicado en inglés, que lleva la firma de Milei y donde ofrece una formulación más amplia del punto de vista del líder de La Libertad Avanza (LLA).

La respuesta oficial de Milei al planteo de Harari

Siempre es un placer y un honor que Noah Harari comente una de las ideas de uno. Sin embargo, la preocupación de Harari respecto de las sociedades de responsabilidad limitada operadas de manera autónoma por inteligencia artificial es, en todo caso, inesperada. En primer lugar, porque probablemente ninguna persona en el mundo pueda prever el futuro tan bien como él; y otorgarles a las empresas gestionadas por IA un marco jurídico parece ser una característica necesaria de ese futuro. En segundo lugar, porque en Sapiens Harari elogia la responsabilidad limitada. De hecho, sostiene: “La idea detrás de tales compañías se encuentra entre las invenciones más ingeniosas de la humanidad”.

La personalidad jurídica cumple una función precisa y ampliamente comprendida: permite que una organización tenga un patrimonio propio y centraliza las relaciones jurídicas derivadas de sus actividades. Lejos de ser una novedad, es una de las herramientas más probadas en la historia del derecho comercial.

Si es cierto, como argumenta Harari, que las empresas operadas por IA conllevan mayores riesgos que las corporaciones dirigidas por seres humanos (volveré sobre esto más adelante), entonces el argumento a favor de la personalidad jurídica se vuelve más fuerte, no más débil. Cuanto mayores son los riesgos, más necesario es poder identificar los activos vinculados (o susceptibles de ser vinculados) a una actividad. Los temores de Harari son, en mi opinión, un argumento a favor de la personalidad jurídica, no en contra.

También tengo reparos respecto de su preocupación por la supuesta capacidad especial de la IA para encontrar vacíos legales o hacer trampas. No es que avalemos tales conductas. Sin embargo, incluso antes de preguntarnos por qué esos vacíos no pueden corregirse, deberíamos preguntarnos: ¿acaso los seres humanos no hacen lo mismo? Y aun así, eso no es motivo para abolir las estructuras corporativas, y no creo que nadie lo haya sugerido en el caso de empresas dirigidas por personas. Ni siquiera después de Enron. De hecho, preferiría tener un patrimonio contra el cual hacer valer un reclamo si una IA me perjudica, antes que no tener protección alguna. Huelga decir que, en nuestro esquema, las mismas penas y sanciones que se aplican a compañías cuyos directivos humanos cometen irregularidades se aplicarían a las firmas autónomas.

También existe una tensión en el argumento de Harari sobre la rendición de cuentas que merece atención. Él señala que una IA no puede ser enviada a prisión y sostiene que eso constituye un problema: una IA que no pueda ser castigada probablemente se comporte de manera temeraria. Pero también argumenta que la quiebra sería, para una IA, el equivalente a la muerte, y que haría todo lo posible para evitarla. Entonces, ¿las IA se preocupan o no por el castigo? Parecería que una IA tendría mucho más en juego que un ejecutivo humano (la muerte en lugar de la prisión), lo que sugiere que preferiría mantenerse estrictamente dentro de la ley y minimizar los riesgos.

Esto me recuerda a una historia de Isaac Asimov, Yo, Robot, escrita en 1950, en la que una campaña política queda eclipsada por la sospecha de que el principal candidato podría ser un robot. El debate posterior es fascinante. La conclusión: el robot trabaja las veinticuatro horas, es escrupulosamente honesto y nunca pierde la compostura. ¿Por qué no probar con el político robot? Nadie lo sabe con certeza, pero considero probable que las empresas de IA sean más adversas al riesgo que los seres humanos.

Luego está la visión del futuro que ofrece Harari: una Yakarta en llamas, ciudades consumidas por fuerzas que escapan a nuestro control. Estas ansiedades merecen respeto. Harari y sus advertencias no deberían ser desestimados a la ligera. Sin embargo, el historial de la historia ofrece una guía diferente. James Watt también temía llevar el caos al mundo (de hecho, fueron Adam Smith y otros profesores de la Universidad de Glasgow quienes le dieron refugio para que pudiera trabajar en la máquina de vapor). Y aquí estamos. Muy lejos de aquellos temores, la Revolución Industrial multiplicó la producción mundial aproximadamente doscientas veces (aunque no estuvo exenta de sufrimientos). Más relevante para los acontecimientos actuales: ese cambio se desarrolló a lo largo de dos siglos. No ocurrió de un día para otro. Comprendo que hoy la velocidad del cambio es mayor y algo vertiginosa, pero la acumulación de capital lleva tiempo y recursos. La división del trabajo debe encontrar sus nichos. La demanda debe seguir el ritmo de la oferta. Por todas estas razones, los escenarios distópicos son autodestructivos: un mundo de privilegiados y excluidos que no pueda sostener una demanda acorde a la oferta simplemente se detendría. Otorgar personalidad jurídica a una empresa de IA no es desencadenar el Día del Juicio Final de Terminator; es equivalente a brindar el refugio que James Watt necesitó hace doscientos años, permitiendo que la imaginación se desarrolle libremente y prospere. Aun así, eso no significa que no vaya a haber ajustes en el camino.

Imaginar el futuro también plantea una cuestión que Harari no aborda plenamente: ¿la IA conducirá a un pequeño número de corporaciones dominantes o a una cantidad cada vez mayor de empresas más pequeñas? La IA parece reducir las barreras de entrada en muchas actividades. Si es así, la teoría económica sugiere que las empresas serán más pequeñas, no más grandes. En ese caso, lejos de ser el vehículo institucional de la concentración, la personalidad jurídica para la IA podría demostrar ser su antídoto. De hecho, me preocupa menos el poder de las corporaciones —que deben competir entre sí, una experiencia profundamente aleccionadora— que el del Estado, porque el autoritarismo surge del monopolio de la fuerza que solo los gobiernos poseen. Una empresa legalmente constituida jamás mantendrá ese monopolio. De hecho, siempre estará a un paso de la irrelevancia.

Finalmente, la personalidad jurídica, lejos de habilitar abusos, es precisamente el mecanismo mediante el cual una sociedad canaliza su energía creativa dentro del marco de la ley, los derechos de propiedad y el principio de no agresión que constituyen los pilares del liberalismo. Esto es así porque una empresa de IA estará sujeta al Estado de derecho exactamente del mismo modo que cualquier corporación convencional.

Esto me lleva a la analogía histórica final de Harari. La comparación es vívida y atractiva, pero no es precisa. La Compañía Holandesa de las Indias Orientales poseía poderes soberanos delegados por el Estado: administración territorial, fuerza militar y el derecho a celebrar tratados. En otras palabras, fue el Estado quien causó y permitió los abusos. Una empresa autónoma que opere dentro de un marco jurídico capaz de disolverla, embargar sus activos o exigirle responsabilidad legal no está escapando de la ley. Está sometiéndose a ella. Y, en gran medida, esa es precisamente la razón por la que importa otorgarle personalidad jurídica.

Noticia en desarrollo.