La reciente Carta Encíclica Papal del santo padre León XIV (Magnifica Humanitas), fechada en Roma el día 15 de mayo de 2026 y titulada “La custodia de la persona humana en la era de la inteligencia artificial”, sirve como puntapié para traer a debate en Argentina un tema de máxima actualidad a nivel mundial: la mirada de un país frente a la inteligencia artificial como tecnología transformadora dentro de una economía digital en la que, la persona humana, ocupa múltiples y antagónicos roles (de proveedor de tecnología versus usuario de tecnología).

La Encíclica grafica –de manera bíblica– cómo el desarrollo tecnológico podría traer progreso, o por el contrario, daño a la humanidad. Y para ello, sitúa del lado de la imagen de la torre de Babel a la deshumanización, y del lado de la reconstrucción de Jerusalén a la humanización. No propicia la elección entre un ‘sí’ o un ‘no’ respecto del uso de la tecnología sino, por el contrario, plantea la discusión entre construir Babel o Jerusalén al momento de discernir sobre cómo vivir con responsabilidad en la era de la inteligencia artificial (IA).

Las inquietudes más relevantes que creo plantea la encíclica sobre la inteligencia artificial son: a) la IA está más “cultivada” que “construida”; b) la IA no debe equipararse a la “inteligencia humana” ya que no vive una experiencia, ni percibe dolor ni tampoco siente alegría; c) la IA no tiene una conciencia moral; d) la IA nunca es un hecho puramente técnico; e) la IA no es moralmente neutra; f) es necesario delimitar la responsabilidad de quienes intervienen en todas las etapas; y g) es preciso identificar quién debe “rendir cuentas” de las decisiones, así como motivarlas, controlarlas y cuestionarlas, y remediar los daños que deriven de ellas.

Ahora bien, uno de los retos que desde el punto de vista regulatorio plantea la encíclica es la necesidad de adoptar instrumentos normativos adecuados capaces de salvaguardar la justicia y que permitan contener los efectos distorsionadores del poder tecnológico. En este punto surge el interrogante sobre qué postura podría la Argentina adoptar, en función de la recomendación papal, ya que actualmente estamos ante un vacío legal en materia regulatoria por no existir una ley nacional sobre Inteligencia Artificial (más allá de la existencia de la Disposición n.º 2/2023 de la Subsecretaría de Tecnologías de la Información de la Jefatura de Gabinete de Ministros denominada “Recomendaciones para una Inteligencia Artificial Fiable”, la que tiene carácter de soft law).

Ahora bien, limitar el debate a la mera necesidad de sancionar una ley nacional sería quedarnos en la superficie de la advertencia papal. El desafío de construir “Jerusalén” en lugar de “Babel” exige ir un paso más allá de la técnica jurídica y plantear una pregunta que cala hondo en la organización misma del Estado: ¿puede la estructura institucional actual afrontar los desafíos que plantea la IA?

En sintonía con las inquietudes de la encíclica, la Unión Europea adoptó un marco jurídico uniforme para sus Estados miembros: el Reglamento de Inteligencia Artificial (UE) 2024/1689. Su premisa rectora es promover la adopción de sistemas de inteligencia artificial que se centren prioritariamente en el ser humano, que resulten fiables y que, por sobre todas las cosas, garanticen la protección de la salud, la seguridad y los derechos fundamentales. Para lograrlo, el Reglamento estructura las obligaciones en función de cuatro niveles de riesgo —inaceptable, alto, limitado y mínimo—, de modo que las exigencias legales se endurecen a medida que aumenta el peligro potencial del sistema.

Ahora bien, cabe preguntarse: ¿es realmente eficaz regular la Inteligencia Artificial basándose en una categorización estática del riesgo? Para abordar este interrogante resulta sumamente ilustrativo recurrir a Friedrich Hayek. El Premio Nobel de Economía revolucionó la teoría institucional al advertir sobre el problema del “conocimiento disperso”: los legisladores no poseen, ni pueden concentrar, la infinidad de información y variables que se generan dinámicamente en la sociedad como para realizar un cálculo ético y regulatorio eficiente sobre lo que está bien y lo que está mal.

Si extrapolamos este postulado a la complejidad de la Inteligencia Artificial, la limitación del Estado se hace aún más evidente. La realidad es que ningún organismo centralizado puede asegurar que una etiqueta estática como “alto riesgo” se condiga de manera invariable con la amenaza real del sistema, la cual muta según el contexto específico en el que se aplique.

Sin lugar a dudas, el foco del Reglamento está basado en la Carta de los Derechos Fundamentales de la UE, un enfoque que se alinea en definitiva con las recomendaciones humanistas de la encíclica. Sin embargo, surgen dilemas operativos insoslayables: ¿cómo garantizar el cumplimiento simultáneo de todos los derechos de la Carta en cada sistema de IA? ¿Cómo ponderar o hacer un cálculo ético, por ejemplo, entre el derecho a la vida y la protección de datos personales? Estas complejas encrucijadas son las que configuran el núcleo de lo que hoy conocemos como la ética de la IA.

La recomendación papal de adoptar instrumentos normativos adecuados junto con las premisas europeas, podrían resultar sumamente orientativas –en materia de adopción regulatoria para Argentina– a efectos de hacer efectiva la protección de la dignidad humana frente a la revolución de las infraestructuras digitales. En concreto, una de las medidas preventivas papales que se propone, sería la clara asignación de las responsabilidades que tendrá cada uno de los actores que intervienen en todo el proceso de desarrollo de un sistema de IA, lo que se traduce en: lograr identificar quiénes deberán rendir cuentas, y quiénes tendrán que remediar un daño cuando el mismo se ha producido por distintos factores (por ejemplo, cuando existe un error en el funcionamiento del sistema lo que provoca un output equivocado, defectos en el diseño del algoritmo, sesgos discriminatorios, comportamientos autónomos no previstos combinado con el uso de cajas negras, brindar información falsa, uso incorrecto del operador, delegación total en el sistema, fallas de ciberseguridad, etc.).

Identificar a los responsables y reparar los daños causados por estas tecnologías exige, sin embargo, desentrañar una complejidad técnica que desafía las capacidades del derecho tradicional. Dentro del campo de la IA, en una relación de género a especie, encontramos el aprendizaje automático o Machine Learning (ML) —con sus métodos supervisados, no supervisados y por refuerzo— y, en su núcleo más complejo, el aprendizaje profundo o Deep Learning (DL). Este último utiliza redes neuronales profundas que operan bajo el fenómeno de las “cajas negras” (Cfr. Alfonso Delgado de Molina Rius).

Como sostiene calificada doctrina local, comprender la distinción entre ML y DL es crucial, ya que la naturaleza de las cajas negras dinamita la posibilidad de dar una trazabilidad absoluta al proceso que genera un resultado, volviendo la tarea de “rendir cuentas” un verdadero laberinto técnico (Cfr. Corvalán, Nanclares, Díaz Dávila, Simari). Esta opacidad algorítmica nos devuelve inevitablemente a la advertencia de Hayek: si los operadores y diseñadores se enfrentan a un proceso que no pueden auditar enteramente en tiempo real, el legislador centralizado queda completamente a ciegas, desprovisto del conocimiento necesario para dictar una regulación estática y eficaz.

Sin lugar a dudas, el desafío que enfrenta la Argentina para garantizar un uso ético de la IA radica en no caer en la trampa de los catálogos estáticos de riesgo que ya criticamos, sino en combinar de forma armónica dos pilares esenciales: por un lado, el compromiso de diseñar marcos jurídicos adaptables y dinámicos y, por el otro, el compromiso indeclinable de una supervisión humana y profesional continua desde el diseño inicial del sistema hasta su puesta en marcha.

Para ello, calificada doctrina extranjera (Elen Irazabal Arana) advierte la necesidad de contar con equipos multidisciplinarios de profesionales (tales como Head of Data, Data Scientists, Data Engineers, Data Architects, Data Visualization Specialists y Lawyers). Esta aproximación es, fundamentalmente, la respuesta institucional y práctica a la tesis de Friedrich Hayek en su célebre ensayo “The Use of Knowledge in Society” (El uso del conocimiento en la sociedad). Si el regulador centralizado es incapaz de encasillar el riesgo real de un algoritmo debido a la opacidad de las cajas negras, la solución no es una etiqueta legislativa fija, sino el aprovechamiento del conocimiento disperso y especializado de estos expertos, quienes deben intervenir tanto en la fase de desarrollo del plan y creación del modelo, como en el seguimiento continuo del proyecto.

El desarrollo de la IA no tiene por qué enfrentar la regulación con la innovación. En el escenario global contemporáneo, las reglas claras, la previsibilidad y los marcos jurídicos competitivos no ahuyentan el capital; al contrario, atraen la inversión de calidad. La seguridad jurídica genera una doble ventaja: protege a la persona frente a la incertidumbre de un sistema tecnológico que el propio Estado no puede predecir y, simultáneamente, le ofrece al inversor el terreno firme que toda decisión de largo plazo necesita. Un marco enfocado en la gobernanza dinámica y la responsabilidad profesional no es, entonces, un freno al progreso, sino la única vía para poner la innovación al servicio de la dignidad humana. Es, en definitiva, la herramienta institucional para asegurar que el desarrollo tecnológico en nuestro país sea el andamiaje de nuestra propia Jerusalén, y nunca los cimientos de una nueva Babel.

El autor es abogado, LLM –Master of Laws– y especialista en Derecho Empresario, Nuevas Tecnologías y Finanzas