La influencia de Elon Musk sobre el presidente electo de Estados Unidos, Donald Trump, podría conducir a una mayor regulación de la seguridad de la inteligencia artificial (IA), según el científico sueco-estadounidense Max Tegmark, quien también advirtió de que cualquier carrera armamentística geopolítica de la IA daría lugar a la «carrera suicida» de la humanidad.

En declaraciones a ‘Euronews Next (LON:)’ en la Web Summit de Lisboa, Tegmark, presidente del Future of Life Institute dijo que, sin embargo, EE.UU. consiga una mayor regulación de la seguridad de la IA que también dependerá de a quién escuche Trump.

«Instintivamente, el Partido Republicano tiende a estar muy en contra de toda regulación», dijo, a diferencia de Musk, que «puso su dinero donde estaba su boca» y rompió filas con gente como el CEO de OpenAI, Sam Altman, y Google (NASDAQ:) para apoyar una propuesta de ley de IA de California.

Trump también ha prometido derogar una orden ejecutiva de la administración Biden sobre la seguridad de la IA, pero Tegmark afirma que esto no cambiará mucho las normas de seguridad de la IA, ya que se trata de una «regulación bastante débil».

Está la carrera geopolítica [de la IA]. Y ahí, todo el encuadre es erróneo porque, en realidad, no es una carrera armamentística para construir AGI, es sólo una carrera suicida.

Max Tegmark

Instituto del Futuro de la Vida

El mayor temor del científico no es la IA generativa, como ChatGPT, sino la Inteligencia Artificial General (AGI, por sus siglas en inglés), un tipo de IA que iguala o supera las capacidades cognitivas humanas y de la que podríamos perder el control. «Perder el control de la AGI es como despeñarse por un precipicio, en cuyo caso se acabó el juego para la humanidad», afirma Tegmark.

«Creo que marcará una gran diferencia si Trump escucha más a Elon [Musk] en esto o más a las intenciones contrarias a la regulación», añadió.

¿Qué es la Inteligencia Artificial General?

La Inteligencia Artificial General, considerada como el ‘santo grial’ por las empresas tecnológicas, ha sido exagerada por Sam Altman,CEO de OpenAI, entre otras figuras tecnológicas que intentan conseguir financiación.

Para Altman, la AGI se define como una forma hipotética de inteligencia artificial que puede resolver cualquier tarea humana mediante métodos no limitados a su formación. Altman ha dicho que puede «elevar la humanidad» y no se refiere a que las máquinas tomen el relevo. El CEO de OpenAI ha dicho que la AGI podría llegar ya el año que viene, mientras que muchos otros han pronosticado su llegada en la próxima década.

Archivo – Sam Altman, CEO de OpenAI, habla en la Cumbre de CEOs de la Cooperación Económica Asia-Pacífico (APEC) el 16 de noviembre de 2023, en San Francisco.
Eric Risberg/Copyright 2023 The AP.

«Mucha gente se aferra ahora a la marca AGI para darle bombo y tratar de redefinirla como lo que están vendiendo ahora, o lo que están construyendo ahora para poder recaudar dinero», dijo Tegmark.

Según el científico sueco-estadounisdense, la definición original de AGI se remonta a los años 50 y la define como una inteligencia artificial capaz de realizar todos los trabajos humanos, lo que significa que la IA podría sustituir a los trabajadores humanos y también desarrollar y construir las propias máquinas AGI.

«Ya no se trata sólo de una nueva tecnología, como las máquinas de vapor o Internet. Hablamos de una nueva especie. Por eso es tan importante», afirma Tegmark.

Ya no se trata sólo de una nueva tecnología, como las máquinas de vapor o Internet. Hablamos de una nueva especie. Por eso es tan importante

Max Tegmark

Instituto del Futuro de la Vida

La Prueba de Turing: Cuando las máquinas tomen el poder

Que las máquinas tomen el control es el resultado por defecto, según predijo en los años 50 el informático Alan Turing que, entonces, dijo que este resultado estaba muy lejos y creó una prueba para demostrar cuándo se acercaría el momento, originalmente llamada «juego de imitación», pero ahora denominada Prueba de Turing.

La prueba pretende identificar si una máquina muestra una inteligencia similar a la humana respondiendo a una serie de preguntas de un humano. El humano no sabe si las respuestas las da una máquina o un humano.

Según algunos investigadores, la prueba se superó el año pasado. Sin embargo, la inteligencia artificial no existe en la actualidad y no está claro cuándo existirá o incluso si llegará a existir algún día, a pesar del bombo publicitario de las empresas.

La carrera armamentística de la IA

Según Tegmark, además de la carrera empresarial por la inteligencia artificial, existe una carrera armamentística. «Hay una carrera armamentística dentro de Estados Unidos entre diferentes empresas y la única manera de detenerla es, por supuesto, tener normas de seguridad nacionales estadounidenses», dijo.

Soy bastante optimista de que conseguiremos [normas de seguridad] a nivel mundial. Y entonces entraremos en una fase realmente maravillosa de la historia de la humanidad

Max Tegmark

Instituto del Futuro de la Vida

Trump ha sugerido que el liderazgo de EE.UU. en IA será un foco de atención para su Gobierno. «Tenemos que estar a la vanguardia… Tenemos que tomar la delantera a China», dijo en el podcast ‘Impaulsive’ en junio.

«Está la carrera geopolítica [de la IA]. Y ahí, todo el encuadre es erróneo porque en realidad no es una carrera armamentística para construir AGI, es sólo una carrera suicida«, dijo Tegmark. «No hay nadie que controle estas cosas», añadió,»si consigues extinguirte, a quién le importa si eres chino, francés o estadounidense», aseveró.

Según Tegmark, la clave está en que la normativa sea la adecuada para cada país, en lugar de que los países tengan que llegar a acuerdos entre sí. Europa ya ha dado los primeros pasos en área con la Ley de Inteligencia Artificial.

«Mi visión del éxito aquí es mucho más sencilla. Es que los chinos decidan p.ner normas nacionales de seguridad en China para evitar que sus empresas chinas causen daños. Nosotros, los estadounidenses, simplemente ponemos normas nacionales de seguridad en EE.UU. no para apaciguar a China, sino simplemente para sus propios fines», dijo Tegmark. Una vez que esto ocurra teóricamente, EE.UU. y China tendrán el incentivo de presionar a sus aliados mundiales para que se unan a ellos.

Related

«En realidad soy bastante optimista de que conseguiremos [normas de seguridad] a nivel mundial. Y entonces entraremos en una fase realmente maravillosa de la historia de la humanidad en la que viviremos una época de increíble abundancia y prosperidad en la que dispondremos de toda esta tecnología asombrosa», afirmó.

«Las empresas podrán innovar para ayudar a curar el cáncer, eliminar la pobreza y las muertes innecesarias en carretera y todas las cosas maravillosas de las que oímos hablar a la gente y a los empresarios», afirmó.