MADRID.- Brad Smith, presidente de Microsoft, se toma un segundo para reflexionar y usa la palabra “guardarraíles” con la naturalidad de quien pensó mucho en los precipicios. Se celebran unas jornadas sobre la innovación de la compañía en su sede de Redmond (EE.UU.), al que han sido invitados este y otros diarios internacionales, y EL PAÍS le pregunta cómo y quién determina si la inteligencia artificial (IA) de la empresa puede ser utilizada en un contexto de guerra, como el actual. Hace tan solo unos días que se hizo público que la firma de IA Anthropic ha demandado al Pentágono por vetarla tras marcar líneas rojas en el uso de su tecnología.

Es el debate del momento en el mundo de las grandes tecnológicas, y es un asunto muy familiar para Microsoft: en 2021, el Pentágono canceló un acuerdo de US$10.000 millones con la firma tras las protestas de sus empleados. Microsoft, de hecho, apoya a Anthropic en su pelea con el Pentágono.

Smith responde: “Tenemos principios, los definimos y los publicamos. Por definición, esos principios crean guardarraíles. Y nos mantenemos en la carretera dentro de ellos. No se trata solo de cuándo debemos usar la tecnología, sino también de cuándo no debemos usarla”.

Microsoft tiene para ello un equipo que hackea sus propios productos: el “equipo rojo” o red team. El nombre tiene historia militar. Los red teams surgieron en los ejércitos para simular ataques enemigos y detectar vulnerabilidades propias antes de que lo hiciera el adversario real. En ciberseguridad, la práctica lleva décadas establecida. Pero aplicarla a la IA generativa es algo relativamente nuevo, y Microsoft se atribuye haber sido pionera, al formar este equipo en 2018.

“Antes de que se lance un producto, los equipos rojos ‘rompen’ la tecnología para que otros puedan reconstruirla más sólida y segura”, explica Ram Shankar Siva Kumar, “cowboy de datos”, según se autodenomina, y líder del equipo rojo. “La IA puede provocar problemas, desde fallas de seguridad hasta daños psicosociales. La gente usa Copilot [la IA de Microsoft] en momentos de gran vulnerabilidad, así que observar cómo pueden fallar estos sistemas antes de que lleguen al usuario es una cuestión fundamental”, explica.

Esta especie de “asuntos internos» de la IA analizó ya más de 100 productos de la compañía. Microsoft no ofrece datos de cuántas personas trabajan en él, ni sobre si se han parado productos ni cuáles. Pero sí asegura que el equipo tiene el poder para hacerlo: “Ningún sistema de IA de alto riesgo se implementa sin antes someterse a una prueba independiente. Si nuestro equipo identifica riesgos graves que no se han mitigado, el producto no se lanza hasta que se resuelvan esos problemas”, asegura Kumar.

La pregunta que se hace el equipo a la hora de analizar un producto antes de que sea lanzado es: “¿Cómo podría usarse este sistema de IA, para bien o para mal, dentro de meses o años?”.

Seis principios

Los “guardarraíles” que mencionaba Smith son seis principios genéricos que el equipo, sin embargo, cree que son muy claros a la hora de examinar los productos: equidad, responsabilidad, transparencia, confiabilidad y seguridad, inclusión y privacidad y seguridad. Estos principios se transforman, en el día a día, en herramientas concretas. “Si le das a un ingeniero un documento de 50 páginas para que implemente esos principios, se va a abrumar. Tenemos una herramienta de código abierto llamada Pyrit; la construimos para nosotros y luego la pusimos a disposición del mundo, porque creemos en la salud del ecosistema”, dice Kumar.

En el equipo rojo hay neurocientíficos, lingüistas, especialistas en seguridad nacional, expertos en ciberseguridad, veteranos militares e incluso una persona que estuvo en prisión “y se rehabilitó”, explica Kumar. Además, se hablan 17 idiomas , y “algunos dialectos del francés, mongol, tailandés, coreano”, según el jefe del equipo, ya que una de las obsesiones del red team, explica, es que la IA no cometa errores en ningún lugar del mundo.

Junto a Kumar dirige las operaciones del equipo rojo Tori Westerhoff, cuyo perfil combina neurociencia cognitiva —estudió en Yale y fue de las primeras miembros de la Iniciativa de Neurociencia de Wharton— y estrategia de seguridad nacional, ya que trabajó en agencias de inteligencia y defensa. “Cuando recibimos un encargo emulamos lo que podría salir mal en los extremos de la curva de uso de esa tecnología. Mi equipo profundiza en cómo utilizar ese producto tal como está previsto, y de maneras no previstas, para obtener los casos más extremos y ayudar al equipo de producto a reproducirlos y mitigarlos antes de que puedan ser utilizados por alguien en el mundo real”, añade.

Un ejemplo de su trabajo fue el red teaming, como denominan internamente a su hackeos, de GPT-5, el modelo de OpenIA (socio de Microsoft) lanzado el pasado agosto. Lo que hicieron fue entrenar a otra IA para que intentara hackear al programa, de forma automática y a una escala imposible para humanos.

Cuando probaron GPT-5, el equipo rojo utilizó Pyrit para generar más de dos millones de conversaciones-trampa de forma automática. La IA atacante intentaba engañar a la IA atacada, sin parar, durante días, explorando combinaciones que a un humano jamás se le ocurrirían. Encontrar esos puntos débiles manualmente es un proceso lentísimo; por eso, entrenaron a esa IA para que intentara romper otra IA, “como en Inception”, dice Kumar, en referencia a la película de Christopher Nolan donde los personajes entran en sueños dentro de sueños.

Sin embargo, Westerhoff, Kumar y Daniel Krutz, que dirige la oficina de IA Responsable de la compañía, insisten en una idea: la automatización tiene un límite. “El red teaming solo puede automatizarse hasta cierto punto, y solo los humanos pueden determinar si una respuesta generada por IA les resulta incómoda o representa un sesgo”, asegura la compañía. El criterio lo pone la persona; la escala, la máquina. Esa división del trabajo define la filosofía del equipo.

Westerhoff cree que, de hecho, solo la mente humana es capaz de “imaginar esos espacios que aún no se han observado, que no se han definido completamente ni explorado; nuestro trabajo consiste en innovar y crear más allá del espacio que se ha sistematizado”.

El equipo identifica tres áreas donde la automatización es ciega por definición y el juicio humano resulta imprescindible. La primera tiene que ver con las materias; se necesitan personas para evaluar el riesgo en áreas como medicina o seguridad. La segunda tiene que ver con los lugares donde se lanza esa IA. “Necesitamos humanos para tener en cuenta las diferencias lingüísticas y redefinir qué constituye un daño en distintos contextos políticos y culturales”, dice la empresa. Y la tercera, la inteligencia emocional. En última instancia, solo los humanos pueden evaluar el rango de interacciones que los usuarios podrían tener con los sistemas de IA. Un modelo puede pasar todas las pruebas automatizadas y aun así producir respuestas que resulten perturbadoras para una persona real en una situación concreta.

Este modo de ver la IA coincide con la visión de Mustafa Suleyman, uno de los fundadores de Deepmind (ahora parte de Google) y CEO de Microsoft AI. Hace unos días, escribía en la revista Nature: “Una IA aparentemente consciente se puede convertir en un arma”. A medida que los sistemas de inteligencia artificial imitan cada vez más la estructura del lenguaje humano, argumenta, necesitamos normas de diseño y leyes que impidan que sean confundidos con seres sintientes. “Deben seguir siendo fundamentalmente responsables ante los humanos y estar supeditados al bienestar de la humanidad”, escribe Suleyman. “Los agentes de IA no deberían tener más derechos ni libertades que mi portátil”.

La filosofía central que articula el trabajo del equipo rojo es, en fin, que “la IA responsable no es un filtro que se aplica al final del desarrollo, sino una parte fundacional del proceso”, dice Kumar. Son los guardarraíles de Smith, que no actúan en realidad como frenos, sino como condición para ir rápido sin despeñarse.

Crimson Desert ya está en el mercado y, con ello, Pearl Abyss puede tachar una casilla que lleva más de cinco años tratando de rellenar. Hablamos de un desarrollo masivo que llevó a su estudio a crear un motor propio, a enfocar su cultura laboral en torno a este proyecto y que se ha saldado con uno de los lanzamientos más grandes de lo que llevamos de año. Sin embargo, tras haberlo podido jugar ya durante 57 horas, os tengo que admitir una cosa: al comienzo quise una demo para que todos lo probaseis gratis, porque es el juego al que más le beneficiaría una prueba. Eso fue al principio, porque luego caí en la cuenta de que era imposible probarlo sin gastar dinero en el juego final.

Aunque hace muchos años la cultura de las demos pasó a un segundo plano, lo cierto es que en la última década hemos vuelto a abrir los brazos a estas pruebas anticipadas y gratuitas. Sirven de maravilla para medir el interés del público, la respuesta de los jugadores y, mejor aún, ayudan a los propios fans a salir de dudas o, en caso de que lo tengan claro, a hacer más llevadero el hype. Con Crimson Desert, sin embargo, jamás hubo intención por parte de Pearl Abyss de llevar a cabo una demo y, en su momento, no entendía por qué: fue jugarlo y salir de dudas.

El motivo principal es que no puedes extraer un pedacito del conjunto de Crimson Desert que tenga sentido y, más importante aún, que no espante a los jugadores. Si entendemos el sandbox surcoreano como una tarta, no puedes dividirla en trozos: es imposible, porque este experimento de probar un pedacito de Crimson Desert no va a gustar a nadie. Hablamos de un juego donde la libertad prima sobre cualquier cosa, donde sus sistemas se interrelacionan con cabeza, aunque sin la profundidad de un RPG, por ejemplo.

Crimson Desert es tan raro que una demo no haría salir de dudas a nadie

Sí, no hemos tenido demos de Fallout 4 o The Witcher 3, por poner dos casos, pero sí de The Legend of Zelda: Breath of the Wild o Cyberpunk 2077 en eventos de prensa o centradas en los jugadores, como la Gamescom. Y, si bien es cierto que estos eventos están controlados por los miembros del estudio, que pueden impedir o solucionar errores que surjan en estos mundos abiertos limitados de forma artificial, el caso de Crimson Desert alcanza un nuevo nivel de «imposibilidad» cuando llevas 40 horas jugadas, echas la vista atrás y analizas el camino recorrido. Y todo porque, ¿de dónde recortas para una demo? ¿Dónde la estableces?

El problema que tiene Crimson Desert es que su muro inicial de una decena de horas —obligatorio para todos los jugadores, aunque puede llevarte menos si encaras rápido las misiones principales—, que sirve como tutorial del proyecto, jamás podría formar parte de una demo. Con una prueba en esta primera fase jugable, los surcoreanos echarían por tierra dos de las funciones clave de las demos: evitar decepciones y ayudar a evaluar el gasto de dinero. Teniendo en cuenta que el inicio de Crimson Desert es duro, pensado para poner a prueba la paciencia de quien no va preparado, ambientar ahí su demo habría sido de lo más contraproducente.

¿Pero qué tal ambientarla después, quizá a la veintena de horas? Imposible. No estarías dando al jugador un vistazo sencillo de lo que supone Crimson Desert; le estarías echando a los lobos, de forma metafórica, con una lista de sistemas mecánicos inabarcable, combos loquísimos, un mapa enorme y una libertad que pillaría demasiado en frío a los jugadores. Lo pensé: «Quizá, pasadas las 10 horas, sí se podría». Pero, hablándolo con compañeros de la prensa antes del estreno del juego, todos coincidíamos en lo mismo: Crimson Desert es el juego que más se beneficiaría de una demo, pero que no podría tener una jamás.

Es una pena, aunque no es el único caso. La mayoría de los triple A no tienen demos. No obstante, muchos juegan con una ventaja: la industria se ha acostumbrado a la falta de sorpresa. Al final, que no hayamos tenido demo de Resident Evil 9: Requiem —a pesar de que, desde Resident Evil 7, todos los lanzamientos de Capcom han tenido demos— no sorprende, porque sabíamos cómo se jugaría; una demo de The Last of Us 3 tampoco tendría sentido: se juega como un The Last of Us al margen de sus innovaciones, unas que, además, no veremos en una demo porque se reservan para el final. Y así hasta el hartazgo. Pero con Crimson Desert, muchos habrían salido de dudas antes.

En 3DJuegos | Será duro si PlayStation cierra el grifo de sus exclusivos en PC, porque es ver la locura técnica del port de Death Stranding 2 y alucinas. Análisis

En 3DJuegos | El poder de la nostalgia no ha sido un aliado lo suficientemente fuerte. Análisis de Scott Pilgrim EX

(function() {
window._JS_MODULES = window._JS_MODULES || {};
var headElement = document.getElementsByTagName(‘head’)[0];
if (_JS_MODULES.instagram) {
var instagramScript = document.createElement(‘script’);
instagramScript.src=»
instagramScript.async = true;
instagramScript.defer = true;
headElement.appendChild(instagramScript);
}
})();

–
La noticia

Todo el mundo debería probar gratis Crimson Desert, pero mientras lo jugaba caí en que es imposible

fue publicada originalmente en

3DJuegos

por
Alberto Lloria

.

Un truco simple, económico y cada vez más difundido en redes sociales propone sumar un ingrediente inesperado a la limpieza diaria: la sal gruesa. Si bien suele usarse en la cocina, también puede convertirse en un aliado para lavar mejor los platos y cubiertos.

Este método consiste en colocar una pequeña cantidad de sal gruesa directamente sobre la esponja antes de usar detergente. Su uso no reemplaza los productos de limpieza habituales, pero puede potenciar sus efectos y ayudar en tareas específicas del hogar.

Leé también: Mezclar jugo de naranja con bicarbonato: para qué lo recomiendan y qué beneficios tiene

Para qué sirve poner sal gruesa en la esponja

La sal gruesa tiene una textura abrasiva que resulta útil para remover suciedad adherida sin necesidad de productos químicos más agresivos. Entre sus principales usos se destacan:

• Eliminar restos difíciles: ayuda a despegar comida pegada en ollas, sartenes o fuentes.
• Potenciar la limpieza: refuerza la acción del detergente en superficies con grasa.
• Quitar olores: contribuye a neutralizar olores persistentes en utensilios y en la esponja.
• Desincrustar suciedad: es útil para limpiar superficies donde se acumulan residuos con el uso diario.

Cómo actúa este truco casero

El efecto de la sal se basa en su capacidad para generar fricción. Al frotar la esponja con sal sobre una superficie, hay un leve efecto exfoliante que facilita la remoción de suciedad sin dañar la mayoría de los materiales.

Además, la sal tiene propiedades higroscópicas, lo que significa que puede absorber humedad. Esto ayuda a reducir la proliferación de bacterias en ambientes húmedos como la cocina, aunque no reemplaza la desinfección.

Cómo usarla correctamente

Para aplicar este truco de forma efectiva, se recomienda:

• Humedecer la esponja antes de usarla.
• Agregar una cucharada pequeña de sal gruesa.
• Incorporar detergente como de costumbre.
• Frotar suavemente sobre la superficie a limpiar.
• Enjuagar bien para evitar residuos.

Si bien no es una solución milagrosa, puede ser un complemento práctico para mantener la cocina en buen estado y facilitar tareas cotidianas.

Precauciones a tener en cuenta

Si bien es un método útil, no se recomienda usar sal gruesa en superficies delicadas o antiadherentes, ya que podría rayarlas. Tampoco es ideal para materiales como vidrio fino o acero pulido.

Leé también: Limpiar el piso con agua tibia, vinagre y detergente: por qué lo recomiendan

Además, es importante cambiar la esponja con regularidad, ya que la acumulación de residuos puede afectar la higiene.

esponja, Sal gruesa, truco, limpieza, TNS