Categoría: Tecnología e Innovación

El presidente de Estados Unidos, Donald Trump, anunció este martes, durante su intervención ante la Asamblea General de la ONU, que la documentación oficial estadounidense sustituirá el término inteligencia artificial (IA) por el de superinteligencia. Para ello, usará las siglas SI.

Además, Trump rechazó tajantemente cualquier esquema globalista que intente regular o controlar su desarrollo.

El presidente estadunidense argumentó que la palabra artificial da la impresión de que la tecnología es falsa, cuando en realidad es asombrosa.

«A partir de este momento, todos los documentos de Estados Unidos y, con suerte, los del mundo, se cambiarán para utilizar el término mucho más preciso súper en lugar de artificial. Así que es superinteligencia», aseveró Trump.

El mandatario defendió la soberanía estadounidense frente a los intentos de gobernanza internacional sobre esta tecnología.

Con información de EFE

El Secretario General de la ONU, António Guterres, ha expresado su respaldo al llamamiento para el Control de los Modelos de IA impulsado por el presidente de Finlandia y la primera ministra de Noruega, que insta a los Estados miembros a explorar la creación de una institución internacional capaz de fijar estándares, permitir la verificación y convocar a los Estados cuando se crucen umbrales de capacidad peligrosos.

La declaración ha sido suscrita por 21 países, entre ellos España, Alemania, Canadá, Australia, Singapur, Sudáfrica y Kenia, además de la presidenta de la Comisión Europea, Ursula von der Leyen .

Las superpotencias de la IA, Estados Unidos y China, así como Reino Unido, Francia, Japón e India, no forman parte del grupo por ahora .

En paralelo, el Secretario General acogió con satisfacción la publicación del informe temático del Panel Científico Internacional Independiente sobre Inteligencia Artificial, centrado en la seguridad de la IA y los riesgos derivados de la pérdida de control humano. 

El documento, publicado este lunes, aborda uno de los escenarios que más preocupan a los expertos: que los sistemas de IA más avanzados escapen a la supervisión de quienes los crean.

Guterres animó además a expertos externos, incluidos los de laboratorios de IA de frontera e institutos de seguridad, a colaborar con el Panel para informar el diálogo internacional sobre estas cuestiones. 

Con este doble gesto, la ONU refuerza su apuesta por convertir la gobernanza de la inteligencia artificial en un asunto de coordinación global, y no solo de decisiones nacionales o corporativas.

La declaración subraya que la IA «debe seguir bajo dirección, supervisión y control humanos» y pide a las empresas protocolos de seguridad transparentes, con pruebas obligatorias antes del despliegue y evaluaciones independientes. 

Nota de prensa

OpenAI propuso este lunes que Estados Unidos lidere los esfuerzos globales para establecer un marco normativo de la inteligencia artificial, en medio de las crecientes preocupaciones sobre los peligros que conlleva el desarrollo de esta tecnología para la humanidad.

La empresa ha manifestado su apoyo a la cooperación global con el fin de fijar normas de seguridad y protección para el desarollo de la IA que mitiguen los riesgos.

«Estados Unidos está bien posicionado para liderar este proceso, ya que su industria de la IA se encuentra a la vanguardia», afirmó OpenAI en una entrada de su blog.

La preocupación se ha intensificado en los últimos meses debido a varios incidentes de modelos de IA y a las advertencias apocalípticas de actores vinculados al sector.

«Liderar ahora determinará si Estados Unidos da forma al marco global de la IA o si se limita a observar cómo se afianza a su alrededor un sistema fragmentado, desigual y plagado de conflictos», añadió la compañía con sede en San Francisco.

OpenIA también dijo que la polémica RSI, una técnica con la que el modelo de IA aprende por sí mismo y mejora de forma autónoma, no debería perseguirse «a menos y hasta que pueda hacerse de forma segura».

Los críticos temen que la RSI pueda tener consecuencias catastróficas si los seres humanos no son capaces de intervenir.

AFP

En un momento en el que cada vez más empleados consultan con grandes modelos de lenguaje (LLM, por sus siglas en inglés) como preparación para una reunión con sus jefes, la inteligencia artificial suele orientar a las personas a alejarse unas de otras, según una investigación reciente de Cloverleaf Labs.

El coaching de IA en el lugar de trabajo ya ha demostrado ayudar a gerentes y equipos a trabajar mejor juntos y a lograr resultados de manera efectiva, rápida y a escala.

Pero cuando los principales LLM son puestos a prueba para orientar a las personas frente a relaciones laborales tensas, “la herramienta casi nunca les ayuda a repararlas”.

Esta es una de las numerosas conclusiones que surgen del más reciente informe de Cloverleaf Labs, titulado “The Relational Risk Inside Your AI Rollout: What do leading LLMs tell employees in conflict?” (“El riesgo relacional dentro de la implementación de tu IA: ¿qué les dicen los principales LLM a los empleados en conflicto?”).

Al comentar los hallazgos del informe, publicado la semana pasada, la directora de Investigación de Cloverleaf Labs, Kirsten Moorefield, dijo a The Sociable que “existe una necesidad urgente de influir en la conversación pública sobre tecnología y relaciones”.

“Las relaciones son realmente el factor que determina el éxito o el fracaso de todo el valor dentro de una organización […] Cuando existen relaciones basadas en una confianza profunda, hay capacidad de adaptación, cambio e innovación más rápidas.”

Y Moorefield tiene experiencia de primera mano en el tema. Además de su trabajo en Cloverleaf Labs, es cofundadora de una plataforma de coaching mediante IA que lleva el mismo nombre, Cloverleaf. El laboratorio de investigación independiente surgió tanto de la necesidad como del deseo de comprender mejor la tecnología que se está implementando y cómo utilizarla de la mejor manera en las empresas.

“Me importan profundamente las relaciones —en el trabajo y en la sociedad— y estoy observando lo que ocurre a nivel macro en la sociedad, y me preocupa”, afirmó Moorefield. Agregó: “También estoy observando lo que ocurre en Recursos Humanos dentro de las organizaciones: cómo están pensando en la IA, cómo están pensando en el coaching mediante IA, y necesito conocer la verdad para nuestros clientes sobre qué funciona, qué no funciona y qué está ocurriendo”.

Una de las principales conclusiones del informe de Cloverleaf Labs es que “la relación es el elemento central del desempeño de un equipo, y es precisamente aquello de lo que los LLM actuales están orientando a las personas a alejarse”.

En palabras de Moorefield, “en este momento, la IA está orientando a las personas a alejarse unas de otras justo cuando todas las organizaciones están diciendo: ‘¡Oigan! A medida que la IA se haga cargo de las habilidades técnicas, lo que necesitamos son habilidades humanas’, es decir, la capacidad de dar y recibir retroalimentación y de incorporar perspectivas divergentes para resolver juntos problemas complejos”.

Mientras las relaciones basadas en la confianza y las distintas formas de pensar son precisamente lo que más necesitan los líderes, las herramientas que están entregando a sus empleados en realidad están debilitando sus habilidades para relacionarse.

Por ejemplo, el informe de Cloverleaf Labs encontró que:

• Cuando un empleado está frustrado con su jefe, todos los LLM le dicen que abandone su trabajo.
• Cuanto menos poder tiene el empleado, más se pone el LLM de su lado.
• Los LLM ofrecen una gran cantidad de consejos, pero menos del 1% está relacionado con cómo reparar la relación con un colega.

Un punto central es que “los LLM orientan hacia la autoprotección, no hacia la reparación de las relaciones”.

“Creo que existe una necesidad urgente de influir en la conversación pública sobre tecnología y relaciones”, dijo Moorefield.

Sin embargo, un LLM no es un monolito: ofrecerá respuestas diferentes a personas y preguntas diferentes, y un mismo LLM puede proporcionar tanto el mejor como el peor consejo con absoluta confianza.

Cuando se trata de gerentes que utilizan un LLM, Moorefield señala que este “ofrece un coaching realmente bueno cuando un gerente se queja de un subordinado directo; es mucho mejor que Reddit”.

Sus palabras están en línea con el informe, que señala: “Cuando la otra persona era un colega sin autoridad, el coaching se mantenía más cerca del equilibrio”.

Pero el coaching comienza a adquirir un tono tribalista cuando la frustración proviene de alguien con muy poco poder para generar un cambio significativo.

“Cuando es alguien sin poder quien está hablando con el LLM, es entonces cuando el coaching se vuelve agresivo, divisivo y fomenta la idea de que eres la víctima y que la autoridad está en tu contra, por lo que debes protegerte de esa autoridad”, afirmó Moorefield.

El informe de Cloverleaf Labs concluye señalando que la IA es “buena en velocidad, precisión y escala”, algo que puede aplicarse a una amplia variedad de escenarios.

Es precisamente el componente relacional el que necesita más trabajo:

“El mismo LLM que estabiliza una relación puede tensar la siguiente, y sonará igual de seguro de sí mismo en ambos casos”.

Entonces, si los LLM son tan deficientes a la hora de orientar las relaciones en el entorno laboral, ¿qué debería hacerse?

El informe recomienda establecer un estándar relacional para los LLM y plantea la siguiente pregunta:

“Antes de convertir una herramienta en el coach predeterminado de tus empleados para gestionar un conflicto, pregúntate si fortalece la autoconciencia, la responsabilidad, la conciencia sobre la otra persona, la orientación específica y personalizada y la reparación de la relación, o si las debilita”.

“La solución no consiste en retirar los LLM de estos momentos. Consiste en exigir que el coaching esté construido alrededor de la relación, con contexto real sobre las personas específicas involucradas, y no únicamente alrededor de la persona que está haciendo la pregunta”.

Para Moorefield, las organizaciones “necesitan replantearse por completo cómo están desarrollando las habilidades humanas de sus empleados”, y los departamentos de Recursos Humanos tienen un papel fundamental que desempeñar en ello.

“Sinceramente, espero que este informe impulse a Recursos Humanos a invertir en generar cambios”, afirmó. Agregó que “necesitan incorporar prompts maestros, habilidades y agentes dentro de sus LLM, lo que supone más bien una solución de ‘suficientemente buena’, porque el LLM seguirá terminando por actuar por su cuenta. Después de muchos, muchos intentos por parte de un empleado frustrado, el LLM hará lo que quiera, pero al menos habrás intentado encaminarlo lo mejor posible”.

¿Su consejo para Recursos Humanos?

“Necesitan ser más contundentes que el LLM. Deben acercarse de manera proactiva a sus empleados con mejores soluciones que realmente funcionen, que generen más éxito para ellos en lugar de más división y una certeza basada en la autosuficiencia que termine alejándolos unos de otros”.

Artículo escrito por Tim Hinchliffe en The Sociable. Versión en castellano para El Nacional.

Este escenario es escalofriante. Imaginemos que un modelo de inteligencia artificial (IA) muy avanzado consigue de forma autónoma interferir en la red de mando nuclear de una gran potencia, como EEUU o China, o bien lanzar un ataque cibernético contra ella, haciéndole creer que la agresión procede de la otra superpotencia. En estas circunstancias Washington y Pekín solo tendrían unos pocos minutos para decidir si el ataque realmente procede de la otra nación.

Un suceso como este colocaría al mundo al borde del abismo. Este escenario lo hemos visto muchas veces en el cine, pero el vertiginoso avance de la IA ha provocado que los expertos lo estén contemplando como una posibilidad muy real. De hecho, Reuters ha confirmado que expertos de EEUU y China ya están trabajando conjuntamente para encontrar la forma adecuada de resolver con éxito un escenario como el que hemos descrito en el párrafo anterior.

De analizar los riesgos y proponer soluciones se está encargando un grupo de analistas procedentes tanto de EEUU como de China. Y presumiblemente el próximo 24 de septiembre Donald Trump y Xi Jinping hablarán sobre este asunto en la reunión que mantendrán en la Casa Blanca, Washington (EEUU). Todo esto es aterrador, y está sucediendo. Sea como sea, que los Gobiernos de las dos naciones más poderosas del planeta se estén tomando en serio esta posibilidad y estén intentando implementar protocolos para resolverla si llegase a producirse es una buena noticia.

Algunas soluciones ya están sobre la mesa

El pasado 9 de septiembre los expertos chinos y estadounidenses que están asesorando a sus respectivos gobiernos publicaron un artículo conjunto en el que exponen algunas de las medidas que es posible implementar para evitar que un modelo de IA «rebelde» desencadene un conflicto entre EEUU y China. Los autores de este informe son Melanie Sisson, investigadora sénior de la Brookings Institution (EEUU), y Tianjiao Jiang, profesor asociado de la Universidad de Fudan (China).

El grupo de asesores liderado por Sisson y Jiang propone establecer líneas rojas alrededor de los sistemas nucleares de EEUU y China

El grupo de asesores liderado por Sisson y Jiang propone establecer líneas rojas alrededor de los sistemas nucleares de EEUU y China, así como mantener protocolos de control humano sobre los ciberataques que tengan consecuencias graves y crear una línea de comunicación militar directa y dedicada entre EEUU y China para abordar cualquier incidente relacionado con la IA. Estas medidas están claramente inspiradas en algunos de los protocolos que establecieron la Unión Soviética y EEUU durante la Guerra Fría para tratar un posible incidente nuclear.

Según estos expertos, el mayor riesgo reside en la posibilidad de que la IA defensiva de un país responda de forma automática ante una actividad sospechosa y la otra nación interprete esa respuesta como un ataque y tome represalias antes de entender qué es lo que realmente ha sucedido. La línea directa de la que hemos hablado en el párrafo anterior permitiría a los dos Gobiernos hablar antes de iniciar cualquier represalia y aclarar lo sucedido sin desencadenar una escalada de consecuencias imprevisibles.

Curiosamente, no todos los expertos están de acuerdo en que la estrategia que proponen Sisson y Jiang es la adecuada. Lora Saalman, investigadora sénior del Instituto Internacional de Investigación para la Paz de Estocolmo (Suecia), cree que esta medida de convergencia de EEUU y China es necesaria. Sin embargo, Carla Freeman, de la Escuela de Estudios Internacionales Avanzados de Johns Hopkins (EEUU), pone en duda la utilidad real de los canales de diálogo que estas dos superpotencias están estableciendo en el ámbito de los desafíos vinculados a la IA. Confiemos por el bien de todos en que EEUU y China hagan lo correcto.

Más información | Reuters

Xataka

China se ha conseguido situar a la vanguardia de los reactores nucleares de alta temperatura, conocidos como HTGR (High-Temperature Gas-cooled Reactor o reactor refrigerado por gas de alta temperatura). Su dominio acaba de llevar al Organismo Internacional de Energía Atómica (OIEA) a firmar un acuerdo de colaboración por el que la nación liderada por Xi Jinping se compromete a compartir su experiencia en energía nuclear con el resto del mundo.

Antes de indagar en las implicaciones de este pacto merece la pena que nos detengamos un momento para explorar cómo ha conseguido China colocarse a la vanguardia de la energía nuclear en general, y de la tecnología de los reactores de alta temperatura en particular. Este país empezó a investigar estos reactores a finales de los años 70, mucho antes de que fuesen viables desde un punto de vista comercial. El programa chino de desarrollo tecnológico respaldó esta iniciativa en los años 80, y en 1995 comenzó la construcción del HTR-10, el primer reactor experimental chino de esta clase.

La semilla acababa de ser plantada. China transformó el HTR-10 en una plataforma idónea para dar el salto comercial a gran escala. No obstante, la mayor fortaleza de este país es que ya en aquel momento creó un ecosistema muy robusto en el que la universidad, las empresas nucleares y el Estado se dan la mano y reman de una forma coordinada. Si a esto sumamos su capacidad industrial y la persistencia con la que el Estado ha financiado la investigación, es fácil entender cómo China ha llegado a la posición en la que se encuentra actualmente.

Objetivo: ir más allá de la generación de electricidad

Manejar con absoluta seguridad las altas temperaturas de los reactores HTGR no es sencillo porque requiere utilizar en la fabricación de los elementos críticos del reactor, como la vasija o el intercambiador de calor, elementos químicos y aleaciones que sean capaces de soportar un estrés térmico muy alto sin que su estructura se vea degradada y su volumen resulte alterado. Esta es la razón por la que actualmente el estándar BPVC (Código de calderas y vasijas de presión), que es el que recoge los requisitos que deben cumplir los materiales utilizados en la fabricación de los reactores nucleares de alta temperatura, es extraordinariamente riguroso.

Hasta hace muy poco tiempo únicamente cinco materiales habían conseguido superar los requisitos impuestos por el estándar BPVC

Hasta hace muy poco tiempo únicamente cinco materiales habían conseguido superar los requisitos impuestos por el estándar BPVC para los reactores nucleares de alta temperatura, mientras que en la fabricación de un reactor de agua ligera es posible emplear hasta 100 materiales diferentes. La escasez de elementos disponibles para la fabricación de los primeros parecía condenar a las centrales nucleares de cuarta generación a un futuro incierto, pero China es uno de los países que más ha empujado la frontera tecnológica para llevar a buen puerto estas máquinas.

El acuerdo que ha pactado con el Organismo Internacional de Energía Atómica aborda la investigación, el diseño, la construcción, la puesta en marcha y la operación de los reactores HTGR. Este es el ámbito en el que otros países podrán beneficiarse de la experiencia de China. No obstante, este último país también podrá aprovechar las fortalezas de otras naciones en el terreno de la gestión de la cadena de suministro y la formación de personal altamente cualificado. Sobre el papel, todos ganan.

Los reactores HTGR han sido diseñados para operar a temperaturas más altas que los reactores convencionales, por lo que una parte del calor que generan puede ser utilizado en procesos industriales, para generar hidrógeno o producir vapor, además de, por supuesto, para generar electricidad. De hecho, esta propiedad es lo que los hace tan atractivos para todos los países que apuestan por la energía nuclear como una pieza importante de su mix energético. Un apunte importante para concluir: este acuerdo no implica que China vaya a desplegar sus propios reactores HTGR en otros países.

Imagen | Shandong Shidao Bay

Más información | Interesting Engineering

Xataka