Según la ONU, la inteligencia artificial es una amenaza potencial para la humanidad

Para luchar contra las noticias falsas y la deriva de la inteligencia artificial, el secretario general de la ONU recurre al "modelo nuclear".

La inteligencia artificial es un sector particular:el único, podría decirse, en el que sus propios empresarios recorren el mundo denunciando los riesgos para la humanidad.Sam Altman, cofundador y CEO de OpenAI, la empresa que desarrolló ChatGpt, lleva meses haciéndolo, hablando con políticos de todas las nacionalidades sobre el "peligro" que la IA tendría para la supervivencia de la civilización humana.Incluso le escuchamos a menudo utilizar la palabra "extinción", confirmando los temores -fundados o no- sobre su carácter simbólico.Hace unos días, el ex director comercial de Google X, Mo Gawdat, incluso invitado humanidad a "no tener hijos" precisamente debido a las incertidumbres sistémicas que estas tecnologías proyectan sobre nuestro futuro.

El escenario apocalíptico de las inteligencias artificiales

Pero es fácil hablar de Armagedón cuando la IA está involucrada.Es un escenario aterrador, pero también fascinante a su manera, que recuerda a una película de ciencia ficción (Terminadores, Por ejemplo);pero sobre todo es una posibilidad lejana.Lo que podría pasar.Tarde o temprano.Sin embargo, existen riesgos relacionados con la IA que son mucho más cercanos y contemporáneos que el peligro de extinción anunciado por Altman:La IA ya se utiliza hoy en día para campañas de desinformación y propaganda en línea.Así como millones de personas han descubierto las capacidades de ChatGpt para generar textos escritos breves, de hecho, organizaciones políticas de todo tipo lo están utilizando para difundir noticias falsas y "ruido".Y apenas están comenzando.

El pasado lunes, en una reunión donde se debatió sobre desinformación, el Secretario General de las Naciones Unidas, António Guterres, llamó la atención de la política internacional precisamente sobre este lado de la IA, apoyando la creación de un organismo específicamente diseñado para monitorear el desarrollo de estas tecnologías, en el molde de la Agencia Internacional de Energía Atómica (OIEA).Esta última, fundada en 1957, en plena Guerra Fría, contó con un fuerte apoyo de la ONU con el objetivo de promover el uso pacífico de la energía nuclear e impedir su uso con fines militares.

El paralelo entre la IA y la energía nuclear no fue accidental:Según el Secretario General, de hecho, la difusión generalizada de la inteligencia artificial representaría "un riesgo existencial para la humanidad similar al de una guerra nuclear".De hecho, en ambos casos se trata de tecnologías avanzadas que pueden escapar de las manos de los investigadores o ser explotadas en el terrorismo o en el sector bélico.Por lo tanto, Guterres parece estar de acuerdo con parte de la propia industria de la IA, pero cree que la emergencia es mucho más cercana y realista de lo que dicen profetas oscuros como Altman.

La carta abierta de los científicos tecnológicos

Guterres señaló que "las alarmas sobre las formas más recientes de inteligencia artificial generativa son ensordecedoras", subrayando que los temores más fundados provienen de "los desarrolladores que las diseñaron".La referencia del secretario probablemente sea a la carta abierta. firmado por varios científicos y empresarios del sector tecnológico, entre ellos Elon Musk, Steve Wozniak y Tristan Harris, el pasado mes de marzo, donde pidieron "pausar el desarrollo" de esta tecnología "durante al menos seis meses", con el fin de encontrar una manera de evitar y contener sus repercusiones negativas.El escritor y experto en inteligencia artificial “amigable” Eliezer Yudkowsky él respondió al pie de la letra, precisando que detener la investigación en el sector no era suficiente:solo tienes que detenerlo.

El propio Altman, como ya hemos dicho, ha reiterado a menudo la posibilidad de los escenarios más pesimistas, ganándose también la simpatía del Congreso estadounidense el pasado mes de mayo, cuando fue invitado a un debate sobre el tema.Según algunos, la suya sería una estrategia dirigida precisamente a aterrorizar a la gente. reguladores hablando sobre la IA asesina y las extinciones masivas, para desviar la atención de los peligros inminentes y probablemente ya actuales.Como la difusión de noticias falsas, la creación de medios "sintéticos" generados con IA, es decir, fotos, vídeos y audios en los que figuras políticas dicen y hacen cosas inapropiadas, por ejemplo.Son los llamados profundo, que corren el riesgo de contaminar los pozos del debate político y cultural, creando un entorno en el que todo podría ser ser falso y no tomar nada en serio.

Bueno, estos son los peligros de la inteligencia artificial, no el despertar de Skynet (la superred informática rebelde de la película Terminadores).Guterres parece haberse dado cuenta y presentó su idea de crear una agencia internacional de seguimiento del sector.Es una pena que "sólo los Estados miembros puedan crearlo, no el Secretario de las Naciones Unidas", como él mismo explicó.Antes de pensar en el apocalipsis de una película de ciencia ficción, vale la pena empezar por aquí.