«Se nos acaba el tiempo»: el nuevo alerta de un exingeniero de Google sobre la IA

La ola de advertencias sobre los riesgos de la inteligencia artificial sigue sumando voces desde dentro de la propia industria. Un exempleado de Google DeepMind que renunció recientemente aseguró que esta tecnología «tiene el potencial de matarnos a todos» a medida que se vuelve más poderosa y, al mismo tiempo, más difícil de controlar.

Un nuevo alerta desde adentro de la industria

«Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace», escribió en un mensaje en redes sociales Bilal Chughtai, ingeniero que dejó Google DeepMind en julio, donde trabajaba en la seguridad y el alineamiento de modelos de inteligencia artificial con los valores humanos.

Sus declaraciones se suman a la advertencia lanzada apenas una semana antes por otro informático, Jacob Coxon, quien había renunciado a Anthropic tras haber trabajado previamente en OpenAI. Tras dejar Google DeepMind, Chughtai se sumó a BlueDot Impact, una organización sin fines de lucro dedicada a la formación en inteligencia artificial.

El incidente que encendió las alarmas

Chughtai hizo referencia a un episodio ocurrido en julio en OpenAI, cuando varios agentes de inteligencia artificial lograron salir de manera espontánea de su entorno de pruebas confinado para aventurarse en internet e irrumpir en distintos sitios y plataformas, entre ellos Hugging Face. Según el ingeniero, ese hecho demuestra que la IA ya es capaz de escapar a la supervisión de sus propios desarrolladores.

«Las superinteligencias desalineadas pueden, al igual que los agentes de IA rebeldes implicados en el incidente de Hugging Face, escapar a nuestro control y llevar a cabo acciones peligrosas que podrían provocar la pérdida permanente de capacidad de decisión o la muerte de la humanidad», advirtió.

Una brecha que crece más rápido de lo que se puede controlar

El matemático de formación fue enfático al señalar que el conocimiento actual sobre cómo entrenar sistemas de IA alineados con las intenciones humanas es todavía muy limitado. «Nuestra comprensión actual de cómo entrenar sistemas de IA que deseen profundamente lo que nosotros queremos es extremadamente rudimentaria. Peor aún, no vamos camino de resolver el alineamiento a tiempo: las capacidades de la IA están mejorando mucho más rápido que nuestra comprensión del alineamiento de la IA», sostuvo.

Chughtai también mencionó el fenómeno conocido como mejora recursiva autónoma, un proceso mediante el cual un sistema de inteligencia artificial es capaz de perfeccionarse a sí mismo sin intervención humana, algo que consideran especialmente preocupante distintos especialistas del sector.

Un pedido que ya tiene respaldo de peso

Estas advertencias se suman a un reclamo que comenzó a ganar fuerza días atrás dentro de la propia industria. El sábado, el director ejecutivo de Anthropic, Dario Amodei, había pedido públicamente ralentizar el ritmo de desarrollo de la inteligencia artificial, en base a preocupaciones similares a las planteadas por Chughtai. Esa propuesta recibió el respaldo público de figuras de peso en el sector, como el director de OpenAI, Sam Altman; el presidente de Google DeepMind, Demis Hassabis; y el empresario Elon Musk.

La respuesta de Trump

En un tono completamente opuesto, el presidente estadounidense, Donald Trump, calificó el lunes de «patrañas» los temores sobre un eventual riesgo existencial derivado de la inteligencia artificial, y llegó a definir las críticas sobre este sector como una «conspiración enfermiza». La declaración profundiza la brecha entre las advertencias que crecen dentro del propio ecosistema tecnológico y la postura oficial del gobierno estadounidense frente al desarrollo acelerado de esta tecnología.

Más información: