«Podemos perder el control»: Anthropic lanza un alerta mundial y pide frenar la carrera tecnológica
La empresa detrás de Claude sostiene que los sistemas más avanzados podrían comenzar a mejorarse sin intervención humana en los próximos años.
La carrera por desarrollar inteligencia artificial cada vez más poderosa acaba de sumar una nueva advertencia desde el corazón de la industria tecnológica. Anthropic, una de las compañías líderes del sector, aseguró que los avances actuales acercan un escenario en el que la IA podría diseñar y construir versiones más avanzadas de sí misma sin intervención humana directa.
La empresa estadounidense, creadora del asistente Claude, sostiene que este proceso, conocido como «automejora recursiva», podría materializarse en los próximos años y representar uno de los mayores desafíos tecnológicos de la historia reciente.
Según la compañía, la posibilidad de que sistemas de IA desarrollen a sus propios sucesores no es inevitable, pero los progresos observados dentro de sus laboratorios muestran que la participación humana en ciertas tareas clave ya está disminuyendo de manera acelerada.
La inteligencia artificial ya escribe gran parte de su propio código
Anthropic reveló que más del 80% del código incorporado actualmente a sus sistemas fue generado por herramientas de inteligencia artificial. Apenas un año atrás, esa proporción era inferior al 10%.
La tendencia refleja un cambio profundo en la forma en que se construyen estos modelos. Los ingenieros continúan supervisando el proceso, pero cada vez delegan más tareas de programación, optimización y desarrollo a sistemas automatizados.
Para la empresa, este fenómeno podría derivar en un ciclo de retroalimentación donde una IA contribuya a crear una versión más potente, que luego ayude a desarrollar otra aún más avanzada.
El pedido de una pausa internacional
Frente a ese escenario, Anthropic planteó la necesidad de que el mundo disponga de mecanismos para ralentizar o incluso detener temporalmente el desarrollo de las tecnologías más avanzadas.
La compañía argumenta que una pausa permitiría que las investigaciones sobre seguridad, regulación y alineamiento ético avancen al mismo ritmo que las capacidades técnicas.
Sin embargo, reconoce que una medida de ese tipo solo tendría sentido si fuera aplicada de manera coordinada por las principales potencias y empresas del sector.
Uno de los mayores obstáculos es que los entrenamientos de inteligencia artificial son mucho más difíciles de supervisar que otros desarrollos estratégicos, como los programas nucleares. Por ello, la firma considera indispensable crear mecanismos internacionales de verificación capaces de garantizar que todos los actores respeten las mismas reglas.
Una industria dividida sobre los riesgos
Las advertencias de Anthropic no son compartidas por todo el ecosistema tecnológico. Algunos competidores, funcionarios estadounidenses y especialistas consideran que la empresa exagera los riesgos asociados a la IA avanzada.
Entre los críticos existe preocupación por que una desaceleración beneficie a rivales internacionales, especialmente a China, en una competencia considerada estratégica para la economía, la defensa y la innovación.
Aun así, la discusión sobre los límites del desarrollo tecnológico ha ganado espacio en Washington. Esta semana, el presidente Donald Trump firmó una orden ejecutiva que permitirá al gobierno realizar evaluaciones preliminares sobre algunos de los modelos de IA más potentes antes de su lanzamiento.
Un debate que recién comienza
Anthropic sostiene que la cuestión ya no es si la inteligencia artificial transformará profundamente la sociedad, sino a qué velocidad ocurrirá y bajo qué mecanismos de control.
La compañía prevé convocar a gobiernos, científicos, organizaciones civiles y empresas tecnológicas para debatir posibles marcos de gobernanza internacional.
Mientras la capacidad de los sistemas avanza a un ritmo sin precedentes, la advertencia de la firma resume una preocupación creciente en el sector: que la inteligencia artificial pueda evolucionar más rápido de lo que las instituciones humanas son capaces de comprender, regular o supervisar.
Más información: