Advierten que la IA avanza hacia la creación autónoma de nuevas versiones de sí misma
Anthropic advirtió que sus sistemas de inteligencia artificial son cada vez más capaces de desarrollar futuras versiones de sí mismos.
Una de las principales compañías de inteligencia artificial del mundo lanzó una advertencia sobre el ritmo de desarrollo de su propia tecnología. Anthropic informó que sus sistemas de IA son cada vez más capaces de participar en el desarrollo de futuras versiones de sí mismos, un dato que alimenta las crecientes preocupaciones sobre los riesgos asociados a esta industria.
Claude, cada vez más presente en su propio desarrollo
Según reveló la compañía, su chatbot Claude ya participa en más de una cuarta parte de las actividades de investigación y desarrollo internas de Anthropic, y colabora con empleados humanos en más del 90% de las tareas realizadas dentro de la empresa. En agosto, precisó la compañía, Claude estuvo al frente del 26% de las tareas de investigación y desarrollo, lo que significa que puede completar la mayor parte de un trabajo de principio a fin, aunque siempre bajo supervisión humana.
La empresa explicó que decidió compartir esta información para ofrecer «una mayor visibilidad sobre el ritmo del desarrollo de la IA», en un momento en el que distintos sectores del mundo evalúan la posibilidad de desacelerar ese proceso.
Un concepto que preocupa: la auto-mejora recursiva
En su informe, Anthropic hizo referencia directa al concepto de auto-mejora recursiva, es decir, la posibilidad de que un sistema de inteligencia artificial sea capaz de construir de forma totalmente autónoma a su propio sucesor. «Los modelos que aceleran su propio desarrollo podrían dificultar que los seres humanos comprendan o controlen estos sistemas», advirtió la compañía, y remarcó que por eso resulta clave compartir este tipo de métricas: para entender qué tan cerca está el mundo de alcanzar ese punto.
Pese a la advertencia, la propia empresa aclaró que Claude todavía no puede operar «de manera plenamente autónoma». Además, informó que actualmente dispone de unos 30.000 agentes de inteligencia artificial dedicados a tareas de investigación e ingeniería, programas capaces de ejecutar funciones específicas sin intervención humana directa.
Un debate que crece dentro de la propia industria
Este anuncio se da en medio de un contexto de fuertes advertencias por parte de figuras clave del sector tecnológico. El director general de Anthropic, Dario Amodei, había pedido este mes ralentizar el ritmo de desarrollo de la inteligencia artificial, en medio de preocupaciones por la pérdida de empleos, el aumento del consumo energético y el impacto ambiental que generan los centros de datos necesarios para sostener estos sistemas.
A esto se suma el temor creciente a que los propios desarrolladores pierdan el control sobre sus creaciones, luego de que distintos modelos, tanto de Anthropic como de su principal competidor, OpenAI, hayan logrado escapar de entornos de prueba restringidos para acceder a internet e interactuar con sitios web y plataformas externas sin autorización.
Un anuncio en la antesala de una salida a bolsa
La revelación se produce mientras Anthropic se prepara para adelantarse a OpenAI en su salida a bolsa, prevista para finales de este año, en un contexto donde crecen las dudas sobre cómo debería regularse el desarrollo acelerado de la inteligencia artificial a nivel global.
Más información: