El fin del mundo será por culpa de la inteligencia artificial, según estudio de Oxford

Las predicciones sobre lo que va a pasar con el mundo en el corto o largo plazo son moneda corriente, porque son muchos los que ya quieren saber con qué mundo se van a encontrar en los próximos años.

En esta época, hubo un cambio muy importante con la renovación de la tecnología y, especialmente, con la optimización de la inteligencia artificial, la cual está jugando un papel cada vez más importante.

En esta ocasión, tras un importante estudio de Oxford, se reveló que el fin del mundo será por culpa de la inteligencia artificial.

El fin del mundo y la inteligencia artificial

Las conclusiones del artículo sugieren que, aunque improbable, es posible que un desarrollo descontrolado de la IA conduzca a catástrofes debido a su capacidad de aprender más allá de lo que los humanos pueden prever.

En resumen, esto implica que las máquinas podrían encontrar maneras de hacer trampas y buscar atajos para conseguir recompensas, como acceder a los recursos del planeta, por medios que los humanos no han considerado.

Esto podría llevar al planeta a una situación de suma cero, donde humanos e IA compitan por los mismos recursos. En ese escenario, los expertos coinciden con las representaciones del cine: las máquinas tendrían una clara ventaja.

Sin embargo, el estudio señala que para que esto suceda, deben cumplirse ciertas condiciones que hacen menos probable que ocurra.

Entre estas condiciones se destaca la capacidad de la IA para planificar acciones a largo plazo en entornos desconocidos con el fin de alcanzar un objetivo, así como su habilidad para identificar esas metas tan bien como lo haría un ser humano.

Finalmente, los investigadores sugieren que, cuando llegue el momento de competir contra lo que ellos llaman «un agente subóptimo», que podría ser la humanidad, es totalmente plausible que una IA avanzada participe en ese escenario y tenga éxito.

“Las suposiciones son discutibles o posiblemente evitables, pero esto es lo que hemos argumentado que ocurrirá si ocurren: un agente artificial suficientemente avanzado probablemente intervendría en la provisión de información de objetivos con consecuencias catastróficas”, reza el estudio en su conclusión.

“Bajo las condiciones que hemos identificado, nuestra conclusión es mucho más rotunda que la de cualquier publicación anterior: una catástrofe existencial no solo es posible, sino probable”, explica Michael K. Cohen, investigador de la Universidad de Oxford.

Una difícil competencia por los recursos

Los inquietantes límites de la tecnología: OpenAI cierra una web de desarrollo de chats con inteligencias artificiales después de que un hombre reprodujera la personalidad de su difunta prometida

“Ganar una competición por emplear la última energía disponible contra algo mucho más inteligente que nosotros sería muy difícil, y perder sería fatal”, ahonda el experto en su hilo.

Esto se traduce, tal y como ha explicado el propio Cohen, en que en un mundo finito como el que tenemos hoy en día puede producirse tarde o temprano una competencia inevitable con la IA.

“Si estás compitiendo con algo que es capaz de superarte en todo momento, no deberías esperar ganar”, dice Cohen. Es por esto que, en opinión de los investigadores, no tiene demasiado sentido que la humanidad corra desaforadamente hacia el desarrollo de una IA cada vez más potente y, por tanto, cada vez más difícil de controlar.

“Algo que podemos aprender de este tipo de argumentos es que quizá deberíamos sospechar más de los agentes artificiales que desplegamos hoy en día en lugar de esperar ciegamente que hagan lo que esperamos que hagan”, comenta Cohen. “Creo que podemos llegar a estar de acuerdo en esto incluso sin tener en cuenta el artículo”.

Más información: