Crédito France 24
Por Alonso Rosales
La pregunta dejó de pertenecer exclusivamente al terreno de la ciencia ficción. En septiembre de 2026, una nueva ola de advertencias provenientes de investigadores y directivos de algunas de las principales empresas de inteligencia artificial volvió a colocar sobre la mesa uno de los debates tecnológicos más delicados de nuestro tiempo: ¿podría una inteligencia artificial suficientemente avanzada llegar a representar una amenaza existencial para la humanidad?
La controversia cobró fuerza tras la renuncia de Jacob Coxon, investigador que trabajó en Anthropic y anteriormente en OpenAI. Coxon hizo pública su preocupación por el ritmo con el que las grandes compañías están desarrollando sistemas cada vez más autónomos y capaces de mejorar sus propias capacidades.
Según Coxon, el problema no reside necesariamente en los sistemas actuales, sino en lo que podría ocurrir cuando las máquinas alcancen niveles de inteligencia muy superiores a los humanos y puedan participar en procesos de auto-mejora recursiva. El investigador sostiene que la industria estaría avanzando hacia una inteligencia que podría desarrollar capacidades difíciles de controlar.
Uno de los aspectos más inquietantes de sus declaraciones es que no presentó el riesgo como una posibilidad remota ubicada dentro de varias décadas. Coxon advirtió que algunos de quienes trabajan en el desarrollo de estos sistemas creen que una catástrofe podría producirse antes del final de esta década.
La afirmación recibió un respaldo especialmente significativo desde el interior de Anthropic. Evan Hubinger, investigador especializado en alineamiento de inteligencia artificial, afirmó públicamente que considera superior al 10% la posibilidad de que la IA provoque la extinción humana durante la próxima década.
El concepto central en esta discusión es la llamada auto-mejora recursiva. Se refiere a la posibilidad de que una IA suficientemente avanzada pueda contribuir a desarrollar versiones posteriores de sí misma, acelerando el progreso tecnológico a una velocidad que los seres humanos no puedan comprender o supervisar adecuadamente.
El temor de los investigadores no consiste necesariamente en que una máquina “despierte” y decida destruir a la humanidad como ocurre en determinadas películas. El escenario más serio planteado por especialistas es mucho más complejo: sistemas autónomos capaces de ejecutar operaciones, acceder a redes, encontrar vulnerabilidades, replicar procesos, manipular información o perseguir objetivos sin que sus operadores comprendan completamente lo que están haciendo.
Precisamente por eso, el debate ha pasado de preguntarse solamente qué puede hacer la IA a plantear otra cuestión: ¿podremos mantener el control cuando sea capaz de hacer muchas cosas mejor y más rápidamente que nosotros?
Las preocupaciones tampoco son puramente teóricas.
Anthropic publicó recientemente un informe sobre usos maliciosos de sus modelos en el que documentó actividades relacionadas con espionaje, ciberataques, vigilancia y otras operaciones. La empresa también ha advertido que la IA puede ser utilizada para facilitar investigaciones relacionadas con armas biológicas y otros tipos de amenazas.
Esto introduce una diferencia fundamental.
Una IA no necesita necesariamente desarrollar una voluntad propia para convertirse en un peligro. Los seres humanos pueden utilizarla como multiplicador de sus propias capacidades destructivas.
Un sistema capaz de analizar grandes cantidades de información, descubrir vulnerabilidades informáticas o acelerar determinadas investigaciones científicas puede convertirse en una herramienta extraordinariamente poderosa si cae en manos de gobiernos, grupos criminales, organizaciones terroristas o individuos con intenciones maliciosas.
Por ello, algunos expertos consideran que el riesgo más inmediato no es una rebelión de las máquinas, sino la combinación entre IA autónoma, armas, ciberseguridad, biotecnología y ausencia de controles internacionales efectivos.
La advertencia de Coxon llega en un momento particularmente significativo para Anthropic.
Su director ejecutivo, Dario Amodei, pidió este 12 de septiembre que la industria reduzca deliberadamente la velocidad con la que desarrolla los modelos de frontera. Amodei sostiene que las capacidades de los sistemas están avanzando más rápidamente que los mecanismos destinados a comprenderlos y controlarlos.
El ejecutivo propuso tres líneas de acción: incorporar evaluadores independientes dentro de las empresas de IA, establecer estándares comunes de seguridad entre los principales laboratorios y promover mecanismos de cooperación internacional.
Amodei también señaló un riesgo particularmente preocupante: agentes o grupos de sistemas de IA que puedan operar de manera autónoma en Internet. Según su planteamiento, si la evolución continúa sin suficientes controles, determinados sistemas podrían alcanzar capacidades capaces de producir daños económicos y tecnológicos de enorme magnitud en cuestión de meses.
La posición de Amodei es relevante porque no procede de un crítico externo de la industria, sino del máximo responsable de una de las empresas que precisamente compiten por desarrollar modelos cada vez más avanzados.
La advertencia también encontró eco en Elon Musk, fundador de xAI y una de las figuras más conocidas por sus advertencias sobre los peligros de la inteligencia artificial.
Musk respaldó públicamente la propuesta de Amodei con un mensaje breve pero significativo en X: “Dario tiene razón”.
La coincidencia resulta especialmente llamativa porque Musk dirige una compañía que también participa directamente en la carrera por desarrollar inteligencia artificial avanzada.
Su posición histórica ha sido que la IA constituye uno de los riesgos tecnológicos más importantes para la civilización y que los gobiernos no deberían esperar hasta que ocurra una catástrofe para establecer reglas.
Ahora, su respaldo a una desaceleración del desarrollo muestra que la preocupación ya no pertenece solamente a investigadores especializados en seguridad de IA: empieza a convertirse en un asunto que divide a los propios líderes de la industria.
Otro actor fundamental es Sam Altman, CEO de OpenAI.
Altman también expresó apoyo a la idea de utilizar evaluadores externos independientes. OpenAI ha planteado, además, la necesidad de establecer requisitos nacionales obligatorios de seguridad para determinados sistemas de IA.
La evolución de Altman resulta significativa. Durante años, el debate tecnológico estuvo dominado por la necesidad de avanzar rápidamente para no perder la competencia frente a otras empresas y frente a China. Sin embargo, el crecimiento de las capacidades autónomas está obligando a las compañías a discutir una cuestión diferente: cuánto avance puede producirse antes de que los mecanismos de seguridad sean insuficientes.
La preocupación tampoco se limita a Anthropic y OpenAI. Demis Hassabis, CEO de Google DeepMind, ha defendido anteriormente la necesidad de combinar innovación con políticas públicas capaces de reducir los riesgos de sistemas avanzados. El debate entre Hassabis, Altman y Amodei refleja que las grandes empresas no necesariamente discrepan sobre la existencia de riesgos, sino sobre qué regulación debe aplicarse, quién debe supervisarla y hasta dónde debe llegar.
Esta discusión tiene además una dimensión geopolítica.
Estados Unidos y China compiten por dominar las tecnologías consideradas estratégicas para las próximas décadas. Frenar demasiado podría significar perder ventajas económicas, militares y científicas. Pero avanzar demasiado rápido podría generar sistemas cuyas consecuencias nadie pueda predecir completamente.
Ese dilema convierte a la IA en mucho más que un asunto empresarial.
La respuesta responsable es no existe evidencia que permita afirmar que la inteligencia artificial vaya a acabar con la humanidad.
Las predicciones de extinción son escenarios de riesgo, no hechos inevitables. Existen científicos y especialistas que consideran exageradas algunas de estas proyecciones y sostienen que la discusión debería concentrarse en problemas concretos y actuales: desinformación, pérdida de empleos, vigilancia, discriminación algorítmica, ciberataques y utilización criminal de sistemas automatizados.
Pero tampoco sería responsable descartar las advertencias.
La particularidad de la actual revolución tecnológica consiste en que, por primera vez, los seres humanos están construyendo sistemas capaces de realizar tareas intelectuales que antes estaban reservadas exclusivamente a las personas.
La cuestión fundamental, por tanto, no es si la IA es “buena” o “mala”. El verdadero desafío es determinar quién controla su desarrollo, bajo qué reglas y qué mecanismos existirán para detenerla si algún día sus capacidades superan nuestra capacidad de supervisión.
La advertencia de Jacob Coxon puede ser considerada extrema por algunos. Sin embargo, el hecho de que altos ejecutivos como Dario Amodei, Sam Altman y Elon Musk coincidan ahora en la necesidad de introducir mayores controles demuestra que la preocupación dejó de ser un asunto marginal.
La humanidad todavía conserva algo que una inteligencia artificial no debería poder sustituir: la capacidad de decidir cuándo una tecnología es demasiado poderosa para continuar desarrollándola sin suficientes garantías.
Y quizá esa sea la verdadera pregunta que plantea esta nueva etapa de la inteligencia artificial: no si las máquinas destruirán a los seres humanos, sino si los seres humanos tendrán la prudencia suficiente para controlar aquello que están construyendo.