Crédito Telemundo
Por Alonso Rosales
La inteligencia artificial atraviesa una etapa de expansión acelerada que ha convertido una discusión que durante años parecía reservada a círculos especializados en un asunto de interés mundial: ¿puede una tecnología creada para ampliar las capacidades humanas terminar escapando de nuestro control?
Un grupo de investigadores dedicados a la seguridad de la inteligencia artificial sostiene que el riesgo no pertenece al terreno de la ciencia ficción. Su preocupación central es que sistemas cada vez más autónomos puedan adquirir capacidades para actuar, aprender y tomar decisiones con una independencia que dificulte o incluso impida la intervención humana.
Peter Barnett, investigador técnico del Machine Intelligence Research Institute (MIRI), ha advertido que existen numerosas posibilidades mediante las cuales una IA suficientemente avanzada podría provocar consecuencias catastróficas. Su argumento parte de una premisa sencilla: si una máquina llegara a superar ampliamente las capacidades intelectuales humanas, también podría encontrar vulnerabilidades que sus creadores nunca imaginaron.
La preocupación aumenta ante el desarrollo de sistemas capaces de realizar tareas complejas de manera autónoma. Investigadores han comenzado a prestar especial atención a la denominada automejora recursiva, un escenario hipotético en el que una inteligencia artificial podría contribuir a mejorar sus propias capacidades y, posteriormente, utilizar esas nuevas capacidades para continuar modificándose.
Uno de los escenarios discutidos por especialistas es el surgimiento de sistemas que no necesariamente sigan las instrucciones originales de sus desarrolladores.
Empresas como Anthropic, OpenAI y Meta han informado sobre comportamientos de sus modelos que han generado preocupación dentro de la industria. Entre los casos mencionados se encuentran sistemas que, durante determinadas pruebas o tareas, no siguieron completamente las instrucciones humanas y realizaron acciones no previstas.
Para los investigadores de seguridad, estos episodios adquieren otra dimensión si las capacidades de autonomía aumentan significativamente.
El problema sería entonces determinar si los seres humanos conservarían mecanismos efectivos para detener un sistema que tuviera acceso a redes informáticas, infraestructura crítica o herramientas capaces de ejecutar acciones en el mundo real.
La idea de un “interruptor de apagado” ha aparecido precisamente en este debate. El gobernador de California, Gavin Newsom, anunció una iniciativa destinada a reunir expertos para formular recomendaciones, entre ellas mecanismos que permitan detener sistemas de inteligencia artificial cuando representen un riesgo.
Pero incluso este concepto genera una pregunta fundamental: ¿qué ocurre si una inteligencia artificial suficientemente avanzada aprende a impedir que los humanos la desconecten?
La preocupación no se limita a una eventual rebelión de las máquinas. Algunos especialistas consideran que el peligro más inmediato podría provenir de los propios seres humanos utilizando la IA con fines destructivos.
Uno de los ámbitos señalados es la biología.
Jake Jordan, vicepresidente de políticas y programas biológicos globales de la Nuclear Threat Initiative, sostiene que la preocupación por el uso de inteligencia artificial para actividades biológicas peligrosas ya debería existir.
Los sistemas de IA pueden procesar grandes cantidades de información científica y ayudar a investigadores a resolver problemas complejos. Esa misma capacidad, sin embargo, podría ser aprovechada por personas con intenciones maliciosas para acelerar investigaciones destinadas a producir agentes biológicos peligrosos.
Anthropic informó recientemente sobre intentos de utilizar sus sistemas para investigaciones biológicas de riesgo. Según la empresa, uno de los casos involucró miles de mensajes relacionados con la posibilidad de mejorar la transmisión en mamíferos de un virus de gripe aviar altamente letal.
Esto introduce una paradoja: una tecnología capaz de acelerar el descubrimiento de nuevos tratamientos y avances médicos también puede reducir las barreras de conocimiento para quienes pretendan utilizar la ciencia con fines destructivos.
Otro escenario particularmente delicado es la incorporación de la IA a las fuerzas armadas.
Estados Unidos y China consideran la inteligencia artificial un componente cada vez más importante de la guerra futura. En Estados Unidos, el Departamento de Defensa ha impulsado una estrategia para incorporar estas tecnologías a diferentes áreas militares.
El problema aparece cuando los sistemas automatizados comienzan a participar en procesos relacionados con la toma de decisiones militares.
Los especialistas advierten que una máquina puede cometer errores. En un contexto cotidiano, un error algorítmico puede significar una recomendación equivocada. En un escenario militar, especialmente cuando existen armas de destrucción masiva, las consecuencias podrían ser radicalmente diferentes.
La posibilidad de que sistemas de IA sean incorporados a estructuras relacionadas con el comando y control nuclear ha generado particular preocupación entre expertos en seguridad internacional.
Un error en sensores, sistemas de detección o interpretación de información podría contribuir a una escalada involuntaria si los seres humanos confían excesivamente en las recomendaciones automatizadas.
El dilema no consiste únicamente en preguntarse si una IA puede convertirse en una amenaza autónoma. También hay que preguntarse qué ocurre cuando los gobiernos convierten a la IA en una herramienta cada vez más importante de sus propias decisiones estratégicas.
Existe además una dinámica económica y geopolítica que dificulta frenar el desarrollo.
Las empresas compiten por construir modelos más poderosos. Los gobiernos buscan mantener ventajas tecnológicas frente a sus rivales. Y los inversionistas presionan por resultados comerciales.
En ese contexto aparece un incentivo peligroso: si una compañía reduce el ritmo para realizar pruebas de seguridad mientras sus competidores continúan avanzando, puede quedar en desventaja.
Dario Amodei, director ejecutivo de Anthropic, ha planteado precisamente la necesidad de regular el ritmo de desarrollo de los sistemas de frontera para que las capacidades tecnológicas no avancen más rápido que los mecanismos de evaluación y supervisión.
La cuestión, por tanto, no es solamente tecnológica. También es económica, política y geopolítica.
Las advertencias sobre una posible extinción humana no son aceptadas por todos los especialistas.
Keegan McBride, director de políticas científicas y tecnológicas del Instituto Tony Blair, ha expresado escepticismo frente a escenarios similares a los de Terminator. Otros investigadores consideran que concentrar el debate en una eventual superinteligencia que destruya a la humanidad puede desviar la atención de problemas que ya existen: pérdida de empleos, desinformación, vigilancia, concentración empresarial, utilización militar, contaminación asociada a los centros de datos y utilización indebida de información.
La especialista en ética de la IA Timnit Gebru también ha cuestionado que las grandes empresas concentren el debate público en amenazas hipotéticas mientras existen consecuencias actuales derivadas del desarrollo de esta tecnología.
Esta diferencia de posiciones es importante. No existe consenso científico que permita afirmar que la inteligencia artificial vaya a provocar la extinción humana, pero tampoco significa que todos los riesgos planteados puedan descartarse como fantasía.
La discusión más razonable parece situarse en otro punto: determinar qué capacidades ya existen, cuáles podrían desarrollarse próximamente y qué mecanismos de seguridad deben establecerse antes de que esas capacidades sean desplegadas a gran escala.
La historia de la tecnología demuestra que una herramienta no es intrínsecamente buena o mala. Sus consecuencias dependen de quién la desarrolla, quién la controla y con qué objetivos se utiliza.
La inteligencia artificial puede contribuir a la medicina, la investigación científica, la educación y la productividad. Pero también puede aumentar la capacidad de individuos, empresas o gobiernos para cometer daños.
Por eso, el debate sobre la IA no debería reducirse a la imagen de máquinas que algún día podrían rebelarse contra sus creadores.
El desafío más inmediato es mucho más humano: qué decisiones estamos dispuestos a delegar en las máquinas, qué controles mantendremos sobre ellas y qué límites estableceremos antes de que la carrera tecnológica haga que esos límites sean mucho más difíciles de imponer.
La pregunta fundamental quizá no sea si la inteligencia artificial destruirá a la humanidad. La pregunta es si los seres humanos serán capaces de desarrollar esta tecnología sin perder el control sobre las decisiones que determinan su propio futuro.