Crédito France 24
Por Alonso Rosales
La discusión sobre los riesgos de la inteligencia artificial (IA) ha entrado en una nueva fase. Ya no se trata únicamente de científicos, filósofos o activistas digitales advirtiendo sobre un futuro dominado por máquinas autónomas. Ahora son algunos de los principales empresarios de la industria tecnológica quienes reconocen públicamente que el desarrollo acelerado de sistemas de IA puede producir consecuencias que todavía no estamos preparados para controlar.
Sam Altman, director ejecutivo de OpenAI; Dario Amodei, máximo responsable de Anthropic, y Elon Musk, fundador de xAI, representan posiciones empresariales diferentes y, en algunos casos, abiertamente enfrentadas. Sin embargo, sus recientes advertencias coinciden en un punto: el desarrollo de la IA de frontera no debería avanzar sin mecanismos de seguridad y regulación capaces de limitar sus posibles consecuencias.
El problema es que estas advertencias aparecen precisamente cuando Estados Unidos libra una intensa competencia tecnológica con China. Para el presidente Donald Trump y sectores importantes del Partido Republicano, desacelerar el desarrollo de la IA estadounidense significaría correr el riesgo de perder una carrera estratégica frente a Pekín.
Trump lo ha expresado de manera contundente: quien gane la carrera de la inteligencia artificial tendrá una ventaja decisiva. El presidente de la Cámara de Representantes, Mike Johnson, ha sostenido una posición similar al advertir que una moratoria estadounidense podría permitir que China tome la delantera.
Pero detrás de este enfrentamiento existe una pregunta más profunda: ¿la humanidad está realmente discutiendo cómo controlar la inteligencia artificial o estamos presenciando una lucha por controlar la tecnología, el mercado y las reglas que definirán su futuro?
Una de las preocupaciones más discutidas es la posibilidad de que los sistemas de IA alcancen niveles de autonomía que dificulten el control humano.
La hipótesis no pertenece exclusivamente a la ciencia ficción. Investigadores especializados en seguridad de IA han advertido sobre sistemas capaces de ejecutar tareas complejas, utilizar herramientas digitales, desarrollar estrategias y operar durante períodos prolongados con una intervención humana limitada.
Dario Amodei ha señalado riesgos relacionados con la pérdida de control, el uso de IA en ciberataques y bioterrorismo y una posible disrupción económica de grandes proporciones.
Sin embargo, algunos especialistas consideran que concentrar el debate en una eventual “superinteligencia” que destruya a la humanidad puede desviar la atención de problemas que ya existen.
La cuestión no es solamente qué podría hacer una IA dentro de diez o veinte años. También importa qué están haciendo hoy los gobiernos, las empresas y los ejércitos con estas tecnologías.
La vigilancia automatizada, el reconocimiento facial, la manipulación de información, los sistemas de selección de candidatos laborales, la elaboración de propaganda política y el empleo de inteligencia artificial en operaciones militares son realidades contemporáneas.
Por ello, el riesgo puede ser menos cinematográfico y mucho más político: que unas pocas empresas y gobiernos acumulen una capacidad extraordinaria para observar, predecir, influir y decidir sobre millones de personas.
La IA también debe analizarse desde la economía política.
Los sistemas más avanzados necesitan enormes cantidades de capacidad computacional, electricidad, centros de datos, chips especializados, infraestructura de almacenamiento y capital financiero.
Esto ha convertido a la inteligencia artificial en una industria extraordinariamente intensiva en recursos.
Las grandes compañías tecnológicas poseen una ventaja estructural porque pueden invertir miles de millones de dólares en infraestructura y contratar a los investigadores más especializados.
En consecuencia, una regulación mal diseñada podría producir un efecto paradójico: en lugar de limitar el poder de los gigantes tecnológicos, podría fortalecerlo.
Las empresas grandes tendrían mayores posibilidades de cumplir con regulaciones costosas, auditorías técnicas y requisitos de seguridad, mientras que empresas pequeñas o nuevos competidores podrían quedar excluidos.
Aquí aparece uno de los elementos centrales del debate: regular la IA no es necesariamente democratizarla.
La regulación puede proteger a la sociedad, pero también puede convertirse en una barrera de entrada si las reglas son diseñadas de acuerdo con los intereses de quienes ya dominan el mercado.
Por eso resulta fundamental preguntarse quién participa en la construcción de las normas.
Las recientes declaraciones de Altman, Amodei y Musk plantean otra contradicción.
Las empresas tecnológicas piden regulación, pero al mismo tiempo tienen un enorme interés en participar en el proceso mediante el cual esa regulación será diseñada.
Esto puede generar lo que en economía política se conoce como captura regulatoria: una situación en la que los actores que deberían ser supervisados terminan teniendo una influencia desproporcionada sobre las instituciones encargadas de supervisarlos.
Si las grandes compañías terminan estableciendo los estándares técnicos, definiendo qué constituye un riesgo aceptable y determinando qué sistemas pueden desarrollarse, el resultado podría ser una regulación hecha a la medida de la industria.
La sociedad necesita reglas, pero esas reglas no pueden ser redactadas exclusivamente por quienes poseen las tecnologías que serán reguladas.
Universidades, gobiernos, organizaciones de derechos digitales, consumidores, trabajadores y especialistas independientes deberían formar parte de esa discusión.
El argumento de que regular la IA beneficia automáticamente a China merece también una revisión crítica.
La narrativa política estadounidense suele presentar una disyuntiva: Estados Unidos puede innovar o puede regular; si elige lo segundo, China ganará.
Sin embargo, esta oposición es incompleta.
China también regula determinados usos de la inteligencia artificial mientras desarrolla simultáneamente modelos, infraestructura y capacidades propias.
La experiencia histórica demuestra, además, que regulación e innovación no son necesariamente incompatibles.
Sectores estratégicos de la economía estadounidense, como la aviación, la industria farmacéutica y la automoción, funcionan bajo marcos regulatorios importantes y, pese a ello, Estados Unidos continúa siendo una potencia tecnológica.
El verdadero dilema no es, por tanto, regulación contra innovación, sino qué regulación permite innovar sin convertir la innovación en una amenaza para los derechos ciudadanos y la estabilidad económica.
Uno de los aspectos menos discutidos del debate público es la utilización militar de la inteligencia artificial.
La incorporación de IA en sistemas de vigilancia, drones, análisis de inteligencia, selección de objetivos y operaciones militares plantea dilemas éticos y jurídicos de enorme magnitud.
La posibilidad de que una máquina contribuya a determinar quién debe ser atacado introduce una pregunta fundamental sobre responsabilidad.
Si un sistema autónomo identifica incorrectamente a una persona como objetivo, ¿quién responde por la decisión?
¿El programador? ¿La empresa que desarrolló el algoritmo? ¿El comandante militar? ¿El Estado?
La ausencia de respuestas claras demuestra que el desarrollo tecnológico está avanzando más rápidamente que los mecanismos políticos y jurídicos destinados a controlarlo.
Existe además una dimensión económica que no puede ignorarse.
La industria de la IA ha recibido inversiones extraordinarias y está construida sobre expectativas de crecimiento futuro. Sin embargo, las expectativas financieras no siempre coinciden con la velocidad real de adopción.
Las empresas necesitan convencer a inversores y consumidores de que la IA transformará la economía y justificará los enormes costos de infraestructura.
En este contexto, la narrativa sobre seguridad puede cumplir funciones contradictorias.
Puede ser una advertencia genuina de científicos preocupados por los riesgos. Pero también puede contribuir a reforzar la imagen de estas empresas como actores responsables y técnicamente indispensables.
La paradoja es evidente: las mismas compañías que advierten sobre los peligros de la IA pueden presentarse simultáneamente como las únicas capaces de controlarlos.
El problema fundamental no es decidir si debemos detener la inteligencia artificial.
Una pausa absoluta sería difícil de implementar y podría tener consecuencias económicas y estratégicas significativas. Pero permitir una carrera tecnológica sin límites tampoco parece una solución responsable.
El desafío consiste en construir una gobernanza internacional capaz de establecer límites sobre determinados usos, garantizar transparencia, proteger los datos personales, controlar aplicaciones militares y evitar concentraciones excesivas de poder tecnológico.
La inteligencia artificial no debería convertirse en un territorio reservado a gobiernos y corporaciones.
La discusión debe incluir a la ciudadanía.
Porque el verdadero riesgo quizá no sea que las máquinas lleguen algún día a pensar como seres humanos. El riesgo inmediato es que los seres humanos entreguen progresivamente a unas pocas máquinas y a unas pocas empresas decisiones que antes pertenecían a la sociedad.
La humanidad se encuentra ante una transformación tecnológica comparable, por sus posibles consecuencias, con la revolución industrial y la revolución digital.
Pero esta vez existe una diferencia fundamental: las máquinas no solamente ejecutan instrucciones. Cada vez pueden interpretar información, generar contenido, aprender patrones, tomar decisiones y actuar sobre entornos digitales y físicos.
Por ello, la discusión debe abandonar tanto el optimismo tecnológico ingenuo como el alarmismo apocalíptico.
No toda inteligencia artificial conducirá a una catástrofe, pero tampoco todo desarrollo tecnológico producirá automáticamente bienestar.
El futuro dependerá de quién controle la infraestructura, quién posea los datos, quién establezca las reglas y quién tenga capacidad para exigir responsabilidades.
Estados Unidos y China compiten por el liderazgo de esta nueva revolución. Las grandes empresas compiten por mercados y capitales. Los gobiernos buscan ventajas económicas y militares.
Y mientras todos ellos compiten, la sociedad enfrenta una pregunta esencial:
¿será la inteligencia artificial una herramienta al servicio de la humanidad o una nueva estructura de poder concentrada en manos de quienes controlen sus algoritmos, sus datos y su infraestructura?
La respuesta todavía no está escrita. Pero una cosa parece cada vez más evidente: el debate sobre el peligro de la inteligencia artificial no puede reducirse al temor de que las máquinas se vuelvan demasiado inteligentes.
El problema más inmediato es que los seres humanos pueden permitir que quienes controlan esas máquinas acumulen demasiado poder.