La agencia española verificó mediante geolocalización que las fotografías corresponden al ataque ocurrido en Minab, después de que la inteligencia artificial de X asegurara, sin pruebas, que eran de Kabul en 2021.
Zarko Pinkas-Ramírez |
La agencia española verificó mediante geolocalización que las fotografías corresponden al ataque ocurrido en Minab, después de que la inteligencia artificial de X asegurara, sin pruebas, que eran de Kabul en 2021.
La cuenta de verificación de la Agencia EFE, EFE Verifica, desmintió públicamente una afirmación realizada por Grok, la herramienta de inteligencia artificial integrada en la red social X. El sistema aseguró que las imágenes difundidas sobre el bombardeo a una escuela en Minab, al sur de Irán, correspondían en realidad a un atentado ocurrido en Kabul en 2021. La agencia respondió que esa afirmación es falsa y presentó pruebas de geolocalización que sitúan las imágenes en el lugar del ataque registrado el 28 de febrero.
Según explicó EFE Verifica, la fotografía difundida procede de un video grabado tras el bombardeo y compartido en redes sociales. La unidad contrastó varios elementos visibles en la imagen —estructura del edificio, entorno urbano y disposición de accesos— con imágenes aéreas disponibles en Google Maps, confirmando que coinciden con la escuela atacada en Minab. La agencia subrayó además que distintos medios internacionales publicaron el mismo material en el marco de la cobertura del ataque atribuido a acciones militares de Estados Unidos e Israel.
El desmentido se produjo después de que usuarios viralizaran la respuesta inicial de Grok, que atribuía el contenido visual a Afganistán. EFE señaló que la inteligencia artificial no citó fuentes ni aportó evidencia para sustentar su afirmación. También indicó que, aunque en respuestas posteriores la herramienta reconoció que las imágenes correspondían a Irán, su algoritmo no priorizó esa rectificación, lo que permitió que la versión incorrecta siguiera circulando con mayor alcance.
El caso reabre el debate sobre el uso de sistemas de inteligencia artificial como herramientas de verificación. Aunque muchos usuarios recurren a estos modelos para contrastar información en tiempo real, su funcionamiento se basa en probabilidades estadísticas y patrones lingüísticos, no en procesos autónomos de comprobación documental. Sin una fuente explícita o un enlace verificable, las respuestas pueden resultar persuasivas, pero carecer de respaldo empírico.
EFE recordó que su metodología se ajusta al Código de Buenas Prácticas de la International Fact-Checking Network (IFCN), que exige transparencia en las fuentes y en los procesos de verificación. En ese sentido, la agencia enfatizó que en todas sus comprobaciones pone a disposición del lector los elementos utilizados para validar la información, incluidas capturas, mapas y referencias documentales.
Más allá del episodio puntual, la controversia evidencia una tensión creciente entre el periodismo profesional y el uso masivo de herramientas automatizadas en entornos polarizados. Las inteligencias artificiales no generan contenidos por iniciativa propia: responden a consultas formuladas por usuarios, que pueden estar guiadas por dudas legítimas o por intenciones de desacreditar informaciones. Cuando una respuesta errónea se amplifica sin contexto ni rectificación visible, el impacto sobre la confianza pública puede ser significativo. El caso plantea, por tanto, no solo una discusión técnica sobre los límites de la IA, sino también un desafío ético sobre responsabilidad, transparencia y corrección en el ecosistema digital contemporáneo.
Opinión técnica
Desde una perspectiva analítica, lo ocurrido no es sorprendente en términos de funcionamiento de modelos de lenguaje. Sistemas como Grok no “verifican” hechos en el sentido periodístico del término; generan respuestas basadas en datos de entrenamiento y en inferencias probabilísticas. Si la consulta se formula sugiriendo una hipótesis (“¿No serán imágenes de Kabul en 2021?”), el modelo puede construir una respuesta coherente con esa premisa sin contar con evidencia sólida. Eso no implica necesariamente una intención política del sistema, pero sí revela una limitación estructural.
El problema no es que una IA pueda equivocarse —también lo hacen los medios—, sino la asimetría en la percepción pública: una afirmación automatizada, presentada con seguridad y sin fuentes visibles, puede viralizarse más rápido que una rectificación fundamentada. Allí es donde el periodismo profesional conserva una ventaja crucial: la trazabilidad de sus pruebas. En contextos de conflicto, donde la desinformación es frecuente y estratégica, esa diferencia metodológica no es menor.
El episodio entre EFE Verifica y Grok no debería leerse únicamente como un error técnico de una herramienta automatizada. El foco más relevante está en cómo ciertos usuarios utilizan sistemas de inteligencia artificial como instrumentos para reforzar narrativas ideológicas preexistentes. La IA no inicia campañas de desacreditación por sí sola: responde a preguntas formuladas por personas. Cuando la consulta parte de una sospecha —por ejemplo, que una imagen es falsa o antigua— el modelo puede generar una respuesta plausible aunque no disponga de pruebas concluyentes.
En entornos polarizados como X, la dinámica algorítmica amplifica aquello que genera fricción y confirma sesgos. Si una respuesta de Grok coincide con la posición política de determinados sectores, es rápidamente viralizada. Las rectificaciones posteriores, incluso cuando existen, suelen tener menor circulación porque producen menos interacción emocional. El problema, por tanto, no es solo la equivocación inicial, sino el ecosistema que premia la versión funcional a una narrativa ideológica.
Conviene subrayar que los modelos de lenguaje no verifican hechos en el sentido periodístico. No aplican un proceso estructurado de contraste documental, consulta de fuentes directas ni geolocalización técnica, salvo cuando integran sistemas específicos para ello. Funcionan mediante inferencias probabilísticas basadas en datos de entrenamiento. Cuando una respuesta se formula sin citar pruebas, puede sonar convincente sin ser necesariamente rigurosa. Esa diferencia metodológica es clave.
También es importante evitar una lectura simplista que atribuya intencionalidad política directa al sistema. Grok pertenece a la empresa de Elon Musk, una figura pública con posiciones políticas conocidas y polémicas, lo que inevitablemente genera suspicacias en ciertos sectores. Sin embargo, la existencia de una línea editorial personal del propietario no equivale automáticamente a manipulación directa de cada respuesta del modelo. Las plataformas de IA combinan automatización con supervisión humana, pero eso no significa que cada salida sea el resultado de una intervención manual.
El riesgo real aparece cuando la herramienta es utilizada como arma retórica en disputas ideológicas. En X, Grok no opera en un vacío neutral: se inserta en un campo de confrontación permanente donde distintos grupos buscan legitimación tecnológica para sus argumentos. En ese contexto, una respuesta errónea puede transformarse en munición política antes de que exista oportunidad de corrección visible.
El caso deja una lección más amplia: la inteligencia artificial puede ser útil como apoyo informativo, pero no sustituye el método periodístico ni la trazabilidad de fuentes. En escenarios de conflicto armado, donde la desinformación circula con rapidez, la diferencia entre una inferencia estadística y una verificación documentada no es un detalle técnico, sino un elemento central para la calidad del debate público.
Después de la publicación de esta nota, Grok reafirmó su declaración sobre el error cometido. Aquí la respuesta: