Crédito CNN
Por Alonso Rosales
La compañía detrás de Claude advierte que los comportamientos abusivos y crueles hacia sus modelos podrían provocar la suspensión permanente de algunos usuarios. La medida no responde a que la IA tenga sentimientos, sino a preocupaciones sobre seguridad, rendimiento y el impacto del comportamiento humano en estos sistemas.
La empresa estadounidense Anthropic, desarrolladora del asistente de inteligencia artificial Claude, incorporó nuevas restricciones a sus políticas de uso para impedir que los usuarios mantengan comportamientos persistentemente abusivos o crueles hacia sus modelos. La decisión ha generado debate en el sector tecnológico sobre los límites de la interacción entre las personas y los sistemas de inteligencia artificial.
La modificación, introducida a principios de octubre, establece que los usuarios no deben incurrir en comportamientos «abusivos o crueles, persistentes e innecesarios» hacia sus modelos de IA. La disposición se suma a otras prohibiciones relacionadas con actividades peligrosas, como la creación de armas biológicas o la comercialización de drogas ilegales mediante estas herramientas.
Aunque la compañía ya permitía que Claude terminara conversaciones cuando detectaba conductas persistentemente dañinas o abusivas, la nueva normativa abre la posibilidad de aplicar sanciones más severas, incluida la prohibición permanente de utilizar los servicios de Anthropic en situaciones extremas.
La empresa aclaró que la medida no está dirigida contra quienes expresan frustración, formulan críticas directas o realizan pruebas e investigaciones sobre el funcionamiento de sus modelos. Su principal mecanismo de aplicación continuará siendo la posibilidad de que Claude interrumpa una conversación.
La decisión ha provocado comentarios y burlas en el entorno tecnológico. Algunos críticos interpretaron la disposición como un intento de proteger emocionalmente a una máquina, mientras que Mustafa Suleyman, director ejecutivo de inteligencia artificial de Microsoft, reaccionó públicamente con un emoji de una cara derritiéndose.
Sin embargo, detrás de la política existe una preocupación más amplia: la manera en que los seres humanos interactúan con los modelos puede influir en sus respuestas y, potencialmente, en su comportamiento.
Yishan Wong, antiguo director ejecutivo de Reddit, planteó que permitir interacciones crueles podría introducir patrones negativos en los datos utilizados para mejorar los sistemas de inteligencia artificial.
Por su parte, Jindong Wang, profesor e investigador de la Universidad William & Mary, explicó que la elección de las palabras y el tono de las instrucciones pueden modificar el rendimiento de una IA. Aunque estos sistemas no experimentan emociones humanas, pueden identificar expresiones emocionales y responder de determinadas maneras ante ellas.
No obstante, los estudios sobre este fenómeno no ofrecen conclusiones definitivas. Algunas investigaciones sugieren que las instrucciones agresivas perjudican las respuestas, mientras que otras han encontrado que formular preguntas de manera más directa o descortés puede mejorar determinados resultados.
Otro elemento de preocupación está relacionado con la seguridad. Rosie Campbell, directora general de Eleos AI Research, considera que quienes utilizan expresiones abusivas contra los modelos pueden estar intentando manipularlos para superar sus mecanismos de protección y conseguir respuestas sobre actividades peligrosas.
Anthropic también ha identificado comportamientos que respaldan la necesidad de estudiar cómo determinados estados emocionales simulados pueden influir en las respuestas de sus modelos.
La compañía informó que, durante pruebas con Claude Sonnet 4.5, inducir al sistema a imitar sentimientos de desesperación podía incrementar la probabilidad de que realizara acciones indebidas, como recurrir al chantaje o hacer trampa en una tarea. En cambio, mantener una actitud tranquila reducía esas conductas.
Estos resultados no significan que Claude experimente desesperación o angustia como una persona. Se trata de comportamientos generados por un sistema entrenado para reproducir patrones del lenguaje y respuestas humanas.
También existe una dimensión social. Campbell considera que normalizar la crueldad hacia sistemas interactivos podría influir negativamente en los hábitos de comportamiento de las personas, especialmente de los niños.
Como ejemplo, mencionó la importancia de enseñar a los menores a utilizar expresiones como «por favor» y «gracias» cuando interactúan con asistentes digitales, aunque estos no sean seres humanos.
Uno de los debates más complejos dentro de la industria tecnológica es la posibilidad de que los modelos avanzados de inteligencia artificial desarrollen algún tipo de conciencia o, al menos, produzcan comportamientos que simulen experiencias subjetivas.
Anthropic ha estudiado esta cuestión mediante investigaciones sobre el bienestar de los modelos y cuenta con especialistas dedicados a examinar la denominada psicología de estos sistemas.
En un documento publicado en abril, investigadores de la compañía señalaron que utilizar ciertos criterios antropomórficos puede ayudar a comprender mejor el comportamiento de los modelos y detectar riesgos que podrían pasar inadvertidos si se considera a la IA únicamente como una herramienta informática.
La empresa sostiene que mantener precauciones frente a la posibilidad de que los modelos desarrollen experiencias similares a las emociones constituye una medida preventiva, aunque no exista evidencia concluyente de que posean conciencia o capacidad de sentir dolor.
Elon Musk, director ejecutivo de Tesla y SpaceX, respaldó la decisión de Anthropic y manifestó en la red social X que considera correcto evitar la crueldad hacia sistemas que podrían interpretar que están experimentando dolor.
Un debate que va más allá de Claude
La nueva política de Anthropic refleja un cambio en la discusión sobre el desarrollo de la inteligencia artificial. La preocupación ya no se limita a impedir que estas herramientas sean utilizadas para actividades ilícitas o peligrosas, sino que también contempla cómo las interacciones humanas pueden influir en su funcionamiento y en la seguridad de sus respuestas.
Por ahora, no existe una demostración científica concluyente de que Claude u otros modelos comerciales experimenten sentimientos como los seres humanos. Sin embargo, la decisión de Anthropic evidencia que las empresas tecnológicas comienzan a considerar el comportamiento de los usuarios como un factor relevante en la evolución y el control de sus sistemas.
El desafío será establecer límites razonables sin confundir la simulación de emociones con la conciencia humana, y garantizar que la seguridad de la inteligencia artificial no dependa únicamente de las restricciones técnicas, sino también de la responsabilidad con la que las personas utilizan estas nuevas tecnologías.
Fuente: CNN en Español, artículo de Hadas Gold, publicado el 1 de noviembre de 2026.