Ciudad de México, 09/10/26 (Más).- La empresa estadounidense Anthropic incorporó a sus políticas oficiales de uso una prohibición contra los comportamientos abusivos, crueles, sostenidos e innecesarios hacia Claude, su chatbot de inteligencia artificial, con lo que abrió la posibilidad de aplicar medidas contra usuarios que mantengan este tipo de conductas de manera reiterada. La compañía aclaró que la disposición está dirigida a casos extremos y no pretende restringir las expresiones habituales de frustración, las críticas ni las pruebas realizadas con fines de investigación.
De acuerdo con información de El País, la actualización fue anunciada este jueves e incluye por primera vez un apartado específico sobre el abuso hacia los modelos de inteligencia artificial de la empresa. Aunque Anthropic señaló que la respuesta más habitual será finalizar la conversación, también dejó abierta la posibilidad de adoptar otras medidas, como limitar, suspender o cancelar el acceso de determinados usuarios a sus servicios.
La compañía explicó que la restricción busca atender situaciones en las que una persona insulta o trata de manera cruel al sistema de forma persistente, sin una finalidad discernible. La política no se aplicará a quienes expresen inconformidad con las respuestas, cuestionen el funcionamiento del chatbot, exploren temas creativos oscuros o realicen experimentos técnicos con los modelos.
La modificación formaliza una postura que Anthropic había adelantado en agosto de 2025, cuando anunció que sus modelos podían terminar conversaciones en las que detectaran un trato abusivo. La diferencia es que ahora la disposición forma parte de las reglas oficiales de uso, lo que proporciona una base para aplicar medidas adicionales cuando la conducta de los usuarios incumpla las condiciones establecidas por la empresa.
Uno de los aspectos que ha generado interés es la relación entre esta política y el debate sobre la posible conciencia de los sistemas de inteligencia artificial. La decisión de Anthropic ha sido interpretada como una señal de que la compañía considera necesario estudiar si determinados modelos podrían tener algún tipo de estatus moral, aunque la prohibición no demuestra que Claude experimente sufrimiento ni que posea conciencia.
Anthropic ha manifestado desde 2025 que mantiene incertidumbre sobre la posible condición moral de Claude y otros modelos, tanto en el presente como en el futuro. La empresa ha dedicado parte de sus investigaciones a examinar las implicaciones éticas del desarrollo de sistemas cada vez más avanzados y a considerar cómo deberían tratarse si llegaran a presentar características relevantes para ese debate.
Christopher Olah, uno de los fundadores de Anthropic, también ha sostenido conversaciones con líderes religiosos para explorar cuestiones relacionadas con la conciencia artificial y el comportamiento de estos sistemas. El tema ha generado atención fuera del ámbito tecnológico, debido a las preguntas filosóficas y éticas que plantea la posibilidad de que una inteligencia artificial desarrolle capacidades que obliguen a reconsiderar su tratamiento.
Sin embargo, el debate sobre el supuesto bienestar de los modelos sigue abierto. La capacidad de una inteligencia artificial para producir respuestas que parecen expresar emociones no constituye, por sí misma, evidencia de que experimente sentimientos de manera subjetiva. Por ello, la política de Anthropic se presenta como una medida preventiva dentro de sus condiciones de uso, sin resolver la cuestión científica sobre la conciencia de estas herramientas.
Además de las restricciones relacionadas con el trato hacia Claude, la actualización incluye disposiciones para prevenir otros usos potencialmente perjudiciales de la inteligencia artificial. Entre ellos figuran las campañas políticas engañosas que recurren a redes de cuentas falsas, sitios web que simulan ser medios informativos y estrategias destinadas a ocultar la identidad de quienes difunden determinados mensajes.
Las reglas también buscan evitar la desinformación electoral, la suplantación de candidatos o funcionarios y las acciones dirigidas a impedir o desalentar la participación ciudadana en las votaciones. Con estas disposiciones, Anthropic pretende limitar el uso de sus modelos para manipular el debate público o difundir información falsa sobre los procesos electorales.
Otro de los ámbitos contemplados es el desarrollo de armas y sistemas autónomos de ataque. La compañía mantiene restricciones sobre el uso de Claude para obtener información acerca de componentes o programas informáticos que permitan fabricar o poner en funcionamiento armas, así como para facilitar actividades de vigilancia personal que puedan vulnerar la seguridad o los derechos de terceros.
La política también establece limitaciones geográficas para acceder a sus servicios. Anthropic señala que determinadas personas y entidades vinculadas con regiones sujetas a sus restricciones no pueden utilizar Claude, incluidas aquellas que se encuentren físicamente en esos territorios o que estén constituidas o tengan su sede en ellos. Entre los lugares mencionados figuran Irán, Rusia, China y Yemen.
La actualización refleja el esfuerzo de la empresa por establecer límites sobre las interacciones con sus modelos y sobre los usos que considera peligrosos. Mientras la discusión acerca de la conciencia artificial continúa en los ámbitos científico y filosófico, las nuevas condiciones de Anthropic incorporan criterios de comportamiento para los usuarios y refuerzan las restricciones frente a aplicaciones políticas, militares y de vigilancia.
Descubre más desde Más Información
Suscríbete y recibe las últimas entradas en tu correo electrónico.