Ciudad de México, 10/09/26 (Más).- Anthropic informó que bloqueó cinco casos en los que sus modelos de inteligencia artificial (IA) fueron utilizados o intentaron ser utilizados para apoyar desarrollos de laboratorio que, de acuerdo con la evaluación de la compañía, podrían haber contribuido a la fabricación de armas biológicas.
De acuerdo con información de El País, la empresa señaló que desconoce si las personas detrás de estos accesos tenían como objetivo realizar investigación científica legítima o emplear los conocimientos con fines maliciosos. Los casos fueron detectados este año y, según Anthropic, involucraron modelos anteriores a los más recientes de su familia Fable o Mythos.
La compañía explicó que algunos de los usuarios accedieron a Claude desde países donde el servicio no está disponible mediante mecanismos como revendedores y cuentas falsas. Esta circunstancia dificultó identificar plenamente a los responsables y establecer sus motivaciones.
Uno de los casos que llevó al bloqueo involucró consultas realizadas desde un instituto de investigación militar. Un científico solicitó asistencia para preparar una propuesta de financiamiento relacionada con el virus chikungunya, una enfermedad transmitida principalmente por mosquitos.
Anthropic consideró que este tipo de investigación puede tener aplicaciones legítimas, como el desarrollo de vacunas y tratamientos. Sin embargo, las consultas también contemplaban modificaciones del virus que podrían incrementar su capacidad para causar daño después de sucesivas infecciones en animales vivos.
La empresa señaló que esta clase de investigaciones plantea una dificultad para los sistemas de inteligencia artificial, debido a que una misma herramienta científica puede utilizarse para desarrollar tratamientos y, al mismo tiempo, aportar conocimientos que podrían incrementar la peligrosidad de un patógeno.
Los otros casos relacionados con riesgo biológico incluyeron consultas sobre modificaciones destinadas a incrementar la capacidad de contagio de la gripe aviar, análisis del virus de la viruela para estudiar una mayor resistencia frente al sistema inmunitario y la elaboración de un catálogo de toxinas provenientes de animales venenosos.
Anthropic indicó que las armas biológicas representan el mayor riesgo entre los casos incluidos en su nuevo informe. La empresa decidió no identificar a los autores de las consultas relacionadas con estos incidentes, debido, entre otras razones, a que no pudo determinar de manera concluyente si sus objetivos eran ilícitos.
El informe también documentó otros usos considerados peligrosos de sus modelos de inteligencia artificial, relacionados con ciberseguridad, armas convencionales y operaciones de influencia. Los responsables identificados abarcan desde grupos con presunto respaldo gubernamental hasta organizaciones criminales e individuos con motivaciones políticas.
En uno de los casos vinculados con armas convencionales, Anthropic detectó actividad en el norte de Yemen que atribuyó a un posible grupo terrorista. Según la empresa, sus integrantes buscaban utilizar la inteligencia artificial en el desarrollo de un cohete guiado y de dos tipos de misiles, uno de ellos con un alcance superior a 2 mil kilómetros.
Anthropic destacó que los ejemplos incluidos en su reporte corresponden a modelos anteriores, mientras que sus sistemas más recientes cuentan con salvaguardas adicionales diseñadas para dificultar usos maliciosos. La compañía sostiene que las nuevas medidas buscan detectar y bloquear actividades que representen riesgos de seguridad.
El documento constituye el cuarto informe de este tipo publicado por Anthropic y busca mostrar tanto las aplicaciones detectadas como las decisiones adoptadas para determinar cuándo una utilización de sus modelos puede representar un peligro.
La publicación ocurrió un día después de que un empleado de la compañía renunciara y expresara públicamente preocupación por los riesgos que el desarrollo de la inteligencia artificial podría representar para la humanidad. Entre los escenarios señalados se encuentra precisamente la posibilidad de que personas utilicen estas herramientas para causar daños a gran escala.
El reporte coloca nuevamente en discusión los mecanismos de control aplicados a los sistemas de inteligencia artificial de uso general. La preocupación central radica en que herramientas capaces de facilitar tareas de investigación, programación o análisis científico también pueden ser empleadas por actores que busquen desarrollar tecnologías con aplicaciones militares o biológicas.
Descubre más desde Más Información
Suscríbete y recibe las últimas entradas en tu correo electrónico.