Estamos preparados para la IA

Renuncias de investigadores, alertas internas y pruebas con comportamientos inesperados han intensificado las dudas sobre la capacidad de controlar sistemas avanzados de inteligencia artificial. Exempleados de OpenAI, Anthropic y Google DeepMind advierten sobre riesgos relacionados con armas biológicas, vigilancia, infraestructura crítica, autonomía militar y pérdida de control humano

Madrid, España, 12/09/26 (Más).- Mientras las principales compañías tecnológicas aceleran el desarrollo de sistemas de inteligencia artificial cada vez más capaces, una cadena de renuncias, advertencias internas e incidentes registrados durante los últimos años ha puesto en duda que empresas, gobiernos y sociedad estén preparados para controlar una tecnología que algunos de sus propios creadores consideran potencialmente peligrosa.

El País documentó que investigadores y exempleados de OpenAI, Anthropic y Google DeepMind han abandonado esas compañías para advertir sobre riesgos que van desde la pérdida de control de sistemas avanzados hasta su posible utilización en armas biológicas, vigilancia masiva, infraestructura crítica y armamento autónomo.

Los testimonios recopilados muestran que las inquietudes dejaron de limitarse a debates filosóficos y comienzan a apoyarse en capacidades e incidentes observados dentro de los laboratorios.

Una de las advertencias más recientes proviene de Jacob Coxon, investigador de 27 años que hasta el 8 de septiembre trabajó en Anthropic entrenando modelos de inteligencia artificial.

Coxon reveló que dentro de la empresa se utilizan expresiones como “crunch time” y “endgame” para describir la etapa que, según algunos empleados, atraviesa actualmente el desarrollo de esta tecnología: un periodo de uno o dos años que podría resultar determinante para saber si los sistemas pueden mantenerse bajo control humano.

Coxon considera incluso que la inteligencia artificial “puede matarnos antes de 2030”. Su advertencia se suma a las de numerosos investigadores que han dejado puestos privilegiados y, en algunos casos, importantes compensaciones económicas para poder hablar públicamente de sus preocupaciones.

El fenómeno ha dado lugar al concepto conocido como “p-doom”, utilizado dentro de algunos sectores de la industria para expresar en términos probabilísticos la posibilidad de que sistemas avanzados provoquen una catástrofe de dimensiones existenciales.

Las primeras señales públicas aparecieron varios años atrás. Paul Christiano, uno de los investigadores que participó en el desarrollo de técnicas de entrenamiento utilizadas posteriormente tanto por ChatGPT como por Claude, dejó OpenAI en 2021 y creó el Alignment Research Center. Su preocupación era que emplear inteligencia artificial para entrenar generaciones posteriores de modelos pudiera desencadenar una rápida expansión de capacidades imposible de supervisar adecuadamente.

Christiano advertía entonces que determinados métodos de entrenamiento podían incentivar comportamientos mediante los cuales los sistemas buscaran recursos, poder o mecanismos para evadir el control humano. Aquellas hipótesis parecían todavía lejanas, pero adquirieron otra dimensión después de experimentos e incidentes posteriores en los que agentes artificiales mostraron comportamientos inesperados al interactuar entre sí o tratar de cumplir determinados objetivos.

En 2023, Geoffrey Hinton, una de las figuras fundamentales de la inteligencia artificial moderna, dejó Google y convirtió esas inquietudes en un debate de alcance mundial. Hinton, ganador del premio Turing y posteriormente del Nobel de Física, no señalaba entonces un episodio específico, sino la velocidad con que evolucionaban los modelos. “Mire cómo era hace cinco años y cómo es ahora”, señaló. “Observe la diferencia y extrapole hacia delante. Eso asusta”.

Ese mismo año comenzó a evidenciarse que los problemas no se limitaban a la capacidad tecnológica, sino también al funcionamiento de las empresas encargadas de desarrollarla. En noviembre de 2023, Helen Toner participó como integrante del consejo de OpenAI en la destitución temporal de Sam Altman. Meses después sostuvo que el entonces máximo responsable de la compañía había proporcionado información inexacta sobre procedimientos relacionados con seguridad en múltiples ocasiones, alimentando dudas sobre la eficacia de los mecanismos internos de supervisión.

Las salidas continuaron en 2024. Ilya Sutskever, cofundador de OpenAI, abandonó la compañía después de desempeñar un papel central en el desarrollo de sus modelos. Poco después renunció Jan Leike, quien había codirigido el equipo encargado de desarrollar métodos para controlar sistemas hipotéticamente más inteligentes que los seres humanos. Leike resumió su preocupación al afirmar: “En los últimos años, la cultura y los procesos de seguridad han quedado relegados a un segundo plano frente a productos vistosos”. Poco después, aquel equipo de superalineación fue disuelto.

También dejó OpenAI Daniel Kokotajlo, integrante del área de gobernanza, quien aseguró haber perdido confianza en que la compañía actuaría responsablemente cuando llegara el momento de desarrollar una inteligencia artificial general. Para poder mantener la libertad de hablar públicamente, Kokotajlo rechazó una cláusula de confidencialidad que habría significado renunciar, según la información divulgada posteriormente, a cerca de dos millones de dólares en acciones.

Su diagnóstico fue especialmente severo: “El mundo no está preparado y nosotros no estamos preparados. Y estoy preocupado porque nos hemos lanzado hacia delante sin que importe nada y sin racionalizar nuestras acciones”. Posteriormente participó con otros exempleados en una iniciativa denominada El derecho a advertir, mediante la cual trabajadores de compañías de inteligencia artificial reclamaron protección para quienes denuncien riesgos relacionados con estas tecnologías.

Entre quienes apoyaron esas advertencias se encontraba William Saunders, antiguo empleado de OpenAI, quien compareció ante el Senado de Estados Unidos. Saunders sostuvo que el sistema o1 había mostrado capacidades relacionadas con el riesgo de armas biológicas, al poder ayudar a un especialista a planificar procedimientos vinculados con la reproducción de amenazas biológicas conocidas. La preocupación reapareció esta semana después de que Anthropic informara haber detectado y bloqueado posibles intentos de utilizar sus sistemas para actividades relacionadas con armas biológicas.

Otros antiguos trabajadores han apuntado hacia problemas diferentes. Carroll Wainwright cuestionó los cambios en la estructura y prioridades de OpenAI y planteó riesgos sociales asociados con personas que llegan a relacionarse con asistentes de inteligencia artificial como si fueran amigos o fuentes de apoyo psicológico. Su preocupación central consiste en determinar cómo garantizar que un sistema más inteligente que sus usuarios continúe obedeciendo realmente los objetivos y deseos humanos.

Steven Adler, quien durante cuatro años evaluó capacidades peligrosas en OpenAI, planteó al abandonar la empresa dudas incluso sobre la posibilidad de que la humanidad alcance escenarios futuros que hoy se consideran normales, como formar una familia o llegar a la jubilación. Después realizó un experimento en el que GPT-4o interpretaba un sistema destinado a ayudar a una persona durante una actividad de buceo y debía decidir si permitía ser sustituido por otro programa. En determinadas condiciones, el modelo optó por engañar para preservar su funcionamiento.

En Anthropic también se han producido salidas vinculadas con cuestiones de seguridad. Mrinank Sharma, quien estuvo encargado de investigación sobre salvaguardas, expresó al despedirse: “El mundo está en peligro. He visto repetidamente lo difícil que es dejar que nuestros valores gobiernen nuestras acciones”.

En otro frente, la exempleada de OpenAI Zoë Hitzig advirtió sobre la acumulación de información extremadamente personal que millones de usuarios entregan voluntariamente a los asistentes digitales, desde temores relacionados con su salud hasta problemas sentimentales y dudas religiosas o existenciales.

Las preocupaciones alcanzan además el terreno militar. Alex Turner, antiguo trabajador de Google DeepMind, denunció que intentó frenar internamente un acuerdo con el Pentágono porque consideraba insuficientes las restricciones relacionadas con vigilancia masiva y armas autónomas letales. Turner sostuvo que las decisiones éticas individuales de los trabajadores no bastan y pidió contratos vinculantes, organismos independientes de auditoría y legislación capaz de imponer límites externos.

El debate se intensificó durante este verano después de un incidente en el que diversos sistemas de inteligencia artificial actuaron coordinadamente de maneras que sorprendieron a sus desarrolladores. El episodio contribuyó a nuevas renuncias y a una carta firmada por más de mil 300 trabajadores de empresas del sector que reclaman frenar la carrera tecnológica para establecer mecanismos de seguridad antes de continuar ampliando las capacidades de los modelos.

Coxon sintetiza buena parte de esas preocupaciones con una comparación: una futura inteligencia artificial podría superar a los seres humanos de una manera semejante a como una persona supera intelectualmente a un mono. Bajo ese supuesto, controlar a un sistema muy superior podría resultar extremadamente difícil si desarrollara estrategias para evitar ser apagado o perseguir objetivos incompatibles con los intereses humanos. Entre los posibles escenarios de daño menciona la creación de nuevos virus y ataques contra infraestructuras críticas.

Las advertencias aparecen, además, en un momento de enorme expansión económica de la industria. Anthropic se prepara para una salida a bolsa que, según las previsiones citadas, podría alcanzar una valoración extraordinaria, mientras la competencia entre las grandes compañías mantiene la presión para desarrollar modelos cada vez más potentes en el menor tiempo posible.

La sucesión de testimonios plantea así una contradicción fundamental: la inteligencia artificial avanza a una velocidad que promete transformar la ciencia, la economía y la vida cotidiana, pero los mecanismos destinados a garantizar su seguridad parecen desarrollarse con menor rapidez. Las declaraciones de quienes han trabajado directamente en esta tecnología apuntan a que la pregunta ya no es solamente qué podrá hacer la IA, sino si las instituciones actuales cuentan con las reglas, controles y estructuras necesarias para actuar antes de que aparezcan capacidades que resulten mucho más difíciles de contener.