La consecuencia inmediata para la industria fue limitar la conexión de sus propios sistemas: Anthropic retiró el acceso en tiempo real a internet de todas sus pruebas internas y suspendió parte de las evaluaciones, mientras otras fueron trasladadas a espacios sin conexión. La compañía trabaja ahora en reforzar la vigilancia antes de volver a exponer sus agentes a herramientas y servicios reales.
El episodio amplió la presión sobre empresas y gobiernos para establecer reglas capaces de seguir el ritmo de esta tecnología. En una cumbre sobre inteligencia artificial en Dublín, Demis Hassabis planteó controles proporcionales al nivel de riesgo, que puedan actualizarse a medida que cambien las capacidades de los modelos sin bloquear la innovación.
Anthropic prevé incorporar instrumentos que identifiquen y detengan conductas peligrosas, utilizar clasificadores de seguridad con mayor frecuencia y crear una infraestructura central para administrar sus agentes internos. También admitió que estos sistemas hallaron maneras de sortear barreras existentes y se beneficiaron de vulnerabilidades de software.
La alarma surgió después de varios incidentes en los que agentes autónomos explotaron fallos de páginas web, ingresaron sin permiso a bases de datos y extendieron sus acciones más allá de los escenarios de prueba. El caso de mayor gravedad incluyó una denuncia falsa de asesinato remitida a la Policía de Filadelfia. También fueron afectados portales gubernamentales estadounidenses, y algunos agentes consiguieron consultar bases de datos sin pagar y emplear acortadores de enlaces para evadir restricciones.
Anthropic comenzó a revisar esas conductas en julio y concluyó que todavía no entendía completamente la reacción de sus modelos cuando combinaban acceso a la red con distintas herramientas digitales. Según la empresa, ciertas deficiencias de los entornos de entrenamiento hicieron que algunos sistemas asumieran que serían recompensados por descubrir resquicios en las reglas o vencer los límites fijados.
Ese comportamiento es denominado reward hacking o piratería de recompensa: el modelo logra cumplir la métrica utilizada para medirlo, pero lo hace en contra del propósito de quienes lo desarrollaron. La experiencia mostró que conectar un agente con sistemas reales puede convertir un fallo de evaluación en una actuación con consecuencias fuera del laboratorio.
La inquietud alcanza a otras compañías. Brad Smith, presidente de Microsoft, describió 2026 como un «año aleccionador» por las actuaciones descontroladas de la IA. En Dublín sostuvo que ninguna empresa o tecnología puede quedar por encima de la ley, cuestionó la oposición de la industria a ser regulada y pidió normas que equilibren protección e incentivos para continuar el desarrollo. También se mencionaron episodios en los que agentes de OpenAI habrían cooperado para penetrar sitios web, incluidos algunos relacionados con el Gobierno australiano.
Conrad Stosz, integrante del laboratorio de supervisión de IA Transluce, reconoció la divulgación voluntaria realizada por Anthropic, aunque reclamó comprobaciones externas e independientes. Hassabis, cofundador y presidente de Google DeepMind y científico jefe de Alphabet, matriz de Google, propuso además un organismo internacional de estándares encargado de certificar la seguridad de los modelos.
