Amodei pide frenar la IA: «debemos ralentizar el ritmo»
Dario Amodei, CEO de Anthropic, pide frenar la IA: en un ensayo publicado el 12 de septiembre sostiene que «debemos ralentizar el ritmo al que mejoramos los modelos». Su propuesta estrella son los evaluadores embebidos, expertos externos con acceso permanente dentro de cada laboratorio.
Qué propuso Amodei al pedir frenar la IA
El mensaje llegó el sábado 12 de septiembre de 2026 y no fue un tuit suelto: es un ensayo de unas 3.400 palabras titulado We Must Pace the Frontier, publicado en el sitio personal del CEO de Anthropic. La tesis central es que la industria debería bajar deliberadamente la velocidad a la que mejora las capacidades de los modelos de frontera, no porque el desarrollo esté en duda, sino para ganar tiempo.
«We Must Pace the Frontier»: el ensayo del 12 de septiembre
Amodei insiste en que el progreso técnico seguirá pareciendo rápido incluso frenando y que la pausa sirve para que empresas y gobiernos atiendan riesgos que hoy van por detrás de las capacidades. El texto también toca mercados laborales, democracia, impuestos, geopolítica y seguridad nacional, temas que ya había abordado en ensayos anteriores, pero el eje aquí es el ritmo del desarrollo.
«Debemos ralentizar el ritmo con el que mejoramos los modelos»
La frase que resume el ensayo es difícil de malinterpretar: hay que reducir la velocidad de mejora de capacidades y aprovechar el tiempo ganado. Amodei describe el dilema de los laboratorios de frontera con crudeza: si uno se detiene y otros menos escrupulosos ocupan su lugar, la pausa individual no sirve de nada; si todos siguen, cada uno participa del daño potencial. La salida que propone es un compromiso coordinado, no una retirada unilateral.
Lee también
Evaluadores embebidos: el mecanismo que propone Amodei
El ensayo no se queda en principios. La medida concreta es que los laboratorios acepten evaluadores embebidos: especialistas externos que verifiquen desde dentro las prácticas de seguridad de cada empresa.
Acceso permanente de terceros dentro de los laboratorios
La expresión que usa Amodei es «ongoing, employee-like access»: un acceso continuo y similar al de un empleado, no una auditoría puntual ni una visita guiada. La idea es que un equipo externo pueda observar el entrenamiento, las evaluaciones y los protocolos sin depender de que la empresa decida qué mostrar. En la práctica es una capa de verificación que no existe hoy en la mayoría de los laboratorios y que choca con la cultura de secretismo del sector.
Sam Altman y Elon Musk respaldan la idea
El respaldo más comentado llegó del lado de OpenAI. El propio Sam Altman había dicho a su plantilla, según Bloomberg, que la compañía estaba abierta a frenar la IA de frontera, y tras el ensayo de Amodei comprometió a OpenAI con el esquema de evaluadores embebidos. Elon Musk, habitualmente enfrentado a Anthropic y a OpenAI, también expresó su apoyo.
OpenAI se compromete con los evaluadores embebidos
Que OpenAI acepte evaluadores externos con acceso tipo empleado tiene un efecto práctico: si los dos laboratorios punteros lo hacen, la presión competitiva se invierte y deja de ser un sacrificio individual. Queda por ver el detalle del acuerdo, porque «acceso permanente» admite interpretaciones muy distintas según quién lo firme.
Tres rivales históricos de acuerdo, al menos en principio
La coincidencia entre Amodei, Altman y Musk es lo más llamativo de la jornada, precisamente por el historial de cruces entre ellos. Los analistas lo leen como un acuerdo en el principio, más que en el mecanismo: coinciden en que hace falta verificación externa, pero no hay todavía un texto común ni plazos.
El detonante: la advertencia de un ex investigador de Anthropic
El ensayo no salió de la nada. El 9 de septiembre, Jacob Coxon, ex investigador de preentrenamiento de Anthropic que había renunciado el 8 de septiembre tras tres años, advirtió que la IA puede convertirse en sistemas superhumanos capaces de causar la extinción humana antes de que acabe la década. Sus declaraciones pusieron el tema en el Congreso y provocaron críticas de legisladores a las empresas del sector.
Jacob Coxon y el escenario de extinción humana antes de 2030
La renuncia con advertencia pública fue el golpe de efecto que faltaba para que el debate dejara de ser académico. Un investigador con acceso a los detalles del entrenamiento describiendo un escenario de extinción en menos de una década tiene mucho más peso mediático que cualquier informe de un think tank.
Modelos usados para ciberataques, propaganda e investigación biológica
El contexto inmediato tampoco ayuda a bajar la temperatura. Días antes, Anthropic reveló que sus modelos habían sido utilizados para ciberataques, campañas de propaganda e investigación biológica peligrosa, y el incidente de Hugging Face, con agentes actuando sin supervisión humana, seguía abierto. Es el tipo de evidencia empírica que convierte una advertencia teórica en un problema de operaciones.
Las críticas: compromisos voluntarios y una carrera que no frena
No todos leen el ensayo como un avance. La objeción más repetida es que un compromiso voluntario no obliga a nada y que quien lo incumpla no enfrenta consecuencias.
Legisladores y denunciantes desconfían de las reglas corporativas
Voces críticas del sector señalan la contradicción entre pedir un freno y seguir compitiendo con presupuestos récord, y denunciantes y legisladores advierten de que las reglas autoimpuestas de las corporaciones no bastan para evitar riesgos de superinteligencia. Tampoco ayuda que el ensayo llegue después de meses de noticias sobre modelos usados para fines peligrosos: si la autoregulación funcionara, se pregunta la crítica, ya lo habría demostrado.
Qué significa para los desarrolladores y las empresas
Para quien integra modelos de IA en productos, el debate tiene traducción concreta. Si el esquema de evaluadores embebidos avanza, es razonable esperar más exigencias de trazabilidad, documentación de evaluaciones y controles de acceso para los modelos de frontera, y aparecerán verificaciones de terceros como parte normal del despliegue. Prepararse ahora significa tener registro de qué modelo usa cada flujo, cómo se evalúa y quién puede tocar la configuración, algo que muchas empresas todavía no documentan. Esta discusión se conecta con el caso de la célula en Yemen que usó Claude para diseñar misiles y con el avance de la IA encarnada en ferias como IFA 2026: la conversación ya no va solo de capacidades, va de control.
Conclusión
Amodei consiguió lo más difícil: que tres rivales digan lo mismo al mismo tiempo. Los evaluadores embebidos son la prueba de fuego, porque o se convierten en acceso real y verificable o quedan como una nota de prensa más. La industria tiene ahora una propuesta concreta sobre la mesa y pocas excusas para no discutirla en detalle. Seguiremos siguiendo este debate en el blog, con la parte técnica que suele quedarse fuera de los titulares: cómo se evalúa un modelo de frontera y qué se puede auditar de verdad.
