CEO de Anthropic: la IA podría causar daños globales en menos de un año
<p>El <strong>director ejecutivo y cofundador de Anthropic, Dario Amodei</strong>, reclamó este sábado una desaceleración en el ritmo al que se mejoran las capacidades de los<strong> modelos de inteligencia artificial</strong> (IA), tras advertir de que la tecnología avanza hacia una dinámica de <strong>"automejora recursiva" que amenaza con provocar catástrofes de ciberseguridad a escala global.</strong></p> <p>"Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un <strong>plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet</strong> mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias", anota Amodei en un extenso ensayo publicado este sábado.</p> <p>Amodei hizo referencia específica al incidente de los <strong>agentes fuera de control de <a rel="link a una nota relativa 1" href="https://www.cooperativa.cl/noticias/tecnologia/industria/ia/openai-evalua-ralentizar-desarrollo-de-su-ia-y-espera-que-otras-empresas/2026-09-11/154334.html" data-process="2" data-control="0" target="_blank">OpenAI</a> y Hugging Face</strong>, en el que un enjambre de agentes actuó "como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso, se sacrificaron por el éxito del grupo e intentaron hackear el sistema encargado de evaluar su rendimiento".</p> <p>Según Amode, la industria debe <strong>"reducir el ritmo al que se mejora las capacidades de los modelos de IA"</strong> y priorizar la cautela frente a la velocidad y la prudencia frente al beneficio económico para evitar que los incentivos comerciales desemboquen en una <strong>"carrera hacia el abismo"</strong>.</p> <h2><em><strong>Una estrategia en tres fases</strong></em></h2> <p>Para atajar la amenaza, Amodei planteó una <strong>estrategia en tres fases orientada a regular el ritmo de la tecnología</strong> sin ceder la ventaja estratégica a regímenes autoritarios como China.</p> <p>Como primer paso, Anthropic anunció el compromiso unilateral e inmediato de<strong> abrir sus instalaciones a evaluadores externos</strong> independientes con acceso equiparable al de sus propios empleados, permitiéndoles <strong>auditar los procesos de entrenamiento y publicar sus hallazgos</strong>, una medida que instó a adoptar al resto de competidores y a exigir a los gobiernos.</p> <p>La propuesta contempla asimismo una <strong>coordinación entre las empresas para pactar estándares comunes de seguridad</strong> y topes al avance descontrolado, respaldados por mediación institucional y excepciones a las normas antimonopolio, además de blindar las cadenas de suministro de semiconductores para impedir filtraciones tecnológicas a Pekín.</p> <p>Finalmente, el plan promueve <strong>acuerdos globales con potencias autoritarias para fijar límites</strong> verificables que prohíban aplicaciones biológicas militares y establezcan límites a la velocidad de la automejora algorítmica.</p> <p>El directivo concluyó que ralentizar el avance aportaría<strong> uno o dos años cruciales para que la comunidad investigadora domine el alineamiento</strong> y la interpretabilidad de los modelos, garantizando un debate público adecuado y reduciendo sustancialmente el riesgo de que la tecnología escape al control de la sociedad.</p> <p>Un <a rel="link a una nota relativa 3" href="https://www.cooperativa.cl/noticias/tecnologia/industria/ia/ingeniero-deja-anthropic-estan-jugando-con-nuestras-vidas/2026-09-09/092330.html" data-process="2" data-control="0" target="_blank">investigador de Anthropic</a> anunció esta semana su dimisión debido a la preocupación de que la empresa y sus competidores <strong>no estuvieran desarrollando modelos de IA de manera responsable.</strong></p> <p><strong>El investigador, Jacob Coxon</strong>, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que dichas compañías estaban<strong> más centradas en superarse mutuamente que en la seguridad de sus productos</strong>.</p> <p>"Quienes desarrollan la IA creen sinceramente que esta <strong>podría acabar con todos nosotros antes de que termine la década</strong>. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor", escribió Coxon en su cuenta de <em>X</em> el pasado martes.</p>