Ingeniero deja Anthropic: "Están jugando con nuestras vidas"
<p>Un ingeniero británico de <a rel="link a una nota relativa 1" href="https://www.cooperativa.cl/noticias/tecnologia/industria/ia/anthropic-lanza-en-chile-el-primer-cloud-impact-lab-global-sobre/2026-07-27/171955.html" data-process="2" data-control="0" target="_blank"><span ><strong>Anthropic</strong></span></a>, que también ha trabajado en los pasados tres años para <a rel="link a una nota relativa 3" href="https://www.cooperativa.cl/noticias/tecnologia/industria/ia/openai-presento-nuevos-modelos-de-gpt-exclusivos-para-socios-aprobados/2026-06-26/161034.html" data-process="2" data-control="0" target="_blank"><span ><strong>OpenAI</strong></span></a> -la creadora del <a rel="link a una nota relativa 6" href="https://www.cooperativa.cl/noticias/pais/educacion/estudios/uno-de-cada-dos-estudiantes-chilenos-usa-ia-en-sus-tareas-segun-pisa-2025/2026-09-08/083642.html" data-process="2" data-control="0" target="_blank"><span >popular <strong>ChatGPT</strong></span></a>-, presentó su <strong>dimisión</strong> en las últimas horas porque dice que ambas compañías <strong>"no están actuando con responsabilidad"</strong> y están <strong>"jugando con nuestras vidas".</strong></p> <p><strong>Jacob Coxon</strong>, ingeniero de software al que los medios identifican como uno de los desarrolladores de <strong>GPT-4o </strong>y<strong> GPT-4.5</strong>, aunque sin responsabilidades ejecutivas, aseguró en <a rel="link a una nota absoluta 10" href="https://x.com/hilbertspaess/status/2097476196791709843" data-process="2" data-control="1" target="_blank"><span >un hilo de su cuenta de X</span></a> que las personas que están tras el desarrollo exponencial de la IA<strong> "creen que podrá matarnos a todos al final de esta década"</strong>, porque <strong>"no hay otra actividad humana que suponga este nivel de amenaza</strong>".</p> <blockquote class="twitter-tweet"> <p dir="ltr" lang="en">Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing.</p> — Jacob Coxon (@hilbertspaess) <a href="https://x.com/hilbertspaess/status/2097476201283834281?ref_src=twsrc%5Etfw">September 9, 2026</a></blockquote> <script charset="utf-8" src="https://platform.x.com/widgets.js" type="text/javascript"></script> <blockquote class="twitter-tweet" data-conversation="none"> <p dir="ltr" lang="en">The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible - but I hear the same people express fear…</p> — Jacob Coxon (@hilbertspaess) <a href="https://x.com/hilbertspaess/status/2097476203863224394?ref_src=twsrc%5Etfw">September 9, 2026</a></blockquote> <script charset="utf-8" src="https://platform.x.com/widgets.js" type="text/javascript"></script> <p>Para el ingeniero, de 27 años, se está subestimando el poder de la tecnología, pero los proyectos de IA<strong> "serán pronto sistemas sobrehumanos que podrán haquear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos"</strong>.</p> <p>En su opinión, hay una conciencia de esta realidad tanto en OpenAI como en Anthropic, pero ve una diferencia: los primeros<strong> "tal vez no han internalizado en profundidad los retos civilizacionales"</strong>, mientras que los segundos los comprenden bien pero <strong>"están atrapados en la carrera por llegar primero"</strong>, aun cuando en el caso más optimista se trate de llegar primero<strong> "para actuar con responsabilidad".</strong></p> <blockquote class="twitter-tweet"> <p dir="ltr" lang="en">Accepting this race and entering the “endgame” is a hubristic gamble that should not be launched from a private company’s Slack. Attempting to speedrun alignment should require extraordinary confidence that there are no better trajectories available.</p> — Jacob Coxon (@hilbertspaess) <a href="https://x.com/hilbertspaess/status/2097476213942198651?ref_src=twsrc%5Etfw">September 9, 2026</a></blockquote> <script charset="utf-8" src="https://platform.x.com/widgets.js" type="text/javascript"></script> <p>Coxon no ve otra salida que la <strong>coordinación entre los distintos proyectos de IA y de las empresas involucradas en ellos</strong>, pero siente que no se está produciendo y aboga entonces por <strong>"acciones costosas"</strong>, como una <strong>prohibición temporal de mejorar las capacidades del modelo ('model capabilities')</strong>, y pide a los investigadores de la IA que <strong>reflexionen profundamente</strong> sobre la cuestión.</p> <p><strong>"¿Quieren potenciar un 'aprendizaje por refuerzo' (RL en la jerga técnica) superinteligente sin un entendimiento riguroso de su mente? -pregunta a sus colegas en la IA- ¿Van a bajar la cabeza porque 'total, ya está ocurriendo', o aprovechar este momento para abogar por condiciones diferentes?"</strong>, concluye Coxon en un hilo que ha tenido ya una enorme repercusión mediática.</p> <blockquote class="twitter-tweet"> <p dir="ltr" lang="en">If you are a lab researcher, I urge you to consider what the next few years will actually feel like. Do you want to kick off a superintelligent RL run without a rigorous understanding of its mind? Should you put your head down because “it’s happening anyway” - or take this moment…</p> — Jacob Coxon (@hilbertspaess) <a href="https://x.com/hilbertspaess/status/2097476219138867492?ref_src=twsrc%5Etfw">September 9, 2026</a></blockquote> <ul> <li><strong>[Lea también]</strong> <a rel="link a una nota relativa 19" href="https://www.cooperativa.cl/noticias/mundo/estudio-advierte-que-la-ia-podria-mejorarse-sola-y-escapar-al-control/2026-06-08/135540.html" data-process="2" data-control="0" target="_blank"><span ><em>Estudio advierte que la IA podría mejorarse sola y escapar al control humano</em></span></a></li> </ul>