OpenAI evalúa ralentizar desarrollo de su IA y espera que otras empresas también lo hagan
<p><strong>OpenAI está estudiando la posibilidad de ralentizar el desarrollo de la inteligencia artificial</strong> (IA) de vanguardia y su c<strong>onsejero delegado, Sam Altman,</strong> espera que otras empresas del sector hagan lo mismo, según la empresa <em>Bloomberg</em>.</p> <p>En una reunión con toda la plantilla celebrada esta semana, Altman comunicó a los empleados que<strong> la compañía podría moderar el ritmo de desarrollo de la IA</strong>, posiblemente en colaboración con otras empresas.</p> <p>Las declaraciones se producen después de que <strong>empleados de las principales empresas de IA</strong> hayan expresado públicamente en las últimas semanas su preocupación por el aumento de los riesgos asociados a los sistemas avanzados de la IA.</p> <p>El <strong>científico jefe de OpenAI, Jakub Pachocki</strong>, publicó recientemente un artículo en el que advertía de los peligros de la IA y defendía que las <strong>empresas del sector deberían coordinarse para ralentizar el desarrollo futuro</strong> cuando sea necesario.</p> <p>Pachocki añadió que espera que las <strong>ralentizaciones voluntarias se conviertan en algo habitual,</strong> hasta que se establezcan unos límites de seguridad comunes.</p> <p><strong>OpenAI asegura que ya ralentizó algunos desarrollo</strong>s y que recientemente suspendió determinados entrenamientos internos de la IA por motivos de seguridad.</p> <p>En julio, Altman afirmó que <strong>habló con responsables de la Casa Blanca</strong> sobre la necesidad de moderar el ritmo de desarrollo de la IA.</p> <p>Este martes, el<strong> investigador de IA, Jacob Coxon,</strong> dimitió de su puesto y acusó a sus antiguos empleadores, <strong>Anthropic y OpenAI</strong>, de lanzarse a una carrera hacia una <strong>IA superinteligente con capacidad incluso para acabar con la humanidad en esta misma década.</strong></p> <p>El jueves, <strong>dos investigadores que abandonaron</strong> sus puestos en Anthropic y DeepMind, de Google, también <strong>hicieron públicas sus preocupaciones por el rápido ritmo de desarrollo de la IA</strong> y reclamaron mayor transparencia sobre los riesgos de esta tecnología.</p> <p>Además, a finales de julio, <strong>más de un millar de empleados</strong> de las principales empresas de la IA firmaron una petición en la que reclamaban un <strong>mecanismo para moderar el ritmo de desarrollo de la IA.</strong></p> <p>La preocupación por los riesgos de los sistemas de IA también aumentó tras conocerse que a<strong>gentes de la IA de OpenAI colaboraron</strong> entre ellos para burlar medidas de contención y <strong>piratear un sitio web de terceros.</strong></p>