OpenAI нажала на газ и почти сразу заговорила о тормозах
Последние несколько дней смотрю, что происходит вокруг OpenAI, и есть во всём этом один моментик, который меня немного напрягает. Не потому что вышла очередная мощная модель. К этому уже привыкли. А потому что люди, которые последние годы эту гонку разгоняли, вдруг сами начали говорить что неплохо было бы притормозить. 3 сентября OpenAI выпустила GPT-6 Astra. Модель мощная, бенчмарков много, всё как обычно. Но меня больше зацепила одна строчка из материалов самой OpenAI. Astra стала первой моделью компании которой присвоили уровень Critical по возможностям в кибербезопасности в рамках Preparedness Framework. Если убрать сложные формулировки, смысл примерно такой. При наличии нужных инструментов и доступа модель уже способна искать неизвестные уязвимости и разрабатывать способы их эксплуатации. Причём человеку не обязательно вести её за руку и говорить что делать на каждом следующем шаге, достаточно указать стартовое направление. OpenAI пишет что из-за этого отдельные этапы разработки даже замедляли пока усиливали защиту. Проходит чуть больше недели и руководители крупнейших AI-компаний начинают обсуждать уже не то как быстрее сделать следующую модель, а как эту гонку немного замедлить. Дарио Амодеи говорит что возможности моделей растут быстрее чем системы безопасности. Маск поддерживает идею ограничений. Альтман тоже говорит о необходимости координации между лабораториями. Параллельно OpenAI откладывает IPO, а разговоры про замедление AI-гонки уже умудрились пошатать акции компаний связанных с ИИ. Читать далее