OpenAI подтвердила подготовку к выпуску Astra – новой модели искусственного интеллекта, которая заметно превосходит прежние разработки компании в задачах программирования и кибербезопасности. По итогам испытаний система впервые получила критический уровень возможностей: она способна самостоятельно искать ранее неизвестные уязвимости и создавать способы их использования.
Точная дата выхода Astra пока не объявлена. Разработчик сообщает, что модель появится в ближайшее время, однако доступ к наиболее мощным средствам проверки компьютерных систем будет ограничен.
Возможности Astra в кибербезопасности и поиске уязвимостей
Во время испытаний Astra смогла находить слабые места в защищенных программах, объединять несколько ошибок в единую последовательность и получать расширенные права в системе. В одном из заданий модель преодолела изоляцию веб-обозревателя и выполнила команды на основном устройстве. В другом случае она обнаружила несколько ошибок в защищенной операционной системе и получила права администратора.
На проверке ExploitBench нейросеть выполнила 100% заданий. В дополнительном наборе из 20 недавно раскрытых уязвимостей Astra действовала точнее и экономнее предыдущей модели OpenAI. Более того, она самостоятельно обнаружила две неизвестные ранее ошибки, сведения о которых передаются разработчикам затронутых программ.
Безопасность нейросети OpenAI Astra перед выпуском
Высокие результаты создают двойственный эффект. Astra может ускорить проверку программного кода, поиск слабых мест и подготовку исправлений. Однако те же возможности способны упростить сложные атаки, если окажутся в распоряжении злоумышленников.
Поэтому OpenAI усилила обучение модели безопасному поведению. В специальных испытаниях Astra отклонила 91,5% опасных запросов, тогда как предыдущая передовая система справилась с 59%. Дополнительный уровень защиты будет анализировать действия модели и останавливать попытки выйти за пределы разрешенной задачи.
Дата выхода Astra и ограничения доступа к модели ИИ
Обычная версия Astra должна стать доступна широкому кругу пользователей. Расширенные возможности для поиска уязвимостей сначала получит небольшая группа проверенных специалистов, после чего доступ смогут предоставить организациям, занимающимся защитой цифровой инфраструктуры.
Astra не участвовала во взломе площадки Hugging Face, произошедшем во время испытаний других систем OpenAI. Тем не менее компания учла этот случай, усилила изоляцию испытательных сред, ограничила подключение к сети и ввела постоянный контроль действий автономных помощников.
Экспертный вывод
Astra показывает, что нейросети OpenAI переходят от советов по защите к самостоятельному поиску сложных уязвимостей. Это полезный инструмент для специалистов, но подключать подобные системы напрямую к рабочей инфраструктуре пока рискованно.
Рекомендация: использовать мощные модели ИИ только в изолированной среде, ограничивать их права и проверять каждое действие перед выполнением.