Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
OpenAI описала Defense Factory — непрерывный цикл, в котором ИИ-агенты ищут уязвимости, подтверждают их и проверяют исправления. Компания привлекла к работе более 250 человек и применила специализированные модели для кибербезопасности в сотнях систем; они помогли найти и исправить проблемы, которые иначе могли остаться незамеченными.
Для технических команд здесь важна не отдельная модель, а способ встроить её в процесс. Агент не заканчивает работу отчётом: найденная проблема должна пройти подтверждение, исправление и повторную проверку.
Три шага превращают поиск уязвимостей в замкнутый цикл
Первый шаг — поиск. ИИ-агенты исследуют системы и формируют кандидатов на уязвимости. Пост не уточняет, с какими исходными данными и инструментами они работают, поэтому воспроизвести конкретную реализацию по нему нельзя.
Второй шаг — подтверждение. Он отделяет реальную уязвимость от подозрительного поведения, ошибки анализа или результата, который невозможно повторить. Без этого этапа модель лишь увеличивает очередь находок, а команда тратит время на разбор ложных срабатываний.
Третий шаг — проверка исправления. После изменения кода или конфигурации агент снова обращается к проблемному месту и выясняет, сохранилась ли уязвимость. Такая проверка закрывает разрыв между отметкой «исправлено» в задаче и фактическим состоянием системы.
Цикл остаётся непрерывным: после повторной проверки агенты возвращаются к поиску. Это отличает Defense Factory от разового аудита или запуска сканера перед выпуском версии. Изменения в коде, зависимостях и конфигурации снова попадают в тот же процесс.
Охват сотен систем показывает ещё одну черту архитектуры. Она рассчитана не на один репозиторий, а на портфель сервисов, где находки нужно последовательно провести через одинаковые этапы. Иначе результаты разных агентов и команд останутся разрозненными отчётами.
Агенты расширяют поиск, люди обеспечивают исправление
В описанном цикле агентам отданы три явные функции: найти возможную проблему, подтвердить её и проверить результат исправления. OpenAI также пишет, что модели помогали не только искать, но и исправлять уязвимости. Однако точное разделение действий между моделями и специалистами в посте не раскрыто.
Участие более 250 человек не похоже на полностью автономную систему безопасности. Скорее, модели расширили возможности большой программы, которая уже могла принимать находки, менять системы и возвращать результат на проверку. Человек при этом остаётся частью контура хотя бы потому, что исправление затрагивает рабочий код и инфраструктуру.
Фраза о проблемах, которые могли никогда не обнаружить, говорит о расширении покрытия, но не измеряет качество модели. В посте нет доли подтверждённых находок, времени проверки или сравнения с обычными средствами анализа. Поэтому результат показывает практическую пользу на инфраструктуре OpenAI, но не позволяет заранее рассчитать эффект для другой компании.
Что это меняет для команд, которые строят на этом защиту
При выборе модели главным становится не только качество поиска. Нужно оценивать, можно ли провести каждую находку по всему циклу: сохранить её, подтвердить, связать с исправлением и запустить повторную проверку. Если процесс заканчивается списком подозрений, команда получает ещё один источник уведомлений, а не фабрику защиты.
Из архитектуры следуют три условия для воспроизведения подхода. Агенты должны работать с целевыми системами достаточно регулярно, команда должна уметь передавать подтверждённые проблемы тем, кто меняет код или конфигурацию, а исправленная система должна снова быть доступна для проверки. Выпадение любого звена размыкает цикл.
Масштаб OpenAI также задаёт границу сравнения. Более 250 участников и сотни систем описывают крупную внутреннюю программу, а не готовый инструмент, который достаточно подключить к репозиторию. Небольшая команда может повторить саму последовательность шагов, но приведённые результаты нельзя переносить на неё как оценку бюджета, скорости или необходимого числа специалистов.
Практический вывод — начинать стоит с контура работы, а не с обещаний модели. Если находка получает проверяемое состояние, доходит до исправления и автоматически возвращается агенту, ИИ становится частью инженерной системы безопасности. Без этой связи даже хороший поиск лишь быстрее создаёт очередь необработанных проблем.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
