Нейросеть поймала то, что пропустил антивирус, у меня на глазах шесть лет назад. Сисадмин кинул в песочницу свежий файл, модель посмотрела последовательность вызовов и за одиннадцать секунд сказала: шифровальщик. Сигнатурный движок молчал: хеш новый, в базах его нет. С тех пор я не отношусь к ИИ в безопасности как к наклейке на коробке.
Дальше по-честному: где нейросети в системах защиты реально работают, где пока дорогая игрушка и когда они начинают приносить пользу, а не слайды для презентации.
Сигнатуры не умерли, но перестали быть главным аргументом
Классический антивирус ищет знакомое: хеш, байтовую последовательность, фрагмент кода, который уже кто-то сдал в анализ. Пока атака не меняется, схема работает. Как только злоумышленник правит один байт, сигнатура превращается в мусор.
Нейросеть играет на другом поле. Ей показывают не то, как файл выглядит, а то, что он делает. Файл запускают в изолированной среде и снимают поведение: какие процессы создаёт, куда лезет в реестре, какие домены дёргает, шифрует ли данные пачками, пытается ли отключить защиту. Модель, обученная на миллионах таких трасс, выдаёт вероятность вредоносности и, что важнее, объясняет причину.
Практическая разница огромная. Полиморфный вредонос, который пересобирает себя при каждом запуске, для сигнатурного движка выглядит как новый чистый файл. Для поведенческой модели он всё равно остаётся шифровальщиком: почерк не меняется. Именно поэтому автоматический анализ файлов и программ на предмет вредоносного кода стал первой задачей, где ИИ прижился без пафоса и хайпа.
Есть нюанс, о котором в рекламных материалах молчат. Песочница стоит денег и времени. Прогнать каждый файл через полный анализ невозможно, поэтому на входе работает быстрый фильтр, а в песочницу уезжает процентов пять. Если фильтр настроен плохо, вы платите за анализ безобидных установщиков и пропускаете тихую малварь, которая три дня ждёт перед первым действием.
Прогноз атаки интереснее, чем реакция на неё
Ловить по факту - работа пожарного. Основное преимущество ИИ в кибербезопасности в другом: он прогнозирует атаки и помогает нарастить защиту до того, как они начнутся.
Как это выглядит на практике. Модель строит карту инфраструктуры: какие сервисы торчат наружу, какие версии библиотек крутятся, кто и куда ходит по сети, какие учётки спят годами, а потом просыпаются в три ночи. Дальше сопоставляет это с базой уязвимостей и свежими данными об угрозах и говорит: связка «открытый RDP плюс слабый пароль плюс учётка с правами админа» выглядит как приглашение.
Толку от прогноза ровно столько, сколько за ним следует действий. Хорошая система не просто рисует красную лампочку, а предлагает, что закрыть в первую очередь, и иногда сама ставит патч. Тут я всегда советую включать голову: автоматическое обновление на продакшене без тестового контура однажды положит вам сервис в самый неподходящий момент. Модель не знает, что у вас в эту ночь квартальная отчётность.
Корреляция событий - та задача, где ИИ окупается быстрее всего
Знакомая картина: SOC на четыре человека, двенадцать тысяч алертов в сутки, из них реальных инцидентов два. Остальное шум: легитимный админ зашёл по VPN из другой страны, сканер запустил проверку, бэкап-скрипт дёрнул сто тысяч файлов. В обсуждениях на Reddit аналитики признаются, что через месяц такой жизни перестают открывать алерты. Это не лень, это защитная реакция психики.
Нейросеть здесь делает три вещи, и все три нужны.
- Сопоставляет события из разных систем: EDR, файрвол, Active Directory, облако, почтовый шлюз. Одно событие само по себе безобидно, цепочка из пяти выглядит как атака.
- Приоритизирует по контексту риска: не «критично», а «критично, потому что на этой машине лежат финансовые документы, а у учётки есть доступ к платёжному шлюзу».
- Берёт на себя первичный триаж: закрывает типовые случаи по описанным сценариям, а человеку отдаёт только то, что требует решения.
Вот контекстный анализ и корреляция событий - тот самый кусок, ради которого стоит платить. Модель смотрит на временные метки, источники данных, типы активности и складывает из этого картину. Многоэтапная атака, где каждый шаг по отдельности не вызывает подозрений, вылезает именно на корреляции. А ещё это снимает главную боль службы безопасности: проблема не в том, что мы не видим атаку, а в том, что мы видим всё и не понимаем, что из этого важно.
Отдельно про базу знаний. Нормальная система хранит историю: как закрыли похожий инцидент полгода назад, какие правила сработали, что оказалось ложным срабатыванием. Модель вытаскивает это в момент разбора, и новичок в команде перестаёт задавать одни и те же вопросы. Экономия на онбординге аналитика измеряется месяцами.
Уязвимости и патчи: модель как второй глаз
Поиск уязвимостей давно не ручная работа. Сканеры находят формальные несоответствия, а модель помогает понять, эксплуатируется ли находка в вашем конкретном случае. Есть ли до этой функции реальный сетевой путь, есть ли аутентификация, что получит атакующий на выходе.
Дальше идут рекомендации по устранению. Тут нейросети в системах безопасности экономят не деньги, а время инженера: вместо двадцати страниц описания уязвимости ты получаешь три абзаца о том, что делать, и команду для проверки. Иногда систему учат применять обновления автоматически, но повторюсь: без тестового стенда это лотерея.
Почта и фишинг: тихая война, которую ИИ изменил первым
Почтовый шлюз смотрит на отправителя, репутацию домена, вложения и ссылки. Модель добавляет то, чего не хватало: смысл. Письмо от «главбуха» с просьбой срочно подтвердить реквизиты может быть идеально чистым технически и всё равно пахнуть мошенничеством - по тону, по времени отправки, по нехарактерной для этого человека манере писать.
Генеративные модели сделали фишинг качественным. Раньше спасала кривая грамматика и странные формулировки, теперь письмо написано лучше, чем у половины ваших сотрудников. ИИ и защищает, и атакует одновременно, и это не фигура речи.
Обратная сторона: для учебных рассылок теперь тоже нужны нормальные тексты, потому что сотрудники справедливо замечают, что учебный фишинг выглядит как пародия. Ниже расскажу, чем это решать без штатного копирайтера.
Самая свежая дыра - сам ChatGPT внутри компании
Отдельная история, которая за последние два года стала больнее классических утечек. Сотрудник копирует в чат с языковой моделью кусок договора, схему базы или клиентскую выгрузку. Формально он ничего не украл, он «оптимизировал работу». Фактически конфиденциальные данные уехали на чужой сервер, и вы узнаете об этом из новостей.
Традиционный DLP такое не закрывает. Он проектировался под мир до нейросетей: почта, файловые хранилища, USB. Каналы он контролирует, шаблоны конфиденциальных данных в трафике ищет, но чат с LLM для него - просто HTTPS-сессия, каких тысячи.
Рабочее решение, которое я видел и которое реально внедряют, - не запрещать, а строить контролируемую среду. Между сотрудником и моделью ставят шлюз: он разбирает запрос, находит в нём чувствительные данные и применяет политику. Маскирует номера договоров и персональные данные, режет запрос целиком, пишет в лог, кто что спрашивал. Такие AI-security решения работают и с облачными моделями, и с локально развёрнутыми. Часть входит в реестр отечественного ПО - для крупного заказчика это часто решающий аргумент.
Логика простая: запрет рождает теневые чаты с личных телефонов, а шлюз оставляет людям инструмент и оставляет вам контроль.
Физический периметр: лица, голоса, поведение в кадре
За пределами SOC всё то же самое, только на камерах. Распознавание лиц на проходной, детекция оставленных предметов, поиск человека в чёрном списке по архивным записям, анализ толпы на предмет давки. Нейросеть смотрит поток с двухсот камер и вытаскивает то, на что у трёх операторов не хватит внимания.
Отдельная тема - голос. Модели определения дипфейка по артефактам синтеза уже используются в банках при телефонной верификации. Гонка снаряда и брони идёт полным ходом, и я бы не советовал строить на этом единственную линию защиты.
Где ИИ в безопасности ломается
Честно про минусы, без которых обзор был бы рекламным.
Состязательные атаки. Модель можно обмануть специально подобранным шумом, и в случае с изображениями это работает пугающе хорошо. Чем сильнее вы полагаетесь на одну модель, тем дороже стоит ошибка.
Дрейф данных. Модель обучена на трафике прошлого года, а инфраструктура поменялась. Точность падает тихо, без ошибок в логах, и вы узнаёте об этом по факту инцидента.
Ложные срабатывания. Аналитик, который двадцать раз закрыл ложный алерт, двадцать первый закроет не глядя. Ущерб от такого пропуска выше, чем от отсутствия системы: появляется иллюзия контроля.
И цена ошибки. В медицине, где ИИ помогает с первичной сортировкой поступающих, автоматические решения работают только под контролем человека. В безопасности так же: модель предлагает, человек решает. Квалифицированный человеческий контроль не пережиток, а обязательное условие. Без него вы просто автоматизировали хаос.
Ещё один момент, о котором редко говорят вслух: данные для обучения. Модель, которая учится на ваших инцидентах, видит ваши слабости. Вопросы о том, где она обучается, кому уходят телеметрия и логи, надо задавать до подписания контракта, а не после первого разбора.
С чего начинать, если вы не банк и не нефтяная компания
Порядок, который я бы отстаивал на любом совете директоров.
- Навести порядок в логах. Без нормализованных событий из EDR, Active Directory и сети никакая модель не поможет, она просто не увидит связей.
- Взять один процесс и закрыть его целиком. Обычно это триаж алертов или фишинг на почте. Победа на узком участке убеждает людей лучше любой презентации.
- Прописать политику по языковым моделям до того, как сотрудники принесут туда первый договор. Шлюз, белый список сервисов, инструктаж.
- Оставить человека в контуре. Всегда.
Бюджет на всё это меньше, чем кажется, если не покупать платформу «всё в одном» на пятьсот человек штата.
Безопаснику тоже нужны нейросети, и здесь начинается бытовуха
Пока мы обсуждаем модели в SOC, сам специалист по безопасности сидит с задачами, которые нейросеть закрывает за минуты. Разобрать подозрительный скрипт и объяснить, что он делает. Написать правило для детекта. Составить фишинговое письмо для учебной рассылки, чтобы сотрудники учились на живом примере, а не на картинке из презентации. Перевести вендорскую документацию. Собрать отчёт для руководства человеческим языком, а не выдержкой из логов.
Вот тут и вылезает проза: из России доступ к флагманским моделям закрыт, иностранные карты не работают, а VPN в корпоративной сети сам по себе инцидент.
Для этого есть 3GPT от 3SELLER - ИИ роутер с прямым доступом к последним флагманским моделям из России. Chat GPT 6 Astra, the model 5, 5.1 и 5.5, Chat GPT 5.5, Chat GPT 6.1 Sol, Nano Banana для изображений, генерация видео. Доступ стартует от 149₽, пополнить баланс можно российской картой, через СБП или криптой. Без иностранных карт и без танцев с бубном вокруг прокси.
Практическая польза для безопасника конкретная. Скопировал обфусцированный кусок PowerShell - получил разбор по шагам. Скинул схему сети - попросил список слабых мест с точки зрения внешнего атакующего. Нужен текст политики информационной безопасности под конкретную компанию - вот он, осталось вычитать.
Получить доступ ко всем флагманским моделям нейросетей из России можно на официальном сайте 3GPT - https://3seller.com/3gpt.
Готовые агенты вместо пустого чата
Отдельная фишка, которая мне нравится больше всего. Вместо того чтобы каждый раз объяснять модели, кто ты и что тебе нужно, можно взять готового ИИ агента под задачу - https://3seller.com/ai/agents. Выбираешь агента и начинаешь с ним общение. Модель агента меняется прямо в чате, так что один и тот же сценарий можно прогнать через разные движки и сравнить результат.
Для службы безопасности это удобно в рутине: разбор инцидента по шаблону, генерация обучающих материалов, проверка текста на утечку чувствительных формулировок перед публикацией.
Картинки и видео - не игрушка, а рабочий инструмент
Про визуал у безопасников запрос неочевидный, но живой. Плакаты по информационной безопасности, схемы для обучения, реалистичные изображения для сценариев учений, обложки внутренних рассылок. Раньше на это искали дизайнера и ждали неделю.
Создавать реалистичные фотографии через лучшие ИИ инструменты можно здесь - https://3seller.com/3gpt-image.
Генерация видео и голоса тоже в комплекте. Для внутренних обучающих роликов этого хватает с головой.
Что делать на этой неделе
Нейросети в системах безопасности не заменяют инженера, они снимают с него ту часть работы, где человек физически не справляется: объём, скорость и количество связей. Поведенческий анализ файлов, прогноз атак по карте инфраструктуры, корреляция событий в SOC, поиск уязвимостей, шлюз между сотрудником и языковой моделью, видеоаналитика на периметре. Всё это уже работает, а не обещает.
Начните с одного процесса, где боль измерима: обычно это алерты, которые никто не читает. И параллельно закройте вопрос доступа к моделям для своей команды, чтобы люди не тащили рабочие данные в случайные телеграм-боты. 3GPT решает вторую задачу за пару минут и 149 рублей - самый дешёвый шаг из всех, что вы можете сделать на этой неделе.