Безопасный контур: как ИИ-технологии защищают сервисы Яндекс 360

В Яндексе нейросети помогают делать сервисы не только умнее, но и безопаснее. Например, в Яндекс 360 мы используем технологии искусственного интеллекта, чтобы фильтровать спам в Почте, обучать модели Алисы Про и защищать пользователей от скачивания вредоносных файлов в Браузере.

Как ИИ-инструменты встраиваются в систему защиты Яндекса

В экосистеме Яндекса каждую секунду происходят миллионы событий — от поисковых запросов до отправки сообщений и онлайн-платежей. Даже при пиковых нагрузках сервисы должны работать без сбоев, а данные пользователей оставаться под защитой. Именно поэтому мы развиваем надёжную систему безопасности, которая строится на стандартах индустрии и накопленной экспертизе компании. Её совершенствуют наши сотрудники с помощью ИИ-технологий последнего поколения.

Специалисты ставят задачи ИИ, оценивают результаты и улучшают алгоритмы работы. Вместе с другими инструментами мы используем искусственный интеллект как первую линию защиты, которая позволяет решать такие задачи:

• Выявлять потенциальные угрозы. Нейросети в фоновом режиме отслеживают, как работают сервисы, и автоматически фиксируют любые отклонения от нормы. Процесс проходит незаметно для пользователя, но играет важную роль: помогает нам находить потенциальные уязвимости до того, как они заинтересуют злоумышленников.
• Обрабатывать большие массивы данных. ИИ действует как виртуальный аналитик, который непрерывно изучает информацию и умеет отличать реальные угрозы от информационного шума. При этом сохраняет эффективность даже во время пиковых нагрузок на инфраструктуру.  
• Анализировать и классифицировать события. ИИ-инструменты не только выявляют аномалии, но и определяют, насколько каждая из них критична. Именно поэтому эксперты по безопасности не тратят время на ручной разбор ложных срабатываний и больше внимания уделяют реальным угрозам. 
• Предупреждать атаки злоумышленников. Алгоритмы помогают отслеживать новые мировые киберугрозы, а также оценить, как их можно применить к инфраструктуре Яндекса и где нашу защиту стоит усилить. Это помогает работать на опережение и предотвращать инциденты.

Как ИИ-технологии обеспечивают безопасную работу Алисы Про 

В конце 2025 года в виртуальном офисе Яндекс 360 появился умный ассистент Алиса Про. Она создана на основе генеративных моделей семейства Alice AI. Модель Alice AI LLM помогает пользователям работать с текстом, Alice AI VLM — с визуальными данными, например картинками и графиками. Ещё Алиса Про использует RAG-систему, поэтому отвечает на вопросы по загруженным документам, а за другими фактами обращается к знаниям Alice AI LLM. 

Модели Алисы Про, как и все ИИ-решения Яндекса, работают безопасно и этично — это наш приоритет в развитии искусственного интеллекта. Именно поэтому мы контролируем каждый этап жизненного цикла моделей.

Последовательно обучаем

Чтобы в обучающие данные для ИИ не попала опасная или ложная информация, мы строго проверяем и обрабатываем исходные материалы — и следуем собственному стандарту по защите облачной инфраструктуры. Для обучения алгоритмов мы используем только обезличенную информацию — персональные данные пользователей не задействуются, а все данные о запросах и загруженных файлах остаются в закрытом контуре Яндекса. 

Кроме того, учим модель отвечать безопасно и этично. Для этого работаем в два этапа. Сначала мы берём ответы модели, которые затрагивают потенциально опасные темы, и переформулируем их в корректные. Это эталонные примеры для обучения. Затем подключаем специальную модель-оценщика: она учит основную модель выбирать корректные формулировки. Так мы снижаем риск появления небезопасного контента.

Безопасно храним и внедряем

Обученные модели мы размещаем в защищённых хранилищах, а внедрение в инфраструктуру проводим в контролируемой среде, соблюдая принцип «нулевого доверия» (Zero Trust). Это значит, что ни у кого нет постоянного доступа к настройкам ИИ. Мы открываем его только проверенным сотрудникам после строгой многофакторной верификации на время выполнения конкретной задачи. Это уменьшает вероятность случайных изменений.

Надёжно защищаем от манипуляций при использовании

Наши модели устойчивы к различным типам атак, в том числе к так называемым промпт‑инъекциям — попыткам обмануть или обойти логику ИИ с помощью специально сформулированных запросов для того, чтобы, например, получить внутренние инструкции модели.

Мы эффективно предотвращаем подобные угрозы: анализируем поступающие запросы, проверяем, что именно спрашивают у модели и что она собирается ответить, и блокируем любой контент, который может нести потенциальные риски или противоречить этическим стандартам. Таким образом, выявленные угрозы успешно нейтрализуются на этапе обработки данных.

Читайте также: Алиса Про в сервисах Яндекс 360: что умеет новый ИИ-ассистент для рабочих задач

Как нейросети помогают защищать Почту 

За прошлый год почтовые серверы Яндекс 360 заблокировали около 4,9 млрд вредоносных писем, а ещё 11,9 млрд писем отправили в папку «Спам». Этого удалось достичь благодаря улучшенным алгоритмам технологии «Спамооборона», которые защищают пользователей от фишинга и сложных атак.

Вот что нового появилось в технологиях защиты Почты.

Компьютерное зрение

Нередко спамеры пытаются обмануть фильтры и прячут текст письма внутри изображения. Теперь алгоритмы ИИ считывают текст с картинок и вложенных PDF-документов, а также распознают поддельные логотипы (CV-антифишинг).

Повторная проверка писем

Злоумышленники постоянно придумывают новые схемы, поэтому информация о вредоносности письма может появиться уже после его доставки. Технология ReCheck находит такие письма во «Входящих» пользователя и переносит в «Спам».

Дообучение после каждой вредоносной рассылки

Мы изменили подход к тренировке моделей распознавания спама в Почте. Теперь система мгновенно запоминает новые спам-факторы и учитывает их в дальнейшей работе.

В прошлом году Яндекс первым в России получил международный сертификат ISO 42001 для ИИ-продуктов. Независимый аудит подтвердил: наши технологии соответствуют мировым стандартам безопасности, этики и прозрачности. Читайте подробнее: «Расширение ISO для нас стало стратегией, а не точкой назначения». Комплаенс-менеджер по информационной безопасности Яндекс 360 о сертификации сервисов.

Как ИИ-безопасность работает в Яндекс Браузере 

В 2025 году ГК Softline провела исследование, в котором изучала, насколько современные браузеры защищены от фишинга. Яндекс Браузер занял первое место: он распознал в восемь раз больше мошеннических сайтов, чем другие браузеры. Из 100 опасных ресурсов десктопная версия обнаружила 85, мобильная — более 75.

Выстраивать эффективную систему безопасности в Яндекс Браузере помогают нейросети. Алгоритмы в реальном времени определяют фишинговые страницы, а технология «Нейропротект» проверяет подлинность сайтов, защищает онлайн-платежи, блокирует нежелательные звонки и загрузку вредоносных данных. Например, за 2025 год система предотвратила 12,4 млн скачиваний опасных файлов.