Опубликовано: 23.08.2026 | Источник: SecurityLab (RSS)

```html

Безопасность ИИ в дипломе: как проектировать этичные и защищённые модели

Пентагон внёс ИИ-компанию в чёрный список за отказ сделать модель опаснее — и считает это совершенно логичным. Прецедент наглядно показывает: безопасность ИИ стала жёстким требованием заказчиков и регуляторов, а не опцией. Для вашей ВКР такой кейс — готовый крючок для обоснования актуальности. Вместо общих слов о «современном мире» вы покажете конкретный конфликт и переведёте его в инженерную задачу: как спроектировать систему, которая не подведёт, не нарушит этику и не попадает в чёрные списки. В статье разберём три темы диплома, которые можно построить вокруг этого события, и при практике, как написать ВКР, чтобы комиссия оценила и реализацию, и глубину анализа.

Темы ВКР по безопасному ИИ и их реализация

Тема 1. Проектирование безопасной архитектуры ИИ-системы

Актуальность: отказ Пентагона — пример того, что клиент готов разорвать контракт, если модель не отвечает требованиям безопасности. В дипломе можно спроектировать архитектуру, которая снижает риски на уровне периметра.

Цель: разработка архитектуры ИИ-системы с интегрированным контуром безопасности.

Задачи:

• проанализировать требования OWASP ML Top 10 и ISO/IEC 25010;
• построить модель угроз и схему контура защиты;
• спроектировать развёртывание в Kubernetes с network policies и securityContext;
• провести тестирование на типовых атаках (инъекции в промпт, состязательные примеры).

Структура: глава 1 — анализ стандартов и угроз, глава 2 — проектирование схемы (C4, UML), глава 3 — прототип и оценка защищённости.

Тема 2. Оценка этических и операционных рисков ИИ-решений

Актуальность: разработчик отказался делать ИИ опаснее и попал в чёрный список. Как выявить такие риски до подписания контракта? ВКР может предложить методику количественной оценки.

Цель: разработать методику оценки рисков ИИ-систем для согласования требований заказчика и разработчика.

Задачи:

• классифицировать этические, юридические и технологические риски;
• выбрать метрики: fairness, robustness, дрейф данных;
• построить скоринговую модель оценки риска;
• апробировать методику на публичном датасете.

Структура: глава 1 — анализ подходов и стандартов, глава 2 — проектирование методики, глава 3 — апробация и интерпретация результатов.

Тема 3. Автоматизированный мониторинг безопасности моделей (MLOps)

Актуальность: инциденты с ИИ часто происходят после деплоя. Чтобы снова не попадать в чёрные списки, нужен постоянный мониторинг. Это идеальная тема на стыке ML и DevOps.

Цель: создать пайплайн мониторинга для ML-систем с алертами на аномалии и автоматическим откатом.

Задачи:

• настроить сбор метрик через OpenTelemetry и Prometheus;
• реализовать детекцию дрейфа данных и ухудшения качества;
• разработать автоматический откат модели при критических отклонениях;
• оценить время реакции и полноту обнаружения.

Структура: глава 1 — обзор практик MLOps и безопасности, глава 2 — реализация прототипа, глава 3 — нагрузочное тестирование и выводы.

Как встроить материал статьи в главы ВКР

Во введении используйте кейс с Пентагоном как факт, требующий инженерного ответа. В главе 1 разберите стандарты: ISO/IEC 25010 для качества, OWASP ML Top 10 для безопасности, ГОСТ 34 для стадий проектирования. В главе 2 постройте диаграмму в нотации C4: контейнеры ML-сервиса, API Gateway, хранилище логов. В третьей главе подготовьте метрики: процент заблокированных атак, время детекции аномалий, точность модели при подмене данных.

Пример конфигурации алерта Prometheus для детекции дрейфа данных:

groups:
  - name: ml-security
    rules:
      - alert: DataDriftHigh
        expr: rate(tensorflow_data_drift[5m]) > 0.3
        for: 10m
        labels:
          severity: critical
        annotations:
          summary: "Дрейф данных превышает 30%"

Такой фрагмент показывает комиссии, что вы умеете переводить теорию в работающие инструменты.

Чему вы научитесь, выполнив такую ВКР

• Обосновывать архитектурные решения ссылками на стандарты.
• Проектировать безопасные ML-пайплайны с учётом угроз.
• Настраивать мониторинг и алертинг на базе OpenTelemetry и Prometheus.
• Считать метрики устойчивости, справедливости и операционной эффективности.
• Оформлять техническую документацию и схемы по ГОСТ.

FAQ

С чего начать, если я не силён в безопасности ИИ?

Начните с модели угроз. Откройте OWASP ML Top 10 и последовательно примените каждую угрозу к вашей системе: какой ущерб, как защищаться. Для теории достаточно 10 страниц, дальше — переход к практике.

Какие требования к коду в такой ВКР?

Код — это демонстрация архитектурного мышления, а не просто скрипт. Он должен быть разбит на модули, содержать комментарии, обработку ошибок и тесты. Даже простой пример с фильтрацией входа можно оформить как полноценный сервис с API.

Как считать эффективность, если нет реальных данных?

Используйте публичные датасеты (CIFAR-10, IMDb, взрослые данные для fairness). Покажите метрики на них: точность, полноту, F1, а также дрейф и время детекции. Комиссии важно видеть методику и цифры, а не исходные данные, которых всё равно не бывает.

Как оформить схемы по ГОСТ, если я привык к стоковым нотациям?

В ГОСТ 34.601 описаны стадии проектирования, но он не регламентирует жёстко нотацию. Берите C4 или UML, подписывайте каждый элемент, указывайте связи. Главное — в тексте диплома дать описание схемы и ссылаться на неё.

Чек-лист перед сдачей

Типичные ошибки студентов

Источник: Пентагон внес ИИ-компанию в чёрный список за отказ сделать ИИ опаснее — и считает это совершенно логичным (опубликовано 2026-03-19)

```