Стресс-тестирование ИИ в дипломе: метрики устойчивости и защита проекта

В новости SecurityLab — показательный кейс: бывший инженер Microsoft заставил нейросеть играть в игру, где два джойстика должны управлять тысячью роботами, а люди сдаются через секунды. ИИ тоже не справлялся, но как раз это и делает кейс бесценным для ВКР. Вместо сухого «обучения на датасете» вы получаете готовый сценарий исследования: хаотические условия, нестандартные входные данные, измерение отказов. Это не просто тренд, а реальная практика тестирования ИИ на робастность. Студент может взять подобный эксперимент за основу диплома, оформить его по ГОСТ и защитить с результатами, которые поймут даже гуманитарии.

Темы ВКР по стресс-тестированию ИИ

Как встроить «хаотический стресс-тест» в классическую структуру ВКР

Глава 1 — анализ и теория

Здесь укажите, что априорная стабильность модели в реальном мире — это миф. Ссылайтесь на новость от 2026-03-17 как на мотивацию исследования. Разберите понятия робастности, качества программного обеспечения по ISO/IEC 25010: обратите внимание на характеристики «Надёжность» (reliability) и «Безопасность» (security). Они станут каркасом для вашей системы метрик. Далее определите классы нештатных ситуаций: физический шум датчиков, резкое изменение среды, состязательные паттерны. В этом же разделе опишите инструменты: OpenAI Gym, Stable-Baselines3, Python — так вы закроете вопросы «где взять данные» и «на чём реализовать».

Глава 2 — проектирование и реализация

Опишите предлагаемый набор тестов: «игровой хаос» можно закодировать как специальную обёртку над средой. Отличным артефактом станет UML-диаграмма состояний, на которой видно, как агент переходит из нормального режима в режим «неожиданного события» и какие решения принимает. Если речь об архитектуре модели — используйте C4 (контекст контейнера), чтобы показать место экспериментальной среды в проекте.

Пример фрагмента кода:

import gym
from stable_baselines3 import PPO

def chaotic_eval(env_name, model_path, noise_level=0.8):
    env = gym.make(env_name)
    model = PPO.load(model_path)
    total_reward = 0
    for episode in range(30):
        obs = env.reset()
        # включаем хаос: добавляем шум и непредвиденные события
        env.unwrapped.set_noise(noise_level)
        env.unwrapped.enable_surprise(True)
        done = False
        while not done:
            action, _ = model.predict(obs)
            obs, reward, done, info = env.step(action)
            total_reward += reward
            if info.get("surprise_triggered", False):
                print("Сюрприз на эпизоде", episode)
                break
    return total_reward / 30

Важно объяснить, почему выбраны именно эти параметры: уровень шума, вероятность случайного события. Это делает работу воспроизводимой.

Глава 3 — метрики и эксперимент

Классической точности недостаточно. Введите метрики:

• Success Rate — процент эпизодов, где агент выполнил цель до «сюрприза»;
• Time-to-Failure — длительность работы до отказа;
• Cumulative Reward — накопленная награда при хаосе;
• Entropy of Action Distribution — энтропия распределения действий: если она резко падает (агент «замирает») — это симптом уязвимости.

Результаты оформляйте таблицей «метрика / модель A / модель B / прирост». Обязательно сделайте статистическую проверку (t-test или знаковый критерий), чтобы показать значимость различий. Такая конкретика всегда греет сердца преподавателей.

Практические выводы: чему вы научитесь

В процессе работы вы освоите:

1. Проектировать тестовые стенды с нештатными ситуациями для ИИ;
2. Встраивать fault injection в среды обучения с подкреплением;
3. Считывать и интерпретировать метрики робастности;
4. Оформлять схемы и результаты в соответствии с требованиями ГОСТ и ISO/IEC 25010;
5. Выстраивать защитную линию: формулировать выводы, которые выдерживают наводящие вопросы комиссии.

Частые вопросы студентов

Чек-лист перед сдачей ВКР

Типичные ошибки, которые портят диплом

Источник: Два джойстика, тысячи роботов и один ИИ. Бывший инженер Microsoft устроил нейросети самый хаотичный стресс-тест (опубликовано 2026-03-17)