Автономные AI-агенты в ВКР: архитектура, метрики и оценка регуляторных рисков

Поддомен: AI/ML. Роль автора: Data/ML-инженер.

Введение

TechCrunch 25 марта 2026 года выпустил материал с говорящим заголовком: самая предсказуемая глава истории Manus — это то, что происходит прямо сейчас. А происходит разбирательство вокруг сделки с участием агентной платформы, которая вышла из Китая, переехала в Сингапур и оказалась в центре внимания регуляторов, инвесторов и конкурентов. Вопрос «неужели кто-то думал, что этого не случится?» — риторический, и именно он полезен выпускнику.

Почему? Потому что AI-агент перестал быть демкой «смотрите, он сам кликает по кнопкам». Теперь это продукт с ценой за задачу, задержками, правами доступа к чужим данным и юрисдикцией. Если ваша ВКР — про LLM-агента, RAG-контур или оркестрацию инструментов, комиссия почти наверняка спросит: а что с безопасностью, стоимостью и воспроизводимостью? Ниже — как превратить этот вопрос из угрозы в ваш козырь на защите.

FAQ: что чаще всего болит у студентов на агентных темах

Темы ВКР: четыре вектора, которые опираются на сюжет Manus

• Тема 1. Мультиагентная система планирования и выполнения задач на базе LLM.

  Актуальность: кейс Manus показал, что ценность агента — в оркестрации инструментов и планировании, а не в самой модели. Именно оркестрация становится предметом споров при сделках и из-за неё же возникают вопросы к надёжности.

  Цель: спроектировать и реализовать граф агента с планировщиком, исполнителем и валидатором, оценить надёжность по сравнению с одношаговым промптом.

  Задачи: 1) обзор архитектур агентов (ReAct, plan-and-execute, графовые фреймворки); 2) проектирование графа состояний и контрактов инструментов; 3) реализация на LangGraph / AutoGen с MCP-совместимыми инструментами; 4) эксперимент и статистическая оценка.

  Структура: Глава 1 — анализ подходов и постановка задачи; Глава 2 — проектирование и реализация (C4-диаграммы, sequence-диаграммы); Глава 3 — эксперименты, метрики, сравнение с baseline.

• Тема 2. Guardrails и изоляция инструментов автономного агента.

  Актуальность: разбирательство вокруг сделки Manus — это в том числе вопрос о том, какие данные и действия агента допустимы в чужой инфраструктуре. OWASP LLM Top 10 прямо называет prompt injection и excessive agency главными рисками агентных систем.

  Цель: построить слой защиты, снижающий долю успешных инъекций и необоснованных вызовов инструментов.

  Задачи: 1) классификация угроз по OWASP LLM Top 10; 2) проектирование песочницы и политики прав; 3) реализация валидатора действий и лимитов; 4) замер доли блокировок и ложноположительных срабатываний.

  Структура: Глава 1 — модели угроз, обзор практик; Глава 2 — архитектура защитного слоя (BPMN-схема маршрута запроса); Глава 3 — атаки-тесты, метрики, выводы.

• Тема 3. Наблюдаемость AI-агента: трейсинг, стоимость и качество.

  Актуальность: инвесторы и регуляторы в истории с Manus спрашивают об экономике продукта. Студент, который умеет считать стоимость и задержку агента, выделяется на фоне «у меня работает в ноутбуке».

  Цель: внедрить сквозной трейсинг агентного пайплайна и построить дашборд с ключевыми метриками.

  Задачи: 1) обзор подходов к наблюдаемости LLM-систем; 2) инструментирование по OpenTelemetry (спаны на шаг графа, вызов инструмента, вызов модели); 3) сбор метрик и агрегация; 4) дашборд и анализ узких мест.

  Структура: Глава 1 — теория наблюдаемости, ISO/IEC 25010 как рамка атрибутов качества; Глава 2 — реализация инструментирования; Глава 3 — измерения под нагрузкой, рекомендации.

• Тема 4. Оценка рисков интеграции сторонней AI-агентной платформы в корпоративный контур.

  Актуальность: сюжет Manus — учебный пример того, как технологическая сделка тянет за собой юридические, регуляторные и репутационные последствия. Для системного аналитика или архитектора это чистая тема ВКР.

  Цель: разработать методику оценки рисков внедрения внешнего агента и апробировать её на 2–3 сценариях.

  Задачи: 1) анализ требований регуляторов и практик due diligence; 2) построение матрицы рисков (вероятность × влияние); 3) формализация чек-листа и критериев go/no-go; 4) апробация на кейсах.

  Структура: Глава 1 — анализ предметной области и нормативной базы; Глава 2 — методика и модель оценки; Глава 3 — апробация, чувствительность, выводы.

Как разложить материал по главам диплома

Глава 1: статья TechCrunch как источник постановки проблемы

Не пересказывайте новость — это не анализ. Вычлените из неё три сущности, которые лягут в теоретическую главу: (1) бизнес-модель агентной платформы; (2) точки отказа при интеграции чужого агента в инфраструктуру заказчика; (3) перечень заинтересованных сторон (пользователь, владелец данных, регулятор, инвестор). Дальше постройте C4-диаграмму уровня Context — она наглядно покажет, что агент не живёт в вакууме.

# Псевдосхема C4 Context (ASCII)
[Пользователь] --> [Агентная платформа ВКР]
[Агентная платформа ВКР] --> [LLM API]        : inference, $/1K токенов
[Агентная платформа ВКР] --> [Хранилище RAG]  : pgvector / Qdrant
[Агентная платформа ВКР] --> [Внешние API]    : MCP-инструменты
[Агентная платформа ВКР] --> [Телеметрия]     : OpenTelemetry Collector
[Регулятор / ИБ] -.-> [Агентная платформа ВКР] : требования к данным

Глава 2: проектирование и код, который стоит показать

Для главы 2 достаточно одного честно работающего графа. Покажите состояния, условия перехода и точку, где включается валидация. Оформляйте это UML sequence-диаграммой и коротким листингом — комиссия читает именно листинги, а не весь репозиторий.

# agent/graph.py — упрощённый граф агента
from typing import TypedDict

class State(TypedDict):
    task: str
    plan: list[str]
    tool_result: str
    attempts: int

MAX_ATTEMPTS = 3

def plan_node(state: State) -> State:
    state["plan"] = llm.plan(state["task"])          # шаг 1: декомпозиция
    return state

def act_node(state: State) -> State:
    step = state["plan"].pop(0)
    action = llm.select_tool(step)
    if not policy.is_allowed(action, role="analyst"):  # guardrail
        state["tool_result"] = "BLOCKED_BY_POLICY"
        return state
    state["tool_result"] = sandbox.run(action)         # изолированный вызов
    return state

def validate_node(state: State) -> State:
    ok = llm.judge(state["task"], state["tool_result"])
    if not ok and state["attempts"] < MAX_ATTEMPTS:
        state["attempts"] += 1
        state["plan"].append("retry_with_reflection")
    return state

Обратите внимание: в листинге есть политика (policy.is_allowed) и песочница (sandbox.run). Это ровно то, чего не хватает в 90% студенческих работ и что напрямую отсылает к рискам, обсуждаемым вокруг Manus.

Глава 3: метрики, которые не стыдно защищать

Метрики делятся на три группы: качество, стоимость, эксплуатация. Ниже — минимальный набор, которого достаточно для убедительной третьей главы.

# observability/tracing.py
from opentelemetry import trace

tracer = trace.get_tracer("vkr.agent")

def traced_step(name: str, **attrs):
    def deco(fn):
        def wrapper(*args, **kwargs):
            with tracer.start_as_current_span(name) as span:
                for k, v in attrs.items():
                    span.set_attribute(k, v)
                result = fn(*args, **kwargs)
                span.set_attribute("step.completed", True)
                return result
        return wrapper
    return deco

@traced_step("llm.plan", model="gpt-class", step_type="plan")
def plan(task: str):
    ...

Нормоконтроль: где чаще всего снимают баллы

Схемы без легенды, листинги без подписи и ссылки в тексте, метрики без единиц измерения, выводы, не совпадающие с задачами. Если пишете про качество ПО — опирайтесь на ISO/IEC 25010 как рамку атрибутов (функциональная полнота, производительность, безопасность, сопровождаемость), а не на «удобство и скорость» из воздуха. Документирование — по ГОСТ 19 (программные документы) или ГОСТ 34 (автоматизированные системы), в зависимости от того, что требует кафедра.

Чему вы научитесь на такой теме

• Проектировать граф агента с явными состояниями, политиками и точками валидации, а не «промпт в цикле while».
• Считать стоимость и задержку LLM-пайплайна и защищать экономику решения перед комиссией.
• Выстраивать защитный слой по OWASP LLM Top 10 и обосновывать его метриками, а не общими словами.
• Инструментировать систему через OpenTelemetry и строить дашборд, пригодный для эксплуатации.
• Оформлять архитектуру в нотациях C4/UML/BPMN и приводить документацию в соответствие с ГОСТ.

Источник: The least surprising chapter of the Manus story is what’s happening right now (опубликовано 2026-03-26)