Директор по продуктам безопасной разработки
Денис Макрушин
Онлайн-интенсив
Сразу внедрение
Безопасность ИИ-систем и агентов
Научишься внедрять ИИ-агентов в корпоративные процессы: моделировать угрозы, ограничивать их полномочия и контролировать работу с данными, API и кодом.
Разработчик
ИИ-помощника
ИИ-помощника
Глеб Михеев
ИИ-агент - это уже не просто чат-бот. Он получает доступ к коду, данным, API и внутренним системам, использует инструменты и самостоятельно выполняет действия.
Это создает принципиально новую поверхность атаки: утечки данных, prompt injection, избыточные полномочия, компрометацию инструментов и неконтролируемые действия агента. Классические практики AppSec и DevSecOps не закрывают эти риски полностью - их необходимо адаптировать под ИИ-системы.
Компании уже внедряют ИИ быстрее, чем успевают формировать правила его безопасности. В результате агенты получают доступ к данным и инфраструктуре раньше, чем появляются модели угроз, ограничения полномочий и контроль действий.
Ты сможешь внедрять ИИ не через запреты и бесконечные согласования, а через понятную архитектуру, управляемые доступы и проверяемые меры защиты.
Чему ты научишься
- Анализировать архитектуру LLM, RAG и ИИ-агентов и находить точки риска
- Строить модели угроз для ИИ-систем и корпоративных интеграций
- Проектировать доступы, полномочия и ограничения действий ИИ-агентов
- Безопасно подключать MCP-инструменты, API и корпоративные данные
- Проверять ИИ-системы в штатных и опасных сценариях
- Выстраивать мониторинг, реагирование на инциденты и AI Governance в компании
авторы интенсива
Практики, которые внедряют безопасную разработку и ИИ-инструменты в больших компаниях
Денис Макрушин
Глеб Михеев
Интенсив в цифрах
32
ак. часа
Общая продолжительность программы
4
модуля
От архитектуры и модели угроз до мониторинга и AI Governance
11
ак. часов
Практические занятия с преподавателем
21
ак. час
Самостоятельная работа над материалами и проектом
1
сквозной проект
Защищенный прототип ИИ-агента
2
инструмента
Подключишь к агенту, включая собственный MCP-инструмент
4
уровня работы
Спроектировать -> собрать -> проверить -> защитить
4 ключевых темы
1
Архитектура ИИ-систем и модель угроз
Разберешь, как устроены LLM-приложения, RAG-системы и ИИ-агенты, как они подключаются к корпоративным данным, API и внутренним сервисам.
Практика
- Построишь архитектурную схему ИИ-системы
- Определишь активы, потоки данных и границы доверия
- Выявишь основные сценарии атак
- Сформируешь модель угроз и меры защиты
2
Безопасность ИИ-агентов и MCP
Научишься управлять доступами и действиями агента, безопасно подключать инструменты и предотвращать выполнение опасных операций.
Практика
- Разработаешь инструмент на Python и FastMCP
- Настроишь разрешенные действия агента
- Ограничишь его полномочия и критические операции
- Проверишь работу в разрешенных и запрещенных сценариях
3
Secure AI SDLC
Разберешь, как использовать ИИ-ассистентов и coding-агентов в разработке без утечек кода, небезопасных зависимостей и неконтролируемых изменений.
Практика
- Подготовишь функциональные и негативные тесты
- Определишь обязательные проверки безопасности
- Сформируешь security gates для CI/CD
- Оценишь готовность ИИ-системы к внедрению
4
Runtime Security и AI Governance
Научишься контролировать ИИ-систему после запуска, отслеживать действия агентов и реагировать на инциденты.
Практика
- Сформируешь требования к мониторингу и журналированию
- Подготовишь сценарий реагирования на инциденты
- Определишь правила эксплуатации ИИ-системы
- Разработаешь минимальный AI Security Framework для компании
Сквозной проект и итоговая защита
В течение курса ты поэтапно соберешь защищенный прототип ИИ-агента и проверишь его работу в штатных и опасных сценариях. В финале защитишь проект: продемонстрируешь работу системы, обоснуешь выбранные меры безопасности и покажешь, как агент блокирует опасные действия и безопасно реагирует на нарушения.
Раннее бронирование
Сохрани 15 000 ₽
Забронируй участие в интенсиве
Оставь контакты, чтобы получить программу и зафиксировать стоимость участия.