Утечки данных
Автоматически обнаруживает и маскирует персональные и конфиденциальные данные в запросах и ответах модели
Runtime AI Security
Иммунная система для GenAI-приложений Иммунная система для GenAI-приложений
Комплексная безопасность корпоративного AI: защита данных, контроль поведения и противодействие атакам
Работает on-premise или в облаке
Партнеры
HiveTrace выявляет уязвимости LLM-систем и предотвращает их нежелательное поведение
Внедрение ИИ создает новый слой рисков, и именно его закрывает HiveTrace
Промпт-инъекции
В реальном времени выявляет и блокирует попытки обойти ограничения ИИ и заставить модель раскрыть закрытую информацию или выполнить нежелательные действия
Вредоносный контент
Проверяет ответы модели и предотвращает появление дискриминационных формулировок, стереотипов и другого нежелательного контента
Уязвимости агентных систем
Контролирует действия агентов, чтобы избежать ущерба
Как реализуется
Сотрудник может случайно передать в публичную LLM персональные данные, коммерческую тайну или внутренние документы. Данные также могут быть раскрыты из контекста, RAG-базы или системного промпта в результате атаки. При использовании зарубежных AI-сервисов передача ПДн может затрагивать требования к локализации и трансграничной передаче по 152-ФЗ.
Чем грозит
Передача ПДн во внешний AI-сервис может создать нарушение установленного в компании режима обработки данных и требования 152-ФЗ. При трансграничной передаче действуют отдельные требования ст. 12 закона о персональных данных, включая уведомление Роскомнадзора в предусмотренных законом случаях. Утечка также несёт риск административной ответственности, компрометации коммерческой тайны и репутационного ущерба.
Как помогает HiveTrace
DataClean обнаруживает и маскирует ПДн и другую чувствительную информацию до отправки запроса в LLM. HiveTrace можно развернуть on-premise и обеспечить обработку защищаемых данных в контролируемом контуре компании, а во внешнюю модель передавать уже очищенный текст. Политики позволяют отдельно определять, какие категории информации допустимо передавать конкретному AI-сервису.
Почему привычные средства ИБ не защищают ИИ
-
WAF и NGFW
Не понимают смысл текста и скрытые инструкции
-
DLP
Не видят контекст диалога и «мышление» LLM
-
IAM
Контролирует доступ людей, но не поведение модели
-
Встроенные guardrails LLM
Легко обходятся. Не защищают от бизнес-угроз
Внедрение ИИ создает новый слой рисков — и именно его закрывает HiveTrace.
Сценарии применения
Как HiveTrace помогает бизнесу
HiveTrace AI Firewall
Система сканирования и фильтрации для предотвращения атак и вредоносного поведения LLM
-
Защита от утечек данных
Модуль DataClean очищает данные от чувствительной информации в рантайме и офлайн: ФИО, СНИЛС, номера паспортов и кредитных карт, email, секреты, реквизиты юрлица, медицинские диагнозы и другое.
-
Встроенная защита от нарушения УК РФ
HiveTrace проверяет ответы модели и не допускает выдачи вредоносного контента: изготовление оружия, рецепты запрещенных веществ, побуждение к насилию, дискриминация и другое.
-
Guardrails из коробки
Предотвращение промпт-атак и джейлбрейков. Выявление атак, нацеленных на изменение поведения модели, кражу чувствительной информации и системных инструкций.
-
Клиентские политики
Гибкая настройка под специфику: ограничение тематики запросов, тональность ответов, запретные слова и словосочетания. Настройка в режиме промпта на естественном языке.
- Скоро
Мониторинг агентных систем
HiveTrace контролирует поведение агентных ИИ-систем с доступом к инструментам и API: отслеживает вызовы внешних сервисов, цепочки действий и решения агента, предотвращая несанкционированные операции.
Защита от утечек данных
Безопасный доступ к ИИ
Защита от утечек при использовании публичных ИИ-сервисов
Решение на основе HiveTrace позволяет сотрудникам пользоваться ChatGPT и другими публичными ИИ-сервисами для рабочих задач — с защитой от утечек персональных данных и конфиденциальной информации компании.
-
Централизованный портал для сотрудников
Доступ к ИИ-сервисам через единый корпоративный интерфейс. Все запросы и ответы проходят через мониторинг HiveTrace и находятся под контролем службы ИБ.
-
Контроль утечек в реальном времени
Система анализирует каждый запрос и ответ модели, автоматически выявляя и маскируя персональные данные, коммерческую тайну и другие чувствительные категории информации.
-
Гибкие политики под бизнес-контекст
Администратор сам определяет, какие типы данных считаются чувствительными: ПД, финансы, реквизиты, внутренние инструкции, медицинская информация. Политики настраиваются без кода.
HiveTrace Red
Система комплексной оценки устойчивости LLM через автоматизированные атаки
-
Поддержка многоязычных атак
Библиотека из 80+ атакующих техник на русском и английском с автоматическим переводом на другие языки. Проверка устойчивости к локализованным и международным сценариям атак.
-
Гибкая архитектура редтиминга
Модульная архитектура позволяет использовать SOTA-модели для генерации атак и оценки ответов. Работает с локальными LLM и моделями по API, поддерживает комбинации атак для многошаговых сценариев.
-
Воспроизводимость и контроль результатов
HiveTrace Red сохраняет все запросы, ответы, оценки и метаданные тестирований — это обеспечивает воспроизводимость редтиминга и упрощает подготовку отчетов.
Аудит AI-систем
Аудит безопасности ваших AI-систем
Проверяем, как ваше ИИ-приложение поведет себя против реального атакующего. Мы моделируем действия злоумышленника, проводим автоматизированное и ручное тестирование и выявляем уязвимости, которые не видны при стандартных Q&A-проверках.
Выявляем
- Успешные prompt injection и jailbreak атаки
- Отклонение модели от целевой логики
- Генерацию контента, нарушающего требования законодательства
- Уязвимость к адаптивным, многошаговым атакам
Артефакты проекта
- Оценка реального уровня риска
- Отчет с подтвержденными типами атак
- Чек-лист мер для повышения защиты LLM
По итогам аудита вы получаете понятную оценку уровня защищенности, примеры успешных атак и конкретные рекомендации, которые можно сразу внедрить.
Почему компании выбирают HiveTrace
Начали раньше рынка
Одни из первых в России начали системно исследовать атаки на LLM и агентные системы.
Контрибьюторы OWASP
Участвуем в разработке стандартов безопасности GenAI и Agentic AI.
RnD с академической средой
Плотно работаем с ИТМО и МФТИ. Привлекаем магистрантов к исследованиям и курируем Лабораторию безопасности ИИ.
Русскоязычные и локальные атаки
Зарубежные решения их пропускают. Мы тестируем и блокируем.
Red Teaming + Runtime Monitoring
Полный цикл: от выявления уязвимостей до контроля в продакшене.
Самое полное покрытие угроз
HiveTrace закрывает 7 из 10 угроз по методологии OWASP Top 10 for LLM.
Частые вопросы
HiveTrace работает с локальными моделями и моделями по API. Поддерживаются основные открытые и проприетарные LLM, а также возможность подключения вашей собственной модели.