Мы разработали guardrail-классификатор, который проверяет входящие запросы пользователей и ответы языковой модели по 15 категориям риска — до того, как контент дойдёт до пользователя или до основной модели. Модель работает на русском и английском, устойчива к обходу фильтров и стоит $0.062 за миллион запросов на одной видеокарте. Рассказываем, как она устроена, как показала себя против 9 открытых решений и где ошибается.

Model Context Protocol (MCP) уже стал стандартом для подключения внешних инструментов к AI-агентам. Но вместе с удобством появляется новый класс атак. Большинство разработчиков проверяют код MCP-сервера. Почти никто не проверяет описания инструментов (tool description), хотя они являются частью промпта, который читает модель. А значит могут содержать скрытые инструкции.

Главное обновление версии - теперь HiveTrace поддерживает работу с файлами. Также мы добавили мониторинг вызовов инструментов AI-агентов, поддержку новых API, расширили возможности DataClean и переработали детализацию сессий. Рассказываем, что вошло в релиз.

Недавно мы представили HiveTrace Red – инструмент для комплексного тестирования безопасности LLM-моделей и GenAI-систем. Решение автоматически имитирует действия злоумышленника и выявляет уязвимости до того, как система попадет в продакшен. Вместе с этим запустили программу, которая позволит интеграторам предложить рынку новый уникальный вид услуг.

Мы продолжаем активно развивать систему LLM-мониторинга, отвечаем на запросы рынка и обратную связь от партнёров и клиентов. В обновлённой версии HiveTrace 4.0 мы учли накопленный опыт использования и закрыли сразу несколько важных запросов. В этой статье расскажем, что вошло в новый релиз, какие произошли изменения и зачем это нужно.

HiveTrace включили в реестр OWASP AI Security Solutions Landscape для агентного ИИ за третий квартал 2025 года. Это список инструментов, которые помогают решать задачи безопасности ИИ-систем, в том числе те, что описаны в OWASP Top 10 для LLM.