Model Context Protocol (MCP) уже стал стандартом для подключения внешних инструментов к AI-агентам. Но вместе с удобством появляется новый класс атак. Большинство разработчиков проверяют код MCP-сервера. Почти никто не проверяет описания инструментов (tool description), хотя они являются частью промпта, который читает модель. А значит могут содержать скрытые инструкции.

Главное обновление версии - теперь HiveTrace поддерживает работу с файлами. Также мы добавили мониторинг вызовов инструментов AI-агентов, поддержку новых API, расширили возможности DataClean и переработали детализацию сессий. Рассказываем, что вошло в релиз.

Недавно мы представили HiveTrace Red – инструмент для комплексного тестирования безопасности LLM-моделей и GenAI-систем. Решение автоматически имитирует действия злоумышленника и выявляет уязвимости до того, как система попадет в продакшен. Вместе с этим запустили программу, которая позволит интеграторам предложить рынку новый уникальный вид услуг.

Мы продолжаем активно развивать систему LLM-мониторинга, отвечаем на запросы рынка и обратную связь от партнёров и клиентов. В обновлённой версии HiveTrace 4.0 мы учли накопленный опыт использования и закрыли сразу несколько важных запросов. В этой статье расскажем, что вошло в новый релиз, какие произошли изменения и зачем это нужно.

HiveTrace включили в реестр OWASP AI Security Solutions Landscape для агентного ИИ за третий квартал 2025 года. Это список инструментов, которые помогают решать задачи безопасности ИИ-систем, в том числе те, что описаны в OWASP Top 10 для LLM.