В журнале «Риск-менеджмент в кредитной организации» вышла статья Евгения Кокуйкина, основателя HiveTrace, и Александра Гришканича, генерального директора ФокстехЛаб.
Авторы разбирают, как меняется модель угроз по мере перехода от использования внешних LLM к собственным RAG-системам и AI-агентам: от prompt injection и утечек данных до ситуаций, когда агент самостоятельно выполняет потенциально опасные действия.
Одна из важных мыслей статьи:
Действия агента, совершенные от имени банка, могут быть расценены как прямое действие (или бездействие) оператора.
Все публикации о HiveTrace в СМИ мы собираем в отдельном разделе на сайте: