BEC
Не секрет, что в последнее время злоумышленники активно пытаются оптимизировать свой труд при помощи больших языковых моделей. За счет этого многочисленные фишинговые и вредоносные рассылки, нацеленные на организации, стали значительно более качественными: в них стало меньше бросающихся в глаза ошибок, да и стиль переписки теперь действительно похож на деловой. Но в схемах их применения всегда остается четкий признак: попытка похитить учетные данные или запуск вредоносного кода. Сложнее ситуация с атаками типа Business Email Compromise (BEC).
BEC-атаки, как правило, целиком основаны на приемах социальной инженерии и сводятся к тому, что необходимые атакующим действия выполняет легитимный сотрудник. И да, с появлением языковых моделей они тоже изрядно прибавили в качестве. При этом если уловки злоумышленников сработают и им удастся, к примеру, убедить сотрудника компании совершить перевод на посторонний счет вместо счета подрядчика, то в результате BEC-атаки компания может в одну минуту потерять реальные деньги. Поэтому мы сделали специальную технологию для детектирования BEC-писем, сгенерированных при помощи искусственного интеллекта.
Пример сгенерированного при помощи LLM BEC-письма
Как работает технология для детектирования BEC-писем, сгенерированных ИИ
Попробую объяснить, как именно работает новая технология, не вдаваясь в технические детали. Как известно, большие языковые модели не придумывают текст в том смысле, как это делает человек. Они скорее предсказывают слова, которые могли бы соответствовать задаче, поставленной в промпте. При этом злоумышленники идут по пути наименьшего сопротивления: велосипед они не изобретают и ИИ-модели используют самые распространенные.
Ну а поскольку конечная задача злоумышленников очевидна, мы смогли, по сути, извлекать из применяемых в атаках текстов ключевые фразы, характеризующие BEC-письма. Плюс научились определять, что текст в принципе создан машиной. На этих признаках мы и построили технологию детектирования. Так что теперь наше защитное решение может выявлять и блокировать попытки BEC-атак на начальном этапе, то есть до того, как у злоумышленника появится шанс обмануть сотрудника компании. На данный момент технология позволяет детектировать сгенерированные ИИ BEC-письма на английском, русском, немецком, французском, итальянском, испанском, португальском и турецком языках.
Где реализована технология детектирования BEC-писем, сгенерированных ИИ
В нашем арсенале решений для защиты организаций есть Kaspersky Security для почтовых серверов, в состав которого входит приложение Kaspersky Secure Mail Gateway — безопасный шлюз электронной почты. Именно на его стороне и реализована технология детектирования ИИ-BEC, которая доступна в рамках свежего обновления KSMG 3.1 в лицензии KSMS Plus. Узнать подробнее о нашем решении для защиты почты и функциях, добавленных в последнем обновлении, можно на официальной странице Kaspersky Security для почтовых серверов.
Советы