Большинство отраслевых прогнозов основаны на рациональной экстраполяции
По мере развития цифровых систем возникают риски, которые выходят за рамки традиционных киберугроз. Главный технологический эксперт «Лаборатории Касперского» Александр Гостев представил сценарии «серых лебедей» — возможных событий, которые в будущем могут существенно изменить сферу кибербезопасности.
«Большинство отраслевых прогнозов основаны на рациональной экстраполяции — те же угрозы, те же векторы атак, только в большем масштабе. В этом анализе преследовалась другая цель. Данные сценарии — не предсказания того, что произойдёт в следующем году, а структурированные мысленные эксперименты о том, что может произойти, если некоторые из наших основных технических предположений не сбудутся. Они занимают среднее положение между обычными прогнозами и полноценными „чёрными лебедями” — их сложно смоделировать, но они потенциально могут серьёзно повлиять на развитие отрасли», — комментирует Александр Гостев.
Рассинхронизация времени — атака на NTP
Практически все современные цифровые операции — от финансовых транзакций и промышленной автоматизации до мониторинга безопасности и реагирования на инциденты — зависят от точного и синхронизированного времени. Его обеспечивают серверы Network Time Protocol (NTP). Также существует иерархия доверенных источников времени.
Злоумышленники могут атаковать первичные источники времени, например атомные часы в лабораториях или спутники GPS, что создаст новую категорию системных цифровых рисков. Не искажая время сильно, они могут вносить минимальные, нерегулярные аномалии, которые через NTP будут распространяться на миллионы серверов и устройств по всему миру.
Однако даже незначительные отклонения могут привести к расхождениям временных меток транзакций в финансовых системах, сбоям в процессах клиринга и расчётных операций, аннулировать сертификаты шифрования. Кроме того, это может поставить под угрозу целостность логов безопасности. В результате организациям станет сложнее сопоставлять события и анализировать инциденты, поскольку их нельзя будет точно выстроить в хронологическом порядке.
При таком сценарии мир столкнётся не с самим отсутствием времени — а потеряет единый и надёжный источник о нём, что разрушит основу, необходимую для координации любых сложных цифровых систем.
Утрата цифровых данных и знаний
Ещё один долгосрочный риск — постепенное устаревание больших объёмов данных, накопленных с 1970-х по 2020-е годы. Значительная часть этой информации содержится в проприетарных базах данных, файлах устаревших форматов и программных средах, а также на физических носителях, таких как магнитные ленты, жёсткие и оптические диски. Со временем это может привести к появлению «цифровых островов» — огромных массивов данных, для которых не осталось ни подходящего ПО, ни квалифицированных специалистов, способных с ними работать.
Усугубляет ситуацию физическая деградация носителей, которая делает восстановление всё более сложным или технически невозможным. Использование ИИ-инструментов поможет решить эту проблему лишь отчасти, поскольку они в основном ориентированы на современные форматы.
Если не принимать активных мер, это может привести к частичной, но уже необратимой утрате цифровых исторических источников, научных исследований и других знаний.
Кризис интеллектуальной собственности в связи с использованием ИИ
Искусственный интеллект существенно ускоряет путь к научным открытиям. При этом корпорации всё чаще патентуют не только конкретные устройства, но и широкие классы методов и алгоритмов, разработанных с помощью ИИ. В некоторых областях, таких как биомедицина, химия, материаловедение, это может создавать множество дублирующих друг друга претензий на право интеллектуальной собственности.
Если несколько крупных ИИ-систем, обученных на схожих данных, выработают похожие высокоэффективные методы в какой-то перспективной области — например, лечении онкологических заболеваний или создании новых сверхпроводников — это создаст серьёзные риски. Такая ситуация приведёт к правовой неопределённости, связанной со свободой использования подобных разработок, и противостоянию между разными компаниями. Это может коснуться и научных исследований — поэтому университеты и независимые лаборатории могут перестать заниматься какими-то направлениями, опасаясь рисков. В таком случае может быть приостановлено финансирование, а публикации, испытания и внедрение разработок на реальном производстве — отложены или вовсе прекращены.
Кроме того, существующие системы защиты интеллектуальной собственности могут испытывать сложности в определении, что является независимым открытием, а что — результатом автоматизированной генерации. Это может не только затормозить прогресс, но и в целом сформировать необходимость в пересмотре самой модели интеллектуальной собственности в эпоху ИИ.
Пересмотр отношения к ИИ
На искусственный интеллект возлагают большие надежды: наблюдается стремительный рост инвестиций, который связан с представлениями о скором появлении общего искусственного интеллекта (artificial general intelligence, AGI) и кардинальном увеличении производительности. Потенциальный «серый лебедь» заключается в растущем разрыве между ожиданиями и экономическими результатами, как это было в случае с другими технологическими пузырями.
Это будет не одномоментный технологический крах, а серия громких разочарований: например, неэффективное внедрение ИИ в таких сложных областях, как логистика и медицина, или публикация отчётности корпораций о том, что инвестиции не окупились в должной мере. Фокус инвесторов может сместиться с долгосрочной перспективы на получение краткосрочной прибыли.
Высокие затраты, ограниченная масштабируемость без активного участия человека, а также зависимость от общей облачной инфраструктуры могут выявить структурные недостатки в больших сегментах ИИ-стартапов.
По мере перераспределения капитала рынок, вероятно, сосредоточится на проверенных вариантах, имеющих практическое применение, таких как облачная инфраструктура, специальные модели под конкретные задачи, антифрод, рекомендательные системы и другие узкоспециализированные приложения.
Искусственный интеллект как технология по-прежнему будет интегрироваться в разные отрасли, однако ожидания от него могут стать более сдержанными, фокус сместится на инженерные задачи, а также изменится подход к инвестициям с учётом рисков.
Внезапный коллапс криптографии из-за математического прорыва
Внимание сообщества кибербезопасности приковано к «известной неизвестности» — отдалённой угрозе со стороны квантовых компьютеров, которые потенциально когда-то смогут взломать современные ассиметричные алгоритмы. К этому заранее готовятся, разрабатывая и внедряя постквантовую криптографию.
Однако «серым лебедем» может стать вовсе не это, а внезапное математическое открытие в области теории чисел, которое кардинально упростит решение таких задач, как факторизация или дискретные логарифмы, на обычных классических компьютерах. Если такой алгоритм будет опубликован, он может мгновенно подорвать математические основы широко используемых асимметричных криптографических систем, включая RSA и криптографию на основе эллиптических кривых. В таком случае резко исчезнет возможность делать предположения в области безопасности, из-за чего существующие средства защиты стали бы неэффективными.
При таком сценарии инфраструктура открытых ключей (PKI), лежащая в основе TLS-соединений, цифровых подписей и шифрования, быстро потеряет доверие. Весь защищённый трафик, когда-либо перехваченный и сохранённый, станет потенциально расшифрованным. А организации окажутся в ситуации, для которой нет готового плана — и тогда начнётся хаотичный и поспешный переход на альтернативные криптографические алгоритмы, которые ещё не стандартизированы и не проверены в реальных условиях.
Киберэкотерроризм
Это атаки не ради выкупа или остановки работы какого-то предприятия, а для скрытого нанесения долгосрочного ущерба. Например, взлом систем управления на химическом заводе может привести к незаметным, но постоянным выбросам веществ в небольших количествах в природные экосистемы. Это может оставаться незамеченным в течение длительного времени, пока ущерб окружающей среде уже не станет явным.
Атаки на вторичные или вспомогательные системы, такие как системы климат-контроля в центрах обработки данных, могут вызвать каскадные сбои. Перегрев и отключения в центрах обработки данных могут нарушить работу облачных сервисов, которые важны для функционирования логистики, городской инфраструктуры, коммунальных услуг и государственных служб.
Цифровая изоляция национальных сегментов интернета
На протяжении многих лет фрагментация глобального интернета на национальные и региональные сегменты обсуждалась как постепенный процесс, обусловленный политическими решениями. Однако вероятен и более кардинальный сценарий, когда цифровая изоляция происходит вынужденно, в результате скоординированного внешнего давления.
При таком сценарии коалиция стран может применить комплекс технических и инфраструктурных мер, включая масштабные манипуляции с протоколом BGP, аннулирование критически важных сертификатов, физический саботаж подводных кабелей в критических точках. Целью будет не просто атака, а цифровая блокада, которая «загонит» предприятия, государственные службы и технологические платформы в ограниченные, замкнутые экосистемы. Восстановление может занять годы, что может ускорить кибербалканизацию и отразиться на цифровой торговле, инновациях и технологическом суверенитете.
Считается, что глобальная сеть слишком децентрализована и устойчива для такого сценария. Однако концентрация критической инфраструктуры (корневые серверы DNS, основные сертификационные центры, магистральные кабели) в реальности создаёт уязвимые точки, давление на которые может быть скоординировано в беспрецедентных геополитических условиях.
Системные сбои в работе космической инфраструктуры после экстремального солнечного явления
Ожидается, что к середине 2030-х годов на низкой околоземной орбите будут размещены десятки тысяч коммерческих спутников, образующих инфраструктуру для навигации, синхронизации, связи и наблюдения за Землёй из космоса. Для её функционирования важны точное время, GPS и предсказуемая космическая среда.
Сценарий «серого лебедя» может возникнуть, если в современную цифровую эпоху произойдёт солнечный супершторм, сравнимый по интенсивности с Событием Кэррингтона 1859 года. Подобное событие может значительно усилить атмосферное сопротивление на низкой околоземной орбите, стать причиной сбоя сигналов GPS, перегрузить наземные станции радиопомехами, вызвать масштабные аномалии со спутниками, привести к активации безопасного режима.
Это может вызывать целый ряд системных проблем, к которым можно отнести нестабильность орбиты, повышенную вероятность столкновений. Причём на Земле интенсивность таких последствий будет нарастать. Например, навигационные системы больше нельзя будет использовать в критических системах, в энергосетях могут происходить каскадные отказы, вызванные геомагнитными токами. Также могут пострадать отрасли, зависящие от спутниковых данных, такие как логистика и сельское хозяйство.
Доступ в космос в таком случае не прекратится, но станет дорогим и рискованным. Орбита перестанет быть надёжной инфраструктурой и на долгие годы превратится в зону повышенного риска. Это заставит государства и отдельные отрасли пересмотреть своё отношение к космическим услугам как к основе современной цифровой цивилизации, а также попытаться снизить зависимость от них.
