Искусственный интеллект: бурный рост и скрытые угрозы безопасности для бизнеса

Вопрос об интеграции искусственного интеллекта в повседневную работу уже не стоит — большинство компаний активно внедряют ИИ-инструменты. Однако новые данные от аналитической компании DigiCert, опубликованные совсем недавно, вызывают серьезную тревогу. Согласно исследованию, почти четыре из каждых пяти организаций (78%) уже столкнулись с инцидентами безопасности, связанными с ИИ, или выявили уязвимости в своих системах. И это происходит на фоне колоссальных инвестиций и растущего распространения таких решений.

Показательно, что, невзирая на эти риски, три четверти опрошенных компаний внедрили четыре и более ИИ-инструментов всего за последние полгода. А треть из них (35%) и вовсе развернули более десяти систем искусственного интеллекта за тот же период. Это подчеркивает стремительность процесса цифровизации, но одновременно обнажает его главную проблему — отставание в вопросах кибербезопасности.

Теперь компании сталкиваются с серьезным вызовом: как управлять и доверять ИИ, который они уже внедрили. Слова Брайана Трзупека, старшего вице-президента DigiCert, как нельзя лучше отражают суть происходящего: «Вопрос больше не в том, стоит ли организациям внедрять искусственный интеллект. Вопрос в том, могут ли они объяснить, управлять и доверять ИИ, который они уже развернули».

ИИ — головная боль для кибербезопасности

Проблема безопасности искусственного интеллекта комплексная и многогранная. Стремительное внедрение новых технологий ИИ без должного внимания к защите информации создает благоприятную почву для кибератак и утечек данных. У многих компаний отсутствует централизованная видимость того, какие ИИ-системы вообще работают в их инфраструктуре. Это затрудняет контроль и оперативное реагирование на угрозы. Фактически, организации часто не знают, какие «черные ящики» ИИ у них уже функционируют, что делает их уязвимыми перед неизвестными рисками. Только половина компаний имеют возможность полностью прослеживать результаты работы искусственного интеллекта до исходных моделей и данных, на которых они обучались — это критически важный аспект для понимания и аудита алгоритмов.

Еще один важный момент — это нехватка ресурсов и формализованных подходов. Несмотря на то, что 90% компаний обсуждают вопросы управления искусственным интеллектом на уровне руководителей или советов директоров, лишь 50% выделили специальные бюджеты на безопасность ИИ и внедрили формальные программы управления. Отсутствие четких политик и выделенных средств означает, что проблема часто остается на уровне дискуссий, а реальные действия запаздывают. Специалисты в области кибербезопасности бьют тревогу, ведь ИИ — это не просто новая программа, это сложная система, которая может не только оптимизировать процессы, но и стать серьезной точкой входа для хакеров. Риски возрастают в таких чувствительных секторах, как наука, высокие технологии, банковская сфера, телекоммуникации и розничная торговля, где утечки данных могут иметь катастрофические последствия.

Новые горизонты, новые риски: отслеживание автономных агентов

Помимо очевидных проблем, связанных с недостаточным контролем и финансированием, компании уже сейчас сталкиваются с новыми вызовами. В некоторых случаях они экспериментируют с присвоением ИИ-агентам собственных «идентичностей», аналогичных идентификаторам сотрудников. Идея состоит в том, чтобы улучшить отслеживаемость автономных действий искусственного интеллекта. Это открывает дверь для совершенно новых угроз. Если злоумышленники смогут скомпрометировать такой «ИИ-сотрудник», то получат доступ к системам с правами, предназначенными для полноценного работника, что значительно расширяет их возможности для нанесения вреда. В будущем это потребует еще более строгих механизмов аутентификации и авторизации для ИИ-сущностей, чтобы не допустить их использования в преступных целях.