Компании, активно внедряющие инструменты и сервисы искусственного интеллекта в свою работу, часто не готовы к потенциальным рискам и угрозам, которые могут выявить слабые места в их системах, – отмечают эксперты.
«Я не уверен, что они готовы», – заявил Пит Шоорд, руководитель отдела исследований в области кибербезопасности в Gartner. «По моему мнению, главная проблема заключается в том, что мы долгое время придерживаемся одних и тех же подходов, и это не дает желаемых результатов. Поэтому необходимо искать новые решения».
Внешние угрозы могут возникать, когда конфиденциальная информация попадает в большие языковые модели (LLMs) без должного контроля со стороны пользователей. Кроме того, инструменты искусственного интеллекта могут невольно загружать конфиденциальные файлы в общедоступные репозитории, например, в GitHub.
«Наибольшую опасность на данный момент представляет загрузка зашифрованных секретов через приложения, использующие методы "взлома", в GitHub, что может привести к несанкционированному доступу к данным компании», – подчеркнул Шоорд.
В связи с этим, компаниям необходимо принимать меры для выявления и предотвращения как внутренних, так и внешних угроз до их реализации. Это стимулирует интерес к инструментам управления поверхностью атак, которые позволяют оценивать внутренние и внешние системы для прогнозирования и предотвращения возможных атак.
Организации все чаще переходят от реактивного подхода – реагирования на угрозы только после их появления – к более проактивному. То есть, они начинают моделировать возможные сценарии атак и устранять потенциальные уязвимости заранее.
Например, инструменты для управления внешними угрозами могут сканировать общедоступные веб-сайты, репозитории файлов и социальные сети, чтобы выявить цифровые активы компании. Это могут быть поддельные веб-сайты, открытые серверы или файлы, содержащие конфиденциальную информацию.
После того, как организация получает информацию об угрозах, она может расставить приоритеты и принять меры по их устранению, координируя действия.
"Искусственный интеллект помогает на каждом из этих этапов, в первую очередь, за счет того, как поставщики анализируют поступающие данные, но и за счет того, как клиенты взаимодействуют с этими данными", – отмечает Эрик Ност, старший аналитик в Forrester.
Быстрое внедрение искусственного интеллекта в существующие ИТ-системы, зачастую с целью решения конкретных задач, может привести к проблемам с безопасностью. Особенно это касается малых и средних предприятий (SMB), поскольку крупные компании обычно уделяют больше внимания обнаружению и реагированию на киберугрозы, а у SMB таких ресурсов как правило меньше.
«В сети существует множество потенциальных уязвимостей», — отмечает Джек Голд, ведущий аналитик J. Gold Associates. «Большинство компаний больше сосредоточены на создании защиты от угроз, чем на выявлении существующих рисков».
SMB часто имеют ограниченные возможности, особенно из-за отсутствия внутренних систем контроля и нежелания или неспособности платить за услуги специализированным компаниям.
«Существуют компании, которые предлагают такие услуги крупным организациям, включая известные компании в сфере кибербезопасности, такие как Mandiant и CrowdStrike, но их услуги стоят недешево», — добавляет Голд.
Кроме того, компании отмечают рост технического долга, поскольку все больше и больше ИИ-агентов создаются и используются. Распространение этих агентов – многие из которых могут быть неэффективными или создавать новые уязвимости – создает дополнительные сложности в области безопасности.
Учитывая растущую распространенность киберугроз, сотни компаний предлагают широкий спектр решений, охватывающих такие направления, как сканирование на уязвимости, построение карт атак, анализ угроз и обеспечение безопасности на разных уровнях.
Среди наиболее известных игроков можно выделить компании Palo Alto Networks и CrowdStrike. Однако, есть и более специализированные фирмы, например, Tenable и Rapid7, которые сильны в мониторинге сетевой инфраструктуры, а Wiz, приобретенная компанией Google в марте, фокусируется на мониторинге облачных сред.
Некоторые продукты используют тактику "противник против противника".
"Существует технология под названием Thinkst Canary, которая работает как ловушка", – отметил Шорд. "Ловушки, как следует из названия, предназначены для привлечения злоумышленников, чтобы лучше понять их методы".
Хотя обнаружение угроз можно автоматизировать, устранение последствий требует использования других инструментов. "Автоматически решать эти проблемы невозможно. Важно тщательно анализировать вопросы, связанные с патчингом", – добавил Шорд.
