Растущее напряжение между лидерами в сфере искусственного интеллекта, касающееся обеспечения безопасности всё более мощных моделей, оказывает влияние на работу корпоративных IT-отделов. Это, в свою очередь, влияет на то, как организации получают доступ, внедряют и контролируют системы искусственного интеллекта.
Последний серьёзный спор возник после того, как генеральный директор Meta, Марк Цукерберг, призвал к привлечению независимых экспертов для оценки моделей искусственного интеллекта, выступив против призывов конкурентов замедлить разработку или усилить координацию.
"Доверие и согласованность становятся ключевыми факторами, которые будут отличать успешных игроков на рынке. Любая лаборатория, не уделяющая внимания этим аспектам, рискует отстать", – написал Цукерберг в своём посте в X.
"Привлечение независимых экспертов и консультантов – это общепринятая практика в отрасли", – добавил он, отметив, что Meta уже применяет этот подход в ряде направлений.
Эти заявления стали частью дискуссии, инициированной лидерами отрасли, включая Дарио Амодей, который призвал к более осторожному подходу к разработке, и Саму Альтман, предложив сотрудничество в области стандартов безопасности.
Обсуждение вокруг потенциального неправомерного применения передовых систем искусственного интеллекта вновь обострилось после того, как исследовательские центры и представители власти поделились информацией о возможных рисках. Компания Anthropic заявила о введении ограничений на использование своих моделей Claude в чувствительных сферах. В свою очередь, OpenAI активно взаимодействует с представителями власти, обсуждая вопросы, связанные с рисками, возникающими в связи с развитием искусственного интеллекта, – как сообщают источники, ссылаясь на заявления и отчеты компании.
Компании выражают обеспокоенность по поводу новых технологий
Несмотря на то, что обсуждение часто сводится к выбору между замедлением инноваций и усилением контроля, эксперты считают, что компаниям следует уделять меньше внимания выбору конкретного подхода, и больше – его практическим последствиям.
«Различные подходы к обеспечению безопасности сделают доступ к передовым моделям искусственного интеллекта менее предсказуемым, а не приведут к общему замедлению развития», – заявил Сушован Мукхопадхай, директор-аналитик в Gartner. По его словам, поставщики, вероятно, будут использовать различные графики выпуска, различать доступность в разных регионах, устанавливать разные уровни доступа и ограничения использования. Это означает, что компании столкнутся с аналогичными возможностями, но в разное время и в существенно отличающихся условиях.
Мукхопадхай рекомендует компаниям учитывать возможность изменений в доступе к технологиям, а не предполагать постоянную доступность от разных поставщиков или в разных регионах.
«Я считаю, что эта неделя стала переломным моментом, когда передовой искусственный интеллект превратился в управляемый ресурс», – заявил Бхупендра Чопра, главный финансовый директор в Kanerika. «В течение последних трех лет руководители ИТ могли рассчитывать на то, что следующая модель появится автоматически. Теперь же, модель передового ИИ ведет себя больше как критически важный компонент, сроки поставки которого частично зависят от отзывов экспертов и правил экспорта».
Чопра отметил, что «любая дорожная карта развития искусственного интеллекта, разработанная на основе конкретной модели и предполагающая определенную дату ее реализации, несет в себе риски, которые не были учтены в ее стоимости».
Давление на безопасность растет, несмотря на замедление темпов развития ИИ
Аналитики отмечают, что, скорее всего, временное замедление разработки искусственного интеллекта не окажет существенного влияния на риски в корпоративном секторе, особенно учитывая стремительное распространение моделей с открытым исходным кодом.
"Главное – не сама пауза, а то, что руководители компаний, работающих в сфере искусственного интеллекта, пришли к соглашению", – заявил Никхил Гупта, основатель и генеральный директор ArmorCode.
Гупта подчеркнул, что ландшафт угроз уже изменился. "Даже если компании временно приостановят разработку, модели искусственного интеллекта с открытым исходным кодом уже доступны", – отметил он. "Я не уверен, что замедление работы некоторых компаний существенно повлияет на возможности злоумышленников".
"Даже если разработка искусственного интеллекта замедлится завтра, обеспечение безопасности должна развиваться в ускоренном темпе", – добавил Гупта. "Задача обеспечения безопасности этих систем стала в десять раз сложнее".
Появился новый уровень "гарантии безопасности" для ИИ
Акцент на оценке рисков стимулирует появление нового уровня проверки систем искусственного интеллекта, осуществляемого независимыми экспертами.
«Скорее всего, появится четкий стандарт проверки систем ИИ, но компании не стоит ожидать, что единая сертификация гарантирует полную безопасность», – отметил Мухопадхей. «Риски для бизнеса также зависят от используемых данных, инструкций к системе, инструментов, агентов и мер контроля».
Чопра предупреждает о возможности неправильного толкования таких оценок. «Команды закупок могут увидеть заключение независимого эксперта и ошибочно полагать, что модель полностью проверена», – сказал он. «В будущем это может стать формальной процедурой».
Вместо этого, эксперты рекомендуют компаниям проводить собственные проверки. «Руководители ИТ-отделов, которые будут самостоятельно тестировать каждую новую ИИ-модель на собственных данных, получат значительное преимущество».
Фрагментация затрудняет реализацию стратегий, использующих несколько моделей ИИ
Для руководителей информационных служб, работающих с несколькими поставщиками, различия в подходах разных компаний могут усугубить существующие сложности.
"Разнообразие уже было обычным явлением. Углубление этих различий лишь создает новые проблемы", – отметил Чопра.
Он подчеркнул, что наибольший риск возникает в периоды перемен. "Для компаний, использующих несколько подходов, опасность заключается в передаче ответственности", – сказал он. "Когда один из подходов оказывается неэффективным или заменяется другим, вся система может работать непредсказуемо".
"Я бы рекомендовал отдать предпочтение замене непроверенного подхода, а не зависимости от конкретного поставщика", – заявил Чопра.
Гупта отметил важность использования открытых архитектур. "Необходимо, чтобы фреймворк был открытым, а не привязанным к одному поставщику", – сказал он.
Мухопадхей добавил, что организации должны быть готовы к ситуации, когда определенные модели станут недоступными или их использование будет ограничено.
ИТ-директорам рекомендовано укреплять устойчивость бизнеса
Аналитики прогнозируют, что компаниям потребуется разрабатывать стратегии использования искусственного интеллекта, учитывающие изменяющиеся условия: доступность, стоимость и нормативные требования.
«Для критически важных приложений, руководители ИТ-отделов должны четко разделять управление приложением и бизнес-логику от самой модели ИИ», — подчеркнул Мухопадхай.
Чопра акцентировал внимание на важности гибкости. «Создание промежуточного уровня маршрутизации между приложением и поставщиком модели ИИ позволяет легко переключаться между различными решениями, фактически сводя процесс к настройке», — отметил он, добавив, что в контракты должны быть включены сроки обновления или замены используемых моделей.
Он также обратил внимание на вопросы ценообразования. «Ограниченный доступ к передовым технологиям ИИ начинает приводить к дополнительным расходам», — отметил Чопра.
