OpenAI на этой неделе представила ряд мер, направленных на повышение доверия к своей работе в области безопасности и защиты данных. Компания сообщила о временном замедлении темпов разработки, приостановке обучения с подкреплением и предложении клиентам API с нулевым хранением данных.
В своем официальном заявлении, опубликованном во вторник, OpenAI заявила о временном замедлении развития, а также о приостановке обучения с подкреплением.
Эти меры были приняты одновременно с усилением и тестированием безопасности в исследовательском окружении OpenAI, а также с расширением системы мониторинга. Как пояснила компания, "наш самый масштабный запланированный эксперимент с обучением с подкреплением временно приостановлен. Мы проводим более мелкие эксперименты и оценки, чтобы оценить поведение модели, проверить наши меры безопасности и получить больше доказательств соответствия требованиям, прежде чем продолжить".
В заявлении OpenAI говорится, что компания "будет требовать более строгих доказательств соответствия требованиям на протяжении всего процесса обучения, опираясь на текущие исследования и оценки. Обеспечение соответствия требованиям все более мощных систем – задача, которую необходимо решать всему сообществу".
Компания также подчеркнула, что в последнее время предприняла ряд других мер по оптимизации своих процессов, включая разделение задач, сетевую изоляцию и "непрерывное тестирование безопасности".
Тем не менее, компания отметила, что новая система мониторинга потребует дополнительных затрат, составляющих "около 20% от вычислительных ресурсов, используемых для мониторинга, хотя фактическая стоимость может значительно варьироваться в зависимости от сложности задач обучения и оценки". Компания пообещала предоставить более подробную информацию о новой системе в ближайшем блоге.
Аналитики и эксперты считают, что эти меры, вероятно, были призваны укрепить позиции OpenAI перед предстоящим IPO.
Карми Леви, независимый аналитик в сфере технологий, оценил заявления как "продуманную стратегию для привлечения внимания общественности в условиях растущих опасений по поводу безопасности искусственного интеллекта. Это свидетельствует о том, что компания предпринимает какие-то шаги, даже если они, по сути, недостаточны. В отсутствие четких нормативных требований, обязывающих поставщиков, таких как OpenAI, уделять приоритетное внимание безопасности, двухнедельный перерыв – это, по сути, лишь попытка отвлечь внимание от критики".
Джейсон Андерсон, ведущий аналитик Moor Insights & Strategy, подтвердил эту тенденцию, отметив, что, по его мнению, "это, скорее, тактический шаг, предваряющий выход компании на IPO". Однако он предположил, что за этим могут скрываться и другие факторы. Компании будут продолжать активно инвестировать в искусственный интеллект, и "они будут наращивать темпы, пока не столкнутся с юридическими проблемами". После этого, вероятно, их инвестиционная активность снизится.
Тем не менее, он подчеркнул, что "единственный способ, которым крупные компании в сфере ИИ смогут добиться устойчивого успеха после выхода на IPO и обеспечить масштабирование – это углубленное сотрудничество с крупными корпорациями. И единственный способ добиться этого – это минимизировать риски и опасения".
Google и OpenAI разрабатывают Copilot с функцией полного удаления данных пользователя
В заявлении, опубликованном в среду, компания OpenAI не детализировала условия участия в программе, предполагающей обработку данных пользователей без их хранения. Однако, компания сообщила, что программа стартует в сентябре, и полные сведения будут представлены в технической статье.
Однако, Андерсен подчеркнул, что этот шаг следует рассматривать в контексте современных сложных отношений между поставщиками.
Существенная доля доходов OpenAI поступает не напрямую от крупных корпораций, а через партнеров, таких как Microsoft и AWS, – отмечает эксперт. "То есть, если вы используете, например, сервис Amazon Kiro, который может применять технологии OpenAI через API для разработки вашего приложения, не вдаваясь в технические детали, то Amazon выступает в роли клиента, а вы – клиентом Amazon. Если вы – крупная компания и хотите получить такую защиту (полное исключение хранения данных), вам необходимо предоставить свой собственный API-ключ для Kiro. В этом случае, компания становится прямым клиентом и получает доступ к защищенной среде. Amazon больше не имеет доступа к данным и, соответственно, теряет потенциальный доход".
Консультант Брайан Левин, исполнительный директор компании FormerGov, подчеркнул, что обеспечение надежного хранения данных осложняется не только техническими аспектами, но и особенностями самих процессов.
OpenAI утверждает, что теперь может автоматически выявлять случаи злоупотреблений в общении, не прибегая к ручному анализу данных сотрудниками. Это значительный технологический прорыв, поскольку традиционно контроль за злоупотреблениями и доступ к данным были взаимоисключающими. Подтверждением этого является еще не опубликованное исследование, – отметил представитель компании.
Кроме того, он подчеркнул, что «Zero никогда не может быть абсолютно безопасным, поскольку контент, помеченный как содержащий материалы сексуального характера, по-прежнему сохраняется для целей юридического расследования».
Флавио Виллануэстра, CISO (директор по информационной безопасности) компании LexisNexis Risk Solutions Group, придерживается иного мнения, полагая, что данная мера направлена на предотвращение возможных изменений в законодательстве.
«Скорее всего, компания предвидит приближение новых правил, которые могут существенно повлиять на их деятельность, и это может быть попыткой продемонстрировать стремление к саморегулированию, чтобы избежать более строгого законодательства в будущем», – заявил Виллануэстра.
Тем не менее, Майк Уилкс, ведущий специалист по информационной безопасности в компании Aikido Security, отметил: «Искренность – это не то же самое, что постоянство. В старинной скандинавской картине, изображающей огромного морского чудовища, скрывающегося под водой, можно было бы назвать это «Приостановить Кракен». Главный вопрос в том, какие условия должны быть соблюдены, прежде чем OpenAI решит снова выпустить эту функцию».
Добавил Джастин Сент-Морис, технический консультант в Info-Tech Research Group: «Кажется, OpenAI стремится получить признание за выполнение самых базовых задач, которые должна была выполнять любая крупная компания в сфере искусственного интеллекта».
«Если автопроизводитель объявит, что собирается серьезнее относиться к базовым испытаниям безопасности перед началом производства, это вызовет лишь недоумение. На самом деле, было бы неловко, что такая фундаментальная вещь нуждается в разъяснении для скептически настроенной публики», – сказал он. «Вопрос для меня в том, почему это необходимо объявлять сейчас, и стоит ли OpenAI придерживаться этой линии, если конкурент выпустит что-то, что сделает повторное выключение слишком дорогостоящим».
Эксперт посоветовал: "Не стоит воспринимать подобные сообщения как нечто само собой разумеющееся. Требуйте конкретные подтверждения того, что вы действительно получаете, а не просто обещания. Если поставщик может приостановить работу из-за проблем с безопасностью, и вы узнали об этом из блога, необходимо проверить, какие обязательства предусмотрены в вашем контракте.