Решение администрации Трампа о применении санкций к компании Anthropic за отказ использовать свою разработку Claude в целях домашнего наблюдения и создания автономного оружия, квалифицированное как угрозу национальной безопасности, было признано федеральным судьей необоснованным и произвольным.
Судья федерального округа Рита Лин заявила, что федеральные власти не имели законных оснований требовать от компаний, имеющих государственные контракты, отказаться от сотрудничества с Anthropic.
"Неоспоримые фактические данные свидетельствуют о том, что действия, оспариваемые, представляют собой незаконную месть, нарушающую Первую поправку, и что Anthropic была лишена необходимого процессуального надзора, предусмотренного Пятой поправкой", – заявила Лин в своем решении, назвав это решение "необоснованным и произвольным".
Судья подчеркнула, что действия правительства выглядят как наказание, и не основаны на реальных юридических рисках или угрозах национальной безопасности.
Слова и действия правительства "подтверждают, что действия, оспариваемые, были основаны на желании наказать Anthropic за её "высокомерие" в критике правительства, а не на каких-либо обоснованных причинах, чтобы убедиться, что Anthropic действительно представляет реальную угрозу", – написала Лин.
Судья заявила, что заявления правительства о якобы существующем страхе перед компанией Anthropic не имеют под собой оснований. Она подчеркнула, что политика использования, применяемая в работе Пентагона, представляет собой исключительно договорные ограничения. «Anthropic технически не может обеспечить соблюдение этих ограничений, и у компании отсутствует прямой доступ к тому, как Министерство обороны использует свои модели», – отметила судья.
Она также указала, что в официальных документах отсутствуют упоминания о каких-либо технологических средствах, которые могли бы позволить Anthropic создавать «задные двери» или, в противном случае, «отключать» или влиять на Claude во время операций Министерства обороны. «Anthropic предоставила неопровержимые доказательства того, что у компании нет никаких технологических средств для доступа или контроля над развернутыми моделями», – заключила судья.
Ранее сообщалось, что Министерство обороны США рассматривает возможность применения Закона о производстве вооружений к компании Anthropic, разработчику модели Claude. Это решение было принято после того, как компания столкнулась с обвинениями в том, что ее модель может быть использована для сбора информации или нарушения национальной безопасности.
Юристы, консультанты и аналитики, тщательно изучившие решение, пришли к выводу, что оно будет оспорено в суде, и, вероятно, дойдет до Верховного суда США.
Алан Вебер, вице-президент IDC по вопросам национальной безопасности, обороны и разведки, отметил, что решение Лин свидетельствует о том, что маркировка "[риск цепочки поставок]" использовалась в качестве инструмента мести после того, как Anthropic отказалась ослабить меры безопасности. Министерство обороны хотело, чтобы эти меры были отменены. Другими словами, государственный заказчик попытался применить обозначение «риск цепочки поставок» как средство давления в споре о поведении и применении модели, а не из-за реальной уязвимости.
CIO: Как новые инструменты Google, OpenAI и Copilot изменят IT-ландшафт
Решение суда вызывает опасения у ИТ-директоров, отмечая Веббер.
«Если ИТ-директор правительства опирается на договорные гарантии поставщика, то, по мнению суда, эти обязательства могут привести к тому, что риск-менеджмент должен предотвращать – исключению из списка», – заявил Веббер. Он также подчеркнул, что все, кто приостановил использование Claude или заморозил подконтракты из-за требований Министерства обороны, имеют право возобновить эти инициативы. «Однако, это не означает, что они сделают это, или даже должны, поскольку решение будет оспорено».
Кроме того, Веббер отметил, что конкурирующие компании, разрабатывающие искусственный интеллект, используют это решение в качестве аргумента при продаже своих продуктов. Теперь аргумент о том, что Anthropic представляет угрозу для цепочки поставок, «значительно ослаблен», что может привести к спорам при заключении контрактов.
Брайан Левин, консультант FormerGov, рекомендовал ИТ-директорам придерживаться проверенного подхода: оценивать все продукты исключительно на основе их функциональных возможностей.
Руководители ИТ-отделов должны уделять внимание внедрению передовых моделей искусственного интеллекта, которые наилучшим образом соответствуют потребностям их бизнеса, учитывая такие факторы, как эффективность, стоимость, безопасность и конфиденциальность данных. – заявил Джастин Грейс. – Компании, такие как Anthropic и Google, занимают слишком сильные позиции на рынке, чтобы реалистично конкурировать с ними. Кажется, что администрация уже отошла от этого конкретного спора.
Джастин Грейс, генеральный директор консалтинговой фирмы Acceligence, также отметил, что этот случай имеет серьезные последствия для руководителей ИТ-отделов и их решений в области искусственного интеллекта.
Федеральный судья отклонил переход от рассмотрения конкретного коммерческого и политического спора к широкой классификации рисков в цепочке поставок без достаточных технических обоснований и четкого процесса, – отметил Грейс.
"Суд постановил, что Anthropic не имеет возможности контролировать или изменять модели, развернутые в правительственных системах, и что правительство признало, что технология Anthropic не представляет собой существенно более высокий риск, чем аналогичные модели искусственного интеллекта", – сказал он.
Это различие, на мой взгляд, имеет огромное значение для руководителей в сфере ИТ и информационной безопасности», – отметил он. «По мере того, как искусственный интеллект все активнее внедряется в бизнес-процессы, фраза «Мы не доверяем поставщику» уже не может заменить четкую систему оценки рисков. Организациям необходимо уметь точно определить, какой именно технический риск существует, как он проявляется, какие меры защиты реализованы, и насколько эти меры соответствуют этому риску».
«Это особенно важно в контексте искусственного интеллекта», – добавил он. «Часто люди склонны объединять в одну категорию, называемую «риск, связанный с ИИ», разногласия по поводу поведения моделей, политики использования, этических аспектов, договорных ограничений и вопросов кибербезопасности».
Оригинальный указ правительства вызывает новые вопросы
Марк Раш, бывший федеральный прокурор и нынешний главный юрист компании Unit221B, специализирующейся на анализе угроз и консалтинге в области безопасности, отметил, что был удивлен быстрой реакцией государственных юристов в этом деле.
«Один из самых интересных моментов – это то, что, похоже, правительство фактически отказалось от каких-либо аргументов в пользу Anthropic. Они выдвигали ряд причин, но, когда дело дошло до их доказывания, они их отступили», – заявил Раш.
Однако, он подчеркнул, что требование правительства всем государственным подрядчикам избегать сотрудничества с Anthropic также вызывает вопросы.
«Одно дело – сказать «Мы не будем сотрудничать с вами». Другое – сказать «Никто, с кем мы сотрудничаем, тоже не сможет сотрудничать с вами». – сказал Раш. «Это означает, что если администрация не одобряет вашу деятельность, они не просто откажутся в сотрудничестве. Они скажут, что с вами никто не сможет работать».
Суд рассмотрит дело о правах авторов, опираясь на новые аргументы
Раш прогнозирует, что судебные разбирательства в Верховном суде будут иметь иную направленность, и, возможно, не будут касаться отсутствия доказательств.
«В Верховном суде, основная аргументация правительства будет заключаться не в том, что «Мы правы, и это представляет риск для цепочки поставок», а в том, что «Вопрос о том, правильно ли мы поступили, не имеет значения. Мы сами определяем, кто представляет угрозу национальной безопасности, а не суд».
Это означает, что судьи Верховного суда могут не рассматривать вопрос о том, правильно ли правительство приняло решение, а сосредоточиться на вопросе о том, обладает ли правительство неограниченной властью в определении, кто представляет угрозу национальной безопасности.