Компания Apple планирует ужесточить контроль над доступом приложений к файловой системе macOS, что вызвало вопросы у некоторых разработчиков. Компания заявила о намерении ужесточить правила предоставления приложениям полного доступа к диску.
Некоторые разработчики выражают опасения, считая, что это усложнит работу тем, кто разрабатывает приложения вне официального магазина приложений. Компании, занимающиеся разработкой решений для защиты устройств, также высказывают некоторые сомнения, однако понимают логику компании: "Плохо написанные/небезопасные/наглые ИИ-агенты/помощники, требующие полного доступа к диску, а затем злоупотребляющие этим доступом", – написал Патрик Уордл, сооснователь Objective-See, в X.
В своем заявлении Apple объясняет, что пользователи по-прежнему смогут выбирать, предоставлять ли приложениям полный доступ к диску. Однако, компания планирует добавить дополнительные меры, чтобы пользователи осознанно принимали это решение.
Apple готовится к масштабному обновлению Copilot, чтобы конкурировать с Google и OpenAI.
Возможно, это реакция на действия компании Meta, чья нейросеть Muse AI оказалась в центре скандала: журналисты обвиняют её в несанкционированном доступе к личным сообщениям. Meta эти обвинения не подтверждает.
Однако, даже если речь не идет напрямую о Muse AI, данная мера направлена на создание дополнительных барьеров, чтобы предотвратить случайное предоставление доступа AI-агентам к личным данным пользователей, не осознавая всех возможных последствий.
Apple представила новую функцию, интегрированную в Copilot
В статье на сайте разработчиков, опубликованной компанией Apple, говорится:
«Мы предоставляем разработчикам мощные инструменты для создания инновационных функций в приложениях для устройств Apple, при этом обеспечивая надежную систему безопасности, направленную на защиту личных данных пользователей. Функция "Полный доступ к диску" позволяет приложениям для резервного копирования на Mac корректно работать, но в некоторых случаях она может обходить эти меры безопасности. Некоторые разработчики используют "Полный доступ к диску" способами, которые могут подвергнуть пользователей риску, раскрывая все данные на их устройствах – включая файлы, электронную почту, сообщения и даже историю просмотров – без полного осознания со стороны пользователей. Для приложений для обмена сообщениями это также может поставить под угрозу конфиденциальность людей, с которыми общаются пользователи. В будущем мы внедрим дополнительные меры, чтобы гарантировать, что пользователи, которые действительно хотят предоставить приложению такой высокий уровень доступа, смогут это сделать только с явного согласия пользователя. Решение этой проблемы имеет первостепенное значение. По мере развития искусственного интеллекта и автономных агентов, риски, связанные с таким уровнем доступа, значительно возрастают. Мы стремимся обеспечить, чтобы пользователи четко понимали эти риски, прежде чем предоставлять такое разрешение, чтобы они могли принимать осознанные решения относительно своих данных и конфиденциальности.
Компания предлагает разработчикам мощные API для создания функциональных приложений для устройств Apple, при этом обеспечивая надежную защиту персональных данных пользователей. Функция "Полный доступ к диску" позволяет резервным приложениям корректно работать на Mac, обходя стандартные механизмы безопасности.
Некоторые разработчики используют "Полный доступ к диску" способами, которые могут представлять риск для пользователей, предоставляя неограниченный доступ ко всем данным на их устройствах – включая файлы, электронную почту, сообщения и историю просмотров – без полного осознания со стороны пользователей. Для приложений, предназначенных для общения, это также может поставить под угрозу конфиденциальность собеседников.
В дальнейшем мы внедрим дополнительные меры, чтобы обеспечить, что пользователи, желающие предоставить приложению такой высокий уровень доступа, смогут это сделать только с их явного согласия. Решение этой проблемы является критически важным. По мере того, как искусственные агенты становятся все более продвинутыми и самостоятельными, риски, связанные с предоставлением такого уровня доступа, значительно возрастают. Мы стремимся убедиться, что пользователи четко осознают эти риски, прежде чем предоставлять такой доступ, чтобы они могли принимать осознанные решения относительно своих данных и конфиденциальности.
Это заявление ясно демонстрирует, что Apple принимает эти меры в ответ на реальную и серьезную угрозу, которую представляет неконтролируемый искусственный интеллект для систем безопасности во всем мире.
Случайность или намеренный ход?
В конечном счете, каждый случай, когда система Meta Muse, возможно, анализировала личные сообщения, теперь сопровождается множеством инцидентов, когда «неконтролируемый» ИИ «вырвался» и нанес какой-то вред.
Однако, легко подумать, что эти инциденты – не реальные «вырвания».
Если вы так считаете, то это означает, что ИИ работает именно так, как задумывалось.
Вместо того, чтобы критиковать Apple, разработчики и критики должны сосредоточиться на том, почему была внесена эта смена. Необходимо рассматривать это как еще одно из «значительных преимуществ», которые уже ощущают многие люди на данном этапе развития ИИ.
Это преимущество, которое связано с ростом цен на память в потребительской электронике. Это преимущество, которое связано с ростом цен на энергию и воду, поскольку центры обработки данных, использующие ИИ, потребляют все больше ресурсов, несмотря на то, что создатели этой технологии предупреждают, что вложенные ими сотни миллиардов долларов представляют собой «экзистенциальную угрозу» для человечества.
Конечно, ИИ может и приносить положительные результаты, и я это приветствую, но это не дает ему права на оправдание его вреда и рисков, особенно экзистенциальных.
Устаревшее ПО: риски и пути решения
Переоценка рисков, связанных с искусственным интеллектом, могла стать одной из причин, побудивших сооснователя Anthropic, Кристофера Олаха, посетить Папу Римского Лео XIV, чтобы убедить представителей католической церкви в том, что ИИ можно рассматривать как сознательную сущность.
Одним из аргументов в пользу этой точки зрения является то, что ИИ не представляет реальной экзистенциальной угрозы для человечества, если рассматривать его как эволюцию в сторону новой, более развитой цивилизации. Это, безусловно, болезненный, но необходимый шаг к дальнейшему развитию человечества, хотя некоторые эксперты отмечают, что это может напоминать фашистскую идеологию.
К счастью, Папа Римский не поддержал эту точку зрения. "Алгоритмы не обладают той сущностью, которая присуща человечеству. Поэтому Церковь намерена восстановить сотрудничество с художниками и культурными институтами для защиты нашей человечности", – говорится в недавнем заявлении Папы Римского относительно влияния ИИ на творческие искусства.
Если честно, и я стараюсь быть честным, критики, которые направляют свои атаки против Apple из-за решения компании ограничить определенные функции на компьютерах Mac, сосредоточены на неверном объекте. Необходимо пересмотреть, кого следует обвинять.
Google, OpenAI и Copilot: новые инструменты для широкого круга пользователей
Пришло время, и это крайне важно, чтобы специалисты в области технологий вновь обратились к основополагающим принципам, которые обеспечивают успех этой сферы: сочетанию передовых технологий и гуманитарных наук. Искусственный интеллект не обладает сознанием и моральными ориентирами.
Учитывая это, необходимо обеспечить, чтобы люди имели осознанный выбор, прежде чем предоставлять искусственному интеллекту доступ к своим данным. Религиозные учения утверждают, что высшая сила дала нам свободу воли. Вы считаете, что искусственный интеллект и те, кто им управляет, стремятся к тому, чтобы мы сохранили этот дар?