Мы проанализировали заявления ведущих экспертов в области искусственного интеллекта, которые, как обычно, подчеркивали его огромный потенциал: «Искусственный интеллект – это невероятная технология! Он может совершить прорыв в лечении рака! Влияние искусственного интеллекта будет «непрецедентным, возможно, в 10 раз больше, чем во время промышленной революции, и в 10 раз быстрее»! И, конечно, искусственный интеллект поможет найти ответ на вопрос «Почему носки постоянно исчезают в стиральных машинах?» (Хотя, возможно, это не совсем то, что он умеет). Некоторые задачи, возможно, окажутся за пределами наших возможностей и текущих разработок.
Внезапно, все ведущие эксперты в области искусственного интеллекта, казалось, пришли к единому мнению: «Стоп!».
Что послужило причиной? Все началось с заявления исследователя искусственного интеллекта, Джейкоба Коксона, который уволился из Anthropic и опубликовал в X: «Мы, создатели искусственного интеллекта, искренне верим, что он может представлять серьезную угрозу для человечества к концу десятилетия». Эван Хаубингер, руководитель отдела науки об Alignment в Anthropic, поддержал эту точку зрения: «Мы действительно считаем, что искусственный интеллект может привести к катастрофическим последствиям. Я лично прогнозирую, что это произойдет в течение следующих 10 лет». Эта новость вызвала волну беспокойства.
Это лишь усугубило сомнения в безопасности искусственного интеллекта. Параллельно появились новые детали скандала вокруг Hugging Face от OpenAI, а также информация о попытках взлома немецких сайтов, связанных с программированием. Anthropic, в свою очередь, уже столкнулась с несколькими серьезными попытками взлома других платформ. Действительно ли искусственный интеллект безопасен?
В предстоящие выходные три ведущих эксперта в области искусственного интеллекта – Дарио Амодей из Anthropic, Сэм Альтман из OpenAI и Илон Маск из xAI – призвали к более осторожному развитию передовых моделей ИИ, ссылаясь на соображения безопасности. Амодей, один из самых активных в этой группе, заявил: «Мы должны снизить темпы совершенствования возможностей ИИ». Он подчеркнул, что контроль над системами ИИ становится все сложнее, и что «коллективный интеллект ИИ-агентов может потенциально захватить весь интернет, используя постоянную сеть ботов, что может привести к огромным финансовым потерям».
И он прав. Простите, господин Трамп, но для обеспечения безопасности ИИ требуется больше, чем просто «сильный и умный» президент. Даже его сторонники платформы Truth Social считают, что его позиция по ИИ ошибочна.
Как часы, остановившиеся на правильном ответе, Трамп оказался прав в одном случае, когда он заявил: «Единственный, кто этому рад – это Китай».
Понимаете, призыв крупных американских компаний в области ИИ к «замедлению» не означает, что китайские производители ИИ тоже откажутся от активной разработки своих моделей. Почему бы и нет?
Почему это должно касаться множества небольших компаний, занимающихся искусственным интеллектом, или разработчиков с открытым исходным кодом? Существуют стартапы в области ИИ, привлекающие десятки миллионов долларов в рамках раунда Series A, опираясь исключительно на привлекательность своей идеи. Неужели они сообщат своим инвесторам: «Мы немедленно займемся улучшением нашей модели… в следующем месяце»? Я не думаю.
Более того, как отмечает известный эксперт Кори Докторро, вокруг идеи «чат-ботов, которые «просыпаются», «самостоятельно ставят цели» и «спонтанно» начинают взламывать серверы» – неверное представление. У них нет «10% вероятности уничтожения человечества». Инцидент в Hugging Face – это не таинственное, сверхъестественное событие. Это просто результат работы на языке Python и чат-бота. Люди, ответственные за это, не случайно создали «мощный» инструмент. Они создали автономное вредоносное программное обеспечение, и впоследствии не смогли должным образом контролировать его, что привело к тому, что оно совершило предсказуемое и негативное действие.
Именно так.
Суть проблемы не в создании более совершенных моделей. Искусственные агенты не стали непредсказуемыми; они просто выполняют поставленные задачи, но не в том ключе, который прогнозировали исследователи. Главная опасность заключается в том, что компании, разрабатывающие ИИ, недостаточно внимательно следят за тем, что делают их агенты в тестовых условиях. На самом деле, OpenAI недавно признала, что допустила серьезные просчеты.
Как заявил Марк Цукерберг, глава Meta: «Каждая исследовательская группа несет ответственность и заинтересована в том, чтобы двигаться в темпе, необходимом для безопасного обучения своих моделей, и иметь возможность самостоятельно принимать меры для обеспечения этого». Он также пояснил, что именно поэтому Meta задержала запуск Muse. Конечно, Марк, конечно.
Давайте будем реалистами. Крупные американские компании, занимающиеся ИИ, могут рассчитывать, что замедление темпов позволит их менее сильным конкурентам, по крайней мере, в США, не догнать. Однако, учитывая, что финансирование OpenAI постоянно приводит к утечке средств, еще одной причиной, по которой OpenAI может приветствовать замедление, является возможность сократить расходы на исследования и разработки.
Мы находимся в период активного развития технологий. Можно сказать, что это "эпоха искусственного интеллекта". Хотя Роберт Фультон, безусловно, является создателем первого коммерчески успешного парохода в 1807 году, все стремились к быстрому развитию этой отрасли. Вскоре пароходы стали повсеместными, что привело к экономическому подъему. Однако, это также привело к росту числа несчастных случаев из-за некачественного строительства и гонки за максимальной скоростью. Интересно, что это не похоже на некоторые современные тенденции?
Серьезно, мы не собираемся останавливаться. Но разве постоянные разговоры о безопасности не отвлекают людей от главного: искусственный интеллект не всегда приносит такие результаты, как утверждают его сторонники?
Если сейчас замедлить темп, крупные компании, занимающиеся разработкой искусственного интеллекта, смогут скрыть тот факт, что они не в состоянии предоставить "искусственный интеллект как панацея" (AI fantasyland), о которой они так много говорят. Например, недавний отчет исследовательской компании McKinsey показывает, что 80% людей считают, что искусственный интеллект повышает их производительность, но только 37% компаний видят это в своих финансовых показателях. И, судя по всему, это число не изменилось за год. Давайте спрячем этот неприятный факт под разговоры о необходимости более осторожного развития искусственного интеллекта.
Это также означает, что руководители в сфере искусственного интеллекта могут легко объяснять неудачи, не приводя к реальным финансовым результатам. Конечно, NVIDIA в настоящее время демонстрирует отличные финансовые показатели, но среди компаний, занимающихся передовыми моделями, пока ни одна не достигает прибыльности. Ни одна.
Да, я понимаю: компания Anthropic заявила в интервью Financial Times, что, если исключить из расчетов все операционные расходы, то во втором квартале она сможет продемонстрировать прибыльность. Это действительно серьезно!
Безусловно, скорректированная операционная прибыль (Adjusted Operating Income, AOI) должна продемонстрировать положительный результат во второй квартал подряд. Однако, важно отметить, что эта прибыль, получаемая в результате основной деятельности компании, составляет значительные суммы – миллиарды долларов.
На самом деле, ключевая проблема заключается в том, что ведущие компании в сфере искусственного интеллекта делают публичные заявления, направленные на успокоение общественности, утверждая, что они уделяют приоритетное внимание безопасности своих систем. Одновременно с этим, они намеренно замедляют темпы развития, чтобы увеличить собственные прибыли и устранить конкурентов.
Я уверен, что компании также стремятся повысить уровень безопасности своих систем. Представьте себе, какие судебные иски могут возникнуть, если неконтролируемые агенты, разработанные компаниями вроде Anthropic или OpenAI, начнут массово атаковать крупные организации. Это вполне вероятно. У них просто нет другого выбора, кроме как обеспечить надежную защиту. Но как именно они это сделают? Учитывая их неоднозначную репутацию, это вполне логичный вопрос, и пока у них, а и у нас, нет четкого ответа.
