Когда речь идет об искусственном интеллекте, часто вспоминаются графические процессоры Nvidia, которые сыграли ключевую роль в его развитии.
Однако, на недавней выставке Hot Chips в Калифорнии, появилась альтернативная точка зрения, поскольку компании все больше обеспокоены вопросами стоимости, энергопотребления и замедления прогресса в этой области.
Новые чипы для искусственного интеллекта, представленные компаниями OpenAI, Intel, Meta и другими, обещают более дешевое и быстрое создание токенов при меньшем энергопотреблении. Производители чипов также переходят к использованию искусственного интеллекта не только на графических процессорах, но и на центральных процессорах и обычных компьютерах.
"То, что было продемонстрировано на Hot Chips, показывает, что рынок, альтернативный Nvidia, становится все более разнообразным", - заявил Стивен Сопко, аналитик из Hyperframe Research.
Несмотря на то, что корпоративные бюджеты на искусственный интеллект продолжают расти, основное внимание уделяется поиску способов повышения эффективности и снижения затрат. "Но я бы не говорил, что бюджеты на искусственный интеллект, соответственно, сокращаются", - добавил Сопко.
Выставка Hot Chips продемонстрировала будущее, в котором можно будет выполнять больше задач искусственного интеллекта при том же энергопотреблении, в том же корпусе или за ту же сумму, благодаря новым конструкциям и управлению питанием. "Стоимость выполнения конкретной задачи искусственного интеллекта должна продолжать стремительно снижаться", - отметил Сопко.
OpenAI представила подробности о разработанном компанией собственном чипе под названием Jalapeño. По словам представителей компании, этот чип поможет удовлетворить растущий спрос и снизить затраты на достижение желаемых результатов.
OpenAI начинала свой путь в области искусственного интеллекта с использования графических процессоров Nvidia, и планирует инвестировать 750 миллиардов долларов в центры обработки данных для обеспечения работы своих инструментов и сервисов. Предполагается, что чип Jalapeño значительно повысит эффективность центров обработки данных, используемых для вычислений.
Исследовательская компания SemiAnalysis получила эксклюзивный доступ для тестирования чипа и была впечатлена результатами. "В целом, чипы первого поколения не отличаются высокой конкурентоспособностью, но OpenAI выходит за рамки общепринятых стандартов, демонстрируя передовые технологии и превосходя по производительности чипы Nvidia, AMD и Google, которые нам удалось протестировать на нескольких популярных моделях с открытым исходным кодом", – говорится в отчете компании SemiAnalysis.
В будущем, искусственный интеллект будет обрабатываться более распределенным образом, чем в последние годы, но облачные сервисы останутся важным вариантом для задач, требующих высокой вычислительной мощности, – отмечает Джек Голд, ведущий аналитик J. Gold Associates.
В течение следующего года или двух тысячи агентов будут работать на платформах "на краю", искусственных процессорах, локализованных серверах или суверенных центрах обработки данных, – заявил Голд. «Мы увидим больше чипов от разных производителей, которые будут запускать различные приложения, и не все из них будут графическими процессорами от одного производителя», – отметил он.
Графические процессоры могут быть дорогими с точки зрения энергопотребления и производительности для агентичной ИИ, поэтому, – пояснил Голд, – крупные игроки в сфере графических процессоров, такие как Nvidia и AMD, делают акцент на новых архитектурах процессоров, разработанных специально для ИИ.
Nvidia признала необходимость чипов, отличных от собственных графических процессоров, для инференса. На конференции Hot Chips компания поделилась деталями о своем процессоре Vera и чипе инференса Groq 3 LPX.
Тем временем, Intel представила новый серверный процессор Diamond Rapids и процессор для персональных компьютеров Wildcat Lake. Последний предназначен для того, чтобы привнести ИИ на устройства на краю и недорогие ноутбуки.
Diamond Rapids обладает расширениями для ИИ, благодаря которым инференс можно выполнять на процессоре, не перенаправляя нагрузку на другие сопроцессоры. Чип Wildcat Lake имеет нейронные вычислительные блоки (NPUs) и заимствует функции из графического процессора Xe3, который также используется в ИИ-графических процессорах Intel. (Он похож на существующий чип Panther Lake.)
На конференции Hot Chips, как отметил ведущий аналитик Tirias Research Джим МакГрегор, одним из ключевых направлений обсуждения стали изменения в архитектуре компьютерных систем. Большинство докладов были посвящены решению проблем, связанных с передачей данных, разработке новых чипов и размещению вычислительных ресурсов как непосредственно в памяти, так и рядом с ней.
Эксперт также подчеркнул, что корпоративное искусственное интеллект будет становиться всё более гибким. В связи с этим, руководители ИТ-отделов должны проектировать архитектуры ИИ, которые позволят легко переключаться между графическими процессорами (GPU), центральными процессорами (CPU) и специализированными чипами, в зависимости от текущих экономических условий.
"Главная ошибка – это выбор неподходящего чипа в 2026 году. Гораздо важнее – создать архитектуру ИИ, которая позволит использовать более выгодный или эффективный вариант в 2028 году", – заявил Джим МакГрегор.
