Новый сотрудник, представленный в компании, отличается высокой работоспособностью, отсутствием запросов на повышение и способностью к быстрому обучению. Кроме того, он способен принимать ошибочные решения, не вызывая подозрений, еще до обеда.
Это объясняет, почему некоторые лидеры в сфере технологий все чаще рассматривают ИИ-агентов не просто как программное обеспечение, а как сотрудников, коллег или даже стажеров. Когда агент способен обновлять данные, обрабатывать запросы, отправлять сообщения и взаимодействовать с различными корпоративными системами, его внедрение уже не воспринимается как установка очередного приложения.
Недавние статьи в Harvard Business Review подтолкнули эту аналогию еще дальше. Одна из них предлагает рассматривать ИИ-агентов как новую рабочую силу, с четко определенными ролями, полномочиями, надежными источниками информации, системой контроля и отслеживания изменений. Другая рекомендует назначать агентам имена и должности, обучать их, оценивать их работу и постепенно расширять их обязанности после успешного выполнения поставленных задач.
Однако, стоит помнить и о потенциальных рисках: сотрудники могут начать воспринимать ИИ-агентов как настоящих коллег.
В недавнем исследовании, опубликованном журналом Harvard Business Review, анализирующем ответы 1261 менеджера, было установлено, что при восприятии искусственного интеллекта как сотрудника, а не как простого инструмента, руководители, имеющие опыт работы с системами ИИ, берут на себя меньше ответственности за результаты и перекладывают ее на ИИ. Кроме того, они чаще сообщают о возникающих проблемах и реже обнаруживают ошибки. Согласно исследованию, 31% респондентов отметили, что их компании уже рассматривают ИИ как полноценного коллегу или сотрудника, а 23% указали, что системы ИИ включены в организационные схемы.
Для руководителей в сфере IT, возможно, стоит изучить этот опыт, но не применять его в полной мере.
Программное обеспечение не должно быть в организационной структуре компании.
Эми Лумис, вице-президент по исследованиям в IDC, подчеркивает важность ответственности.
По ее словам, сотрудники несут определенные обязательства перед своей компанией и друг перед другом. Они обладают глубоким пониманием корпоративной культуры и ценностей, которое искусственный интеллект пока не может полностью имитировать.
Поэтому, использование термина "искусственный интеллект как коллега" может быть не просто безобидной метафорой. Этот термин подразумевает взаимоотношения между равными, и может побуждать людей доверять системе, которая отлично справляется с решением поставленных задач, но при этом не всегда понимает, что именно требуется.
"Ответственность – это понятие, которое имеет свои уникальные человеческие аспекты", – утверждает Эми Лумис. "Хотя искусственный интеллект может быть предоставлен доступ к данным, ответственность за то, как эти данные используются, лежит на тех, кто предоставил доступ, а не на самом искусственном интеллекте.
Эта стратегия все еще оставляет возможности для оптимизации в сфере управления персоналом. Важно предоставить сотруднику возможность контролировать доступ и четко определить права, а также предусмотреть механизм немедленного блокирования доступа, чтобы предотвратить несанкционированное использование. Однако, Loomis считает более эффективным рассматривать сотрудника как инструмент, выполняющий конкретные задачи, а не как самостоятельного субъекта. Необходимо четко определить, какие функции должна выполнять система, к каким ресурсам она может обращаться, и какие задачи остаются в зоне ответственности человека.
Другими словами, предоставьте сотруднику "специальный ключ доступа". Просто не прикрепляйте к нему фотографию.
Идея "сотрудника" в ИИ: как новые инструменты меняют подход к разработке
Основатель компании Ejento AI, занимающейся управлением искусственным интеллектом, и соавтор статьи в Harvard Business Review «Чтобы успешно масштабировать ИИ-агентов, думайте о них как о членах команды», Раджа Икбал, находится в Ломисе.
Икбал утверждает, что эта метафора предназначена для того, чтобы помочь руководителям ИТ-отделов, директорам по безопасности и другим технологическим лидерам сформировать правильное понимание работы с ИИ. По его мнению, представление ИИ-агента как члена команды позволяет организациям вернуться к проверенным методам управления: закреплению за каждым агентом уникальной идентичности, четкому контролю со стороны человека, определению конкретных полномочий, установлению ограничений, использованию утвержденных источников информации и ведению аудита. Если другой подход также обеспечивает те же дисциплины, Икбал считает, что это приемлемо.
В целом, Икбал подчеркивает, что идея о создании ИИ-агентов, обладающих человеческими качествами и занимающих определенные места в организационной структуре, не является оптимальной. Он считает, что это может привести к проблемам с ответственностью, о которых говорят критики: "Боб совершил ошибку" – это уже не оправдание, даже если "Боб" – это программное обеспечение.
Метафора, используемая исключительно для придания тексту привлекательности, может стать контрпродуктивной», — утверждает Икбал. Он подчеркивает, что компании рискуют, когда начинают применять человеческие характеристики – имена, личные данные или стиль общения коллег – без четких правил, ограничений и механизмов ответственности, которые делают эту аналогию полезной. Его предпочтительный подход гораздо проще: агент должен иметь четко определенную техническую идентичность, чтобы компания могла контролировать его действия, а ответственность за эти действия должен нести конкретный человек. «Техническая идентичность – это инструмент аудита, а человек, несущий ответственность – это инструмент контроля», – объясняет Икбал. Проще говоря, техническая идентичность позволяет определить, какое именно действие было совершено, а человек, несущий ответственность, определяет, кто за это отвечает.
Аналогия с сотрудником особенно полезна при определении уровня свободы, который может иметь агент. Икбал рекомендует использовать ступенчатую систему автономии. Агент может начинать с выполнения задач, требующих постоянного одобрения, затем переходить к самостоятельной работе над менее рискованными задачами, и, наконец, получать ограниченную автономию, если его фактическая работа будет соответствовать этому уровню. Серьезная ошибка может привести к возврату агента на предыдущий уровень или даже к его увольнению.
Это можно рассматривать как период адаптации для нового сотрудника. Более того, это отличный пример эффективного управления программным обеспечением для системы, основанной на вероятностных расчетах.
DXC: Профессиональные агенты теперь – это программное обеспечение
Рассел Джукс, занимающий должность руководителя по цифровым и информационным технологиям в компании DXC Technology, имеет возможность оценить преимущества и недостатки различных подходов к использованию искусственного интеллекта. Он руководит компанией с численностью около 115 000 сотрудников, где ИИ активно применяется в сфере IT-услуг.
«Мы рассматриваем искусственный интеллект как мощный инструмент, а не как самостоятельный субъект», – отмечает Рассел Джукс.
В DXC искусственный интеллект подразделяется на две категории: персональные и профессиональные агенты. Персональные агенты предназначены для работы с отдельными сотрудниками и используют их учетные данные для доступа к ресурсам. Профессиональные агенты – это корпоративные системы, предназначенные для решения более широкого круга задач. В одной из ключевых AI-платформ компании, сотрудники создали около 8 000 персональных агентов, в то время как профессиональных агентов – около 100.
Профессиональные агенты находятся под более строгим контролем. Они могут иметь собственные, нечеловеческие идентификаторы, учетные данные, права доступа и ограничения. Все действия этих агентов контролируются, что позволяет компании DXC отслеживать их деятельность и, при необходимости, отключать.
Джьюкс полагает, что многие подобные "агенты" со временем перестанут быть актуальными для пользователей. Агент может анализировать внутренние потребности компании в ночное время и предлагать конкретных сотрудников для выполнения определенных задач. Сотрудники не должны с ним общаться или рассматривать его как коллегу – они просто получают результат.
Вот в чем, по мнению Джьюкса, заключается ключевое отличие от традиционной модели.
Джьюкс подчеркивает, что он рано понял, что искусственный интеллект нельзя внедрять как обычное программное обеспечение (SaaS). Его первый опыт был основан на привычной схеме: разработать приложение, сделать его доступным для сотрудников и ожидать, что оно будет активно использоваться. "Я это сделал, но никто не воспользовался", – рассказывает он. Этот опыт убедил его в том, что искусственный интеллект требует совершенно иного подхода, и он поклялся "никогда больше не внедрять искусственный интеллект как SaaS".
Традиционное программное обеспечение (SaaS) обычно представляет собой детерминированную систему, ограничивающую пользователей определенным рабочим процессом и обеспечивающую предсказуемые результаты. "Агентный" искусственный интеллект – это принципиально иное. Он способен интерпретировать цель, выбирать подходящие инструменты и источники данных и самостоятельно определять оптимальный способ достижения желаемого результата. Для Джьюкса это означает, что директорам по информационным технологиям необходимо разрабатывать политики, правила, контроль доступа и другие ограничения, связанные с использованием агента, а не просто внедрять очередное приложение.
Это также позволяет четко определить, кто несет ответственность за принятые решения. Если пользователь утверждает, что агент совершил определенное действие, то, по словам представителей компании, ответственность за это решение несет сам пользователь. Если же автономный агент действует в соответствии с установленной бизнес-политикой, ответственность ложится на тех, кто отвечает за разработку и внедрение этой политики. В случае, если технология работает некорректно, ответственность переходит к IT-отделу.
Важно отметить, что сама система не несет ответственности за возникшие ошибки.
Google и OpenAI тестируют Copilot: новый способ работы для разработчиков?
Нина Татсий, занимающая должность глобального директора по информационным технологиям в компании Quadient (специализирующейся на технологиях автоматизации), заняла позицию, находящуюся между должностями Икбала и Джукса. Она использует термин "стажер" для обозначения операторов, но делает это намеренно, как метафору, а не как официальное организационное обозначение.
Операторы должны рассматриваться как программное обеспечение, требующее обеспечения безопасности, контроля и технических средств, при этом осознавая, что их поведение может быть непредсказуемым и требовать дополнительного контроля. "Необходимо учитывать и то, и другое", – отмечает Татсий.
Новичок, как и опытный оператор, не получает полный доступ ко всем паролям и разрешениям сразу. Ему необходимо пройти обучение, его нужно контролировать, переобучать в случае изменения окружения, и, в конечном итоге, уволить, когда он устаревает.
В Quadient обычно стараются избегать присваивания операторам человеческих имен. Татсий опасается, что это может привести к тому, что люди будут воспринимать их как настоящих коллег, способных к самостоятельному принятию решений.
"Чрезмерное доверие – это риск", – утверждает она, особенно учитывая, что ИИ склонен делать выводы с высокой степенью уверенности. Татсий предпочитает использовать искусственный интеллект для проверки гипотез или выявления вопросов, которые люди могли не учесть, вместо того, чтобы полностью полагаться на его самостоятельные выводы.
Тем не менее, аналогия со стажером оказалась полезной в операционной деятельности.
В одном из случаев внедрения системы обработки счетов компания Quadient использовала виртуального помощника, который обучался, анализируя работу сотрудников и получая обратную связь в различных ситуациях. После того, как эффективность системы была подтверждена в условиях возрастающей сложности, она начала предлагать рекомендации. Однако, окончательное решение всегда принимали люди.
В результате, виртуальный помощник завоевал больше доверия, но не получил ответственности.
HR-практики в разработке: как использовать инструменты, но не забывать о человеческом факторе
Вероятное различие между этими агентами заключается не в их статусе – сотрудниками или просто программным обеспечением – а в том, какие аспекты работы должны оставаться под контролем IT-отдела.
Агентам необходимы уникальные технические идентификаторы, но не человеческие. Им требуется четкое определение обязанностей, но не традиционные рабочие места. Им необходим мониторинг и оценка, но не ежегодные аттестации. Они могут получать все большую автономию, но не полную ответственность.
И чем больше они развиваются, тем важнее становится это различие.
Если рассматривать автономного агента как обычное программное обеспечение, это игнорирует тот факт, что он способен интерпретировать, выбирать и действовать способами, недоступными для стандартного программного обеспечения. Если же относиться к нему как к сотруднику, например, "Стив из отдела бухгалтерии", возникает другая проблема: рано или поздно кто-то может начать считать, что "Стив" полностью компетентен.
Руководителям IT-отдела, вероятно, придется взять на себя больше функций, которые традиционно выполняются отделом кадров, по мере распространения агентированного искусственного интеллекта по всей организации. Однако, они не должны начинать выдавать сотрудственные удостоверения.