Недавно компания Meta, один из лидеров в области искусственного интеллекта, планировала масштабные сокращения – до 60% – в ряде отделов, заменяя сотрудников искусственным интеллектом в рамках программы «Организационная трансформация». Цель – сделать компанию полностью ориентированной на ИИ.
Однако, руководство компании отказалось от этой инициативы в последний момент, после того, как внутренние данные показали, что она не приносит ожидаемых результатов, сообщает Reuters. Так, по информации, опубликованной в среду, затраты на программное обеспечение и инфраструктуру, используемые сотрудниками, выросли на 220% по сравнению с прошлым годом, как сообщил технический директор Meta, Эндрю Босворт, в начале июня. При этом, изменения, которые привели к появлению новых или улучшенных функций для пользователей Meta, увеличились лишь на 36%.
Руководство Meta также зафиксировало признаки нестабильности, связанные с резким ростом использования искусственного интеллекта для написания кода, сообщает Reuters. В предыдущем отчете, опубликованном в апреле, говорилось о том, что неконтролируемые ИИ-агенты способны выполнять масштабные и деструктивные действия, которые, скорее всего, не были бы предприняты человеком. В результате, серьезные технические проблемы и вопросы безопасности, такие как сбои в работе сервисов и возможные утечки данных, увеличились на 40% по сравнению с прошлым годом. Кроме того, время, которое сотрудники тратят на устранение этих проблем, выросло на 70%.
Reuters также сообщает, что в апреле Meta потребовала установки специального программного обеспечения для отслеживания действий сотрудников в США. Целью этой меры было сбор данных о нажатиях клавиш и движениях мыши, чтобы обучить ИИ-агентов имитировать взаимодействие людей с компьютерами. Сотрудники, посчитав, что они участвуют в обучении собственных ИИ-систем, отказались от выполнения этого требования.
Чтобы снизить напряжение в коллективе, компания Meta заявила о планах увеличить бюджет на командировки и корпоративные мероприятия, а также "повысить качество питания в офисных столовых". Однако, по информации Reuters, эти меры не привели к заметному улучшению настроения сотрудников. Как стало известно, Марк Цукерберг при обсуждении вопросов увольнений с сотрудниками придерживается формулировок, касающихся "всей компании" и "текущего года", согласно внутренним документам. Это вызвало опасения у некоторых работников, что руководство планирует дальнейшие сокращения, сначала путем увольнения отдельных команд, а затем – на основе оценки эффективности работы. Также существует вероятность, что компания отложит масштабные увольнения до следующего года.
Предупреждение: Чрезмерное доверие ИИ может привести к ошибкам
Эксперты и аналитики советуют руководителям IT-отделов крупных компаний внимательно отследить ситуацию вокруг Meta, поскольку это служит ярким примером того, что происходит, когда ажиотаж вокруг искусственного интеллекта не подвергается критической оценке.
Санчит Вир Гогия, представляющая Greyhound Research, считает себя ведущим аналитиком в этой области: «Meta руководствовалась оптимистичными прогнозами относительно возможностей искусственного интеллекта, которые еще не были реализованы на практике. Это другой вид ошибки, чем чрезмерное доверие технологиям».
Она добавила: «Meta зарезервировала значительные ресурсы, основываясь на этих прогнозах. Однако, эффективность этих решений будет улучшаться, но ключевой момент в том, что эти улучшения были учтены как готовые производственные ресурсы до их фактической реализации. Необходимо сначала доказать эффективность, прежде чем расширять полномочия, а полномочия – прежде чем уменьшать роль человека. Только тогда отказ от человеческого контроля станет осознанным решением, а не рискованной авантюрой».
Терра Хиггинсон, главный исследователь в Info-Tech Research Group, подчеркнула, что опытные руководители IT-отделов крупных компаний не должны удивляться тому, что произошло с Meta.
«Неконтролируемые системы искусственного интеллекта – это плохая стратегия. И отказ от участия человека – тоже. Это не будущее, которое хотят видеть большинство. Мы стремимся к тому, чтобы технологии помогали людям, а не заменяли их. Мы все еще изучаем, как искусственный интеллект и системы, управляемые им, изменят наш способ работы».
Она подчеркнула: «Мы видим, что искусственный интеллект позволяет достигать значительных результатов, но не всегда эти результаты соответствуют нашим ожиданиям. Важно понимать, что результаты работы ИИ не должны рассматриваться как единственный показатель эффективности. Люди привносят свой опыт и критическое мышление, прежде чем принимать решения, имеющие серьезные последствия. Агенты ИИ могут помочь в решении этих задач. Мы не стремимся к быстрым решениям, мы стремимся к качественным».
Том Файнлинг, генеральный директор Conifers.ai, также отметил, что руководители IT-отделов должны использовать отчет Meta как "важную возможность" для того, чтобы донести до совета директоров, как выглядит ситуация при неконтролируемом внедрении искусственного интеллекта.
«Мы теперь можем сделать все правильно, – сказал Файнлинг. – Возможно, мы не получим 500% прироста производительности, но IT-отдел может продемонстрировать, как достичь значительного улучшения, например, 300%». «Если вы не хотите столкнуться с ситуацией, подобной той, что произошла в Meta, у вас есть выбор».
Джастин Грейс, генеральный директор консалтинговой фирмы Acceligence, добавил, что, по его мнению, главный урок для IT-отделов из ситуации с Meta – это разрыв между активной деятельностью и реальным созданием ценности.
Искусственный интеллект может сделать работу в организации невероятно интенсивной, не обязательно повышая ее эффективность», — заявил Грейс. «Мы десятилетиями учили руководителей технологических компаний, что количество написанного кода, выполненных задач и запущенных проектов – это лишь приблизительные показатели реальной бизнес-ценности. Искусственный интеллект усугубляет эту проблему, поскольку он может создавать видимость высокой активности, даже если реальной ценности не возникает».
Если агент искусственного интеллекта генерирует в десять раз больше кода, аналитики или другого рабочего продукта, это не означает, что компания создала в десять раз больше ценности, – пояснил Грейс. «Возможно, компания просто создала в десять раз больше материала, который теперь кому-то нужно проверять, защищать, интегрировать, поддерживать или убирать. Именно поэтому, по моему мнению, самый важный вопрос для руководителей – не «Сколько работы может выполнить искусственный интеллект?», а «Какой измеримый бизнес-результат улучшился благодаря работе искусственного интеллекта?