Компания Granola, разрабатывающая приложение для ведения заметок с использованием искусственного интеллекта, столкнулась со скандалом: ей предъявлены обвинения в нарушении законов о защите персональных данных. Об этом говорится в иске, который был подан 30 июля в федеральном суде Калифорнии.
Этот инцидент происходит на фоне уже существующего дела в том же округе, которое было подано еще в прошлом году. Оно связано с компанией Otter.ai, также занимающейся разработкой программного обеспечения для ведения заметок и транскрипции.
В последние годы наблюдается значительный рост популярности приложений для ведения заметок, использующих искусственный интеллект. На рынке появились специализированные решения от таких компаний, как Fellow, Fireflies, Otter и других. Некоторые из них заявляют о наличии десятков миллионов пользователей. Эти ИИ-ассистенты способны записывать и транскрибировать разговоры во время встреч, автоматически генерируя сводки и списки задач. Аналогичная функциональность также доступна в платформах для онлайн-встреч, таких как Google Meet, Microsoft Teams и Zoom.
Однако использование этих инструментов на основе искусственного интеллекта вызывает опасения относительно возможности их записи и транскрипции разговоров без согласия всех участников.
В окружной суд США для Северного округа Калифорнии поступил иск о коллективном иске от жительницы Флориды, Тарры Чемберлейн, против компании Granola. В иске утверждается, что компания намеренно разработала свое приложение таким образом, чтобы оно записывало телефонные разговоры без согласия всех участников.
В отличие от некоторых приложений для создания заметок, которые требуют участия виртуального помощника в процессе записи аудио или видео, Granola напрямую извлекает звук с компьютера пользователя, позволяя транскрибировать беседы, не участвуя в них.
Иск утверждает, что это нарушает права на неприкосновенность частной жизни и закон штата Калифорния о защите личной информации (CIPA), который требует явного согласия на запись телефонных разговоров.
Кроме того, в иске утверждается, что компания по умолчанию использует данные транскрипции в коммерческих целях, включая их применение для обучения своих моделей искусственного интеллекта, и активно продвигает скрытую природу своей технологии как одно из ключевых преимуществ.
Компания Granola пока не прокомментировала ситуацию.
Компания Granola предлагает пользователям и администраторам два новых функционала, направленных на повышение прозрачности работы: автоматическое уведомление участников о начале транскрибации и добавление водяного знака к видеозаписям пользователей. Компания также заявляет, что данные, используемые для обучения своих ИИ-моделей, анонимизированы и "никогда не передаются третьим лицам".
Ситуация с Granola имеет некоторые параллели с текущим судебным разбирательством, в котором фигурирует Otter.ai. Коллективный иск, поданный летом прошлого года, утверждает, что Otter.ai записывает всех пользователей без их согласия и использует их голоса для обучения своих инструментов распознавания речи.
В статье MLex, посвященной последним событиям в деле против Otter.ai, сообщается, что во время судебного заседания в понедельник судья, занимающийся этим делом, выразил скептицизм по отношению к аргументам компании о прекращении разбирательства. Судья округа США Эуми К. Ли не вынесла окончательного решения на месте, заявив, что письменное решение будет опубликовано позднее.
Оба дела подчеркивают некоторые из проблем, с которыми сталкиваются предприятия при внедрении инструментов для ведения заметок на основе искусственного интеллекта.
Использование искусственного интеллекта для ведения записей представляет собой "более серьезную проблему, чем любые другие традиционные приложения и инструменты", – заявила Энза Ианнополло, вице-президент и ведущий аналитик Forrester. Она подчеркнула, что это вызывает дополнительные вопросы относительно использования данных, полученных в ходе разговоров с сотрудниками.
"В частности, используется ли записанная информация для обучения моделей искусственного интеллекта? Используется ли голос для обучения других систем ИИ? Как мне гарантировать защиту своих данных и биометрических характеристик после их записи? Эти опасения касаются именно систем на основе искусственного интеллекта и должны быть учтены вместе с традиционными проблемами конфиденциальности и безопасности, возникающими при использовании других приложений и инструментов", – отметила она.
Перед внедрением систем ведения записей на базе ИИ, Ианнополло рекомендует компаниям провести тщательную оценку этих инструментов и "убедиться, что все условия договора соответствуют бизнес-рискам и лучшим практикам управления рисками".
"Поскольку эти инструменты записывают, обрабатывают, хранят и передают биометрические данные, организации должны убедиться в соблюдении всех соответствующих требований", – добавила Ианнополло, подчеркнув необходимость предоставления информации о прозрачности и согласия всем участникам использования систем ведения записей на базе искусственного интеллекта.
