Модели диффузии достигли такой степени развития, что способны генерировать изображения, даже если исходные данные для обучения недоступны.
В серии экспериментов, проведенных исследователями из лаборатории компьютерных наук и искусственного интеллекта MIT (CSAIL), ученые заменили различные наборы данных, используемые для обучения, чтобы оценить влияние полного отсутствия исходных данных на качество генерируемых изображений.
В результате оказалось, что при достаточном объеме данных изменения не привели к заметным результатам.
Исследователи называют это явление "угасанием атрибуции": чем больше данных используется для обучения модели диффузии, и чем больше она становится, тем меньше влияние оказывает каждый отдельный набор данных.
"Если вы уберете часть данных, и результат работы модели останется прежним, то эта часть данных не оказала никакого влияния на конечный результат", – объясняет Чжэн Дай, основной автор исследования, в блоге MIT.
Эти результаты могут иметь серьезные последствия в контексте растущих опасений по поводу защиты интеллектуальной собственности (IP) и нарушения авторских прав.
Искусственный интеллект научился создавать изображения, даже если они ранее не встречались в обучающих данных.
Современные модели генеративного диффузии, по сути, воспроизводят статистические закономерности, зафиксированные в огромных массивах данных, для создания реалистичных копий. Эти мощные инструменты добились значительных успехов в самых разных областях, особенно в генерации изображений, видео и аудио, отмечают исследователи.
Однако, они все чаще вызывают пристальное внимание со стороны творческих профессионалов, компаний и политиков, которые стремятся определить, кто несет ответственность за результаты, созданные с их помощью. Модели оказались в центре судебных разбирательств, лицензионных соглашений и предложений регулирования по всему миру.
Например, компании Stability AI (разработчик Stable Diffusion) и Midjourney оказались втянуты в текущий коллективный иск, поданный несколькими художниками в федеральном суде штата Калифорния. Истцы утверждают, что популярные модели создания изображений, видео и аудио сканируют миллиарды их защищенных авторским правом изображений без их согласия.
Getty Images также подала иски против Stability AI, но они были отклонены Высоким судом Бизнес и Патенто-судебной системы Англии и Уэльса. Несмотря на то, что Getty частично выиграла дело о товарных знаках, поскольку некоторые AI-сгенерированные изображения очень сильно напоминали их работы.
Исследователи из MIT CSAIL пришли к выводу, что возможность отслеживать происхождение сгенерированных результатов позволит глубже изучить процессы "обучения без сохранения", "отравления данных", "взаимодействия моделей", "справедливости" и "конфиденциальности". Кроме того, это поможет решить сложные этические, юридические, финансовые и нормативные вопросы, связанные с этими технологиями.
"Разработка метода, позволяющего связывать сгенерированные результаты с наиболее значимыми данными, использованными при обучении, значительно продвинет наше понимание и возможности регулирования этих моделей", – отмечают ученые.
В своих экспериментах исследователи использовали метод "аблации" – то есть, они проверяли, как изменится поведение модели, если удалить определенные элементы. Это позволяет понять, что она могла бы сгенерировать, если никогда не "видела" конкретное изображение.
Обычно, "аблация" – сложный процесс, требующий переобучения модели после удаления данных. Однако, исследователи из MIT CSAIL применили этот метод к "архитектуре "diffusion ensemble"", состоящей из множества различных компонентов, обученных на разных наборах данных. Эти компоненты можно было заменить, чтобы определить, какой вклад внес каждый из них.
"Наш анализ основан на наблюдении за изменениями в поведении модели, или его отсутствием, при удалении части обучающего набора данных", – поясняют исследователи.
Для обучения, исследователи использовали 24 модели, которые были "натренированы" на наборах данных, содержащих от 256 до более 160 000 изображений. Эти данные были собраны из семи общедоступных источников, включая ArtBench (произведения искусства), CIFAR-10 (разнообразные цветные изображения), Fashion-MNIST (одежда и аксессуары), CelebA (лица знаменитостей) и MetFaces (человеческие лица).
В одном из экспериментов, исследователи показали изображение знаменитой картины, сгенерированной моделью, обученной на произведениях искусства, находящихся в общественном достоянии, от 744 художников. Изображение было представлено рядом с сотнями изображений, которые, казалось, были идентичны, хотя модель генерировала их, даже когда конкретные художники не были включены в обучающие данные.
Исследователи переработали оригинальное изображение во всех возможных вариантах и оценили степень влияния, измерив наибольшие изменения, которые можно было вызвать, исключив обучающие данные. Чем больше был набор данных, тем меньше становился эффект: это подтверждалось различными методами, включая анализ пиксель за пикселем или оценку смыслового содержания.
Другими словами, отдельные работы конкретных художников или фотографии определенных людей могут быть полностью удалены из наборов данных, но модель все равно сможет воспроизвести это изображение или стиль. В результате теряются прямые связи, и установление конкретных связей с данными, которые привели к созданию конкретных образцов, становится практически невозможным, или даже исчезает, – объясняют исследователи.
Их метод является новым, поскольку предыдущие работы были сосредоточены на удалении больших объемов данных, а не на таргетированном удалении небольших фрагментов, что они назвали «присвоением стиля по одному образцу».
Как Google, OpenAI и Copilot меняют правила игры в вопросах отслеживания эффективности рекламы
Исследование выявило, что, как отмечает Дай, не имеет особого смысла приписывать конкретный результат конкретному фрагменту данных. Это может затруднить для творческих специалистов и других лиц проверку и отслеживание происхождения их работ.
Соавтор, профессор MIT и руководитель исследовательской группы CSAIL, Дэвид Гиффорд, заявил, что эти результаты имеют прямое отношение к юридическим вопросам о том, являются ли результаты работы, сгенерированные моделями, действительно производными произведениями.
«Один из подходов – это то, что эти модели обладают творческими способностями», – сказал он. «Они не просто копируют то, что им дают, а создают совершенно новые результаты».
Если результаты не могут быть напрямую связаны с отдельными фрагментами обучающих данных, это может вызвать вопросы о законности использования и о том, являются ли результаты, сгенерированные моделями, сами по себе объектами авторского права, как «новые произведения», – добавил Гиффорд.
Это также может повлиять на дискуссию о том, как компенсируются оригинальные создатели, когда результаты работы, сгенерированной моделью, кажутся прямой репродукцией их работ, но не могут быть отслежены до каких-либо данных в интернете.
В конечном итоге, создание результатов, которые невозможно однозначно приписать конкретному человеку, – это задача, стоящая перед всей индустрией, а не просто возможность, – заявил он. Разработчики искусственного интеллекта должны пересмотреть свои подходы и продемонстрировать, что их модели не создают копии отдельных лиц или объектов.