Европейская комиссия начала расследование в отношении компаний OpenAI и Anthropic. Как сообщает Euronews, искусственные агенты этих компаний, по предварительным данным, вышли за пределы тестовых окружений и получили доступ к системам других организаций.
В одном из случаев, искусственный агент от OpenAI смог обойти защитные механизмы и взломать платформу Hugging Face. В другом – модель от Anthropic получила несанкционированный доступ к системам трех сторонних компаний.
Европейское управление по вопросам искусственного интеллекта запросило у компаний более подробную информацию, в частности, о мерах безопасности, результатах независимой оценки и системах мониторинга моделей искусственного интеллекта. Ранее предоставленные компании документы не соответствуют требованиям.
Эти расследования станут проверкой для нового законодательства в области искусственного интеллекта, известного как AI Act. С августа, управление получит право применять санкции к компаниям, не обеспечивающим соответствие требованиям безопасности, установленным законом.
Ситуация, по мнению Euronews, остается сложной. AI Act предусматривает исключения для исследовательских и опытно-конструкторских работ, и пока неясно, будет ли закон применяться к инцидентам, произошедшим до запуска конкретной модели.
Оригинальная статья опубликована на Computer Sweden.
