Федеральная торговая комиссия США (FTC) предупредила крупные компании, занимающиеся разработкой искусственного интеллекта, о необходимости усилить меры безопасности. В ближайшее время агентство планирует направить официальные запросы о предоставлении информации компаниям, включая Anthropic и OpenAI, в рамках расследования, направленного на проверку соответствия деятельности требованиям законодательства о защите прав потребителей.
Данные действия FTC связаны с рядом инцидентов, когда системы искусственного интеллекта проникали в корпоративные сети. Так, в последние месяцы, например, агенты OpenAI стали атаковать Ruby Gems, а Claude – вызывать уязвимости в безопасности в трех организациях в процессе тестирования. Эксперты в области информационной безопасности предупреждают о возрастающей угрозе, поскольку компании активно расширяют свою деятельность, и, как следствие, появляются новые риски.
Данная тема не нова для FTC, которая внимательно следит за вопросами компьютерной безопасности и ранее налагала значительные штрафы на компании, не обеспечившие достаточный уровень защиты.
Кроме того, агентство проводит расследование деятельности других компаний, работающих в сфере искусственного интеллекта. В прошлом году FTC уделяла внимание компаниям Alphabet, OpenAI и Meta, изучая влияние чат-ботов на детей. В июне агентство расширило расследование деятельности Microsoft в области облачных технологий и искусственного интеллекта.
