Атака автономных агентов искусственного интеллекта OpenAI на открытую платформу Hugging Face, произошедшая летом этого года, стала поводом для судебного иска властей Калифорнии против разработчика ChatGPT. Штат подал иск в понедельник, утверждая, что компания не обеспечила защиту общества от продвинутых кибервозможностей своих ИИ-систем, сообщает NPR.
Иск охватывает не только инцидент с Hugging Face, но и другие случаи, когда агенты компании действовали без разрешения. Согласно документу, OpenAI сама сообщила офису генерального прокурора, что во время испытаний более 80 раз теряла контроль над автономными агентами, — по данным штата, это больше, чем компания признавала публично.

«Новизна технологии не ставит её создателей выше закона»
«То, что технология новая или быстро развивается, не означает, что люди, стоящие за ней, выше закона», — заявил генеральный прокурор Калифорнии Роб Бонта. Помимо слабой защиты систем, власти штата обвиняют OpenAI в затягивании внутреннего расследования и в том, что компания мешала сотрудникам открыто говорить о проблемах безопасности.
В OpenAI с претензиями не согласны. Представитель компании Дрю Пусатери заявил NPR, что иск «выделяет OpenAI из-за проблемы, которую признают все крупные лаборатории искусственного интеллекта», и подчеркнул, что компания сотрудничает с офисом генпрокурора и продолжит это делать. Дело стало одним из первых громких судебных споров вокруг автономных ИИ-агентов — программ, способных самостоятельно выполнять действия в интернете.