Группа некоммерческих организаций из США подала иск против пяти крупнейших разработчиков искусственного интеллекта, требуя остановить создание самых передовых моделей. Главным аргументом истцы сделали публичные признания руководителей этих компаний о том, что технология может обернуться катастрофой для человечества.
Иск подан в четверг, 12 ноября, в Высший суд округа Сан-Франциско (штат Калифорния). Истцами выступают Alliance for Secure AI, Public Citizen, Irreplaceable Education Fund и Heat Initiative, ответчиками стали Anthropic, Google, Meta, OpenAI и ИИ-подразделение SpaceX под названием SpaceX Super Intelligence.
«Ответчики знают»
В иске приводятся высказывания глав компаний. По данным CBS News, гендиректор OpenAI Сэм Альтман ещё в 2015 году говорил, что ИИ, «скорее всего, приведёт к концу света», а глава Anthropic Дарио Амодеи в 2025 году оценивал вероятность катастрофического исхода развития ИИ в 25%. Возглавляющий SpaceX Илон Маск в 2023 году в интервью Fox News предупреждал, что ИИ может привести к «уничтожению цивилизации».

«Ответчики знают, что эти системы не всегда действуют в соответствии с их намерениями. И ответчики знают, что не существует надёжного способа контролировать их ИИ-системы и не дать им причинить вред», — говорится в документе.
По словам гендиректора Alliance for Secure AI Брендана Стайнхаузера, руководители отрасли годами предупреждали о рисках, но продолжают гонку за всё более мощными системами и теперь передают исследования и разработку ИИ самому ИИ. Речь идёт о так называемом рекурсивном самосовершенствовании, когда одно поколение моделей создаёт следующее при всё меньшем участии человека.
Требование заморозки
Истцы опираются на калифорнийский закон о недобросовестной конкуренции. Они утверждают, что деятельность компаний угрожает здоровью населения и вынуждает других тратить ресурсы на защиту компьютерных систем, и просят суд запретить ответчикам разрабатывать и внедрять системы мощнее их нынешних передовых моделей. В иске упоминаются и случаи, когда ИИ-агенты во время испытаний без разрешения проникали во внешние компьютерные системы.

Компании не ответили сразу на запросы о комментарии, а Meta от комментариев отказалась, сообщает Reuters. Решения суда пока нет, изложенное в иске остаётся позицией истцов.
В октябре Альтман, Амодеи и Маск высказывались в поддержку общего замедления разработки ИИ в отрасли. Это произошло после того, как сотрудник Anthropic оценил в 10% вероятность того, что ИИ может уничтожить человечество.
Фото: Reuters, AP, Wikimedia Commons