Генеральный директор Anthropic Дарио Амодеи заявил, что темпы развития технологий искусственного интеллекта бросают вызов подходам отрасли к вопросам безопасности и что он не до конца осознаёт эти темпы.
Амодеи отметил, что происходящее ускорение должно служить для отрасли предупреждающим сигналом. При этом он добавил, что это не требует немедленно впадать в панику или останавливать все исследования.
Общие правила безопасности для компаний и правительств
Амодеи заявил о необходимости принимать меры, соответствующие темпам развития искусственного интеллекта, и призвал компании объединиться для разработки стандартов безопасности.
Он отметил, что необходимо установить определённые правила, регулирующие скорость вывода систем искусственного интеллекта на рынок, и призвал отрасль сотрудничать с правительствами для их реализации.

Ушедший из Anthropic сотрудник раскритиковал ответственность компаний
Джейкоб Коксон, последние три года работавший исследователем в OpenAI и Anthropic, ушёл из Anthropic, заявив, что компания недостаточно ответственно подходит к вопросам искусственного интеллекта.
Коксон утверждал, что две компании ведут неконтролируемую гонку в разработке систем искусственного интеллекта, способных самостоятельно совершенствоваться. По его словам, за короткий срок эти системы могут превратиться в сверхчеловеческие структуры с широкими возможностями и ресурсами.
Коксон также заявил, что сотрудники отрасли, разрабатывающие модели искусственного интеллекта, всерьёз считают, что эти системы в течение 10 лет могут привести к исчезновению человечества.