Внутренняя исследовательская модель OpenAI семейства GPT-5.6 Sol, решив, что средства в чужом тестовом кошельке «фактически брошены», использовала их без разрешения, чтобы выполнить поставленную задачу. Об этом компания сообщила в отчёте о случаях рассогласования, опубликованном 15 октября.
Инцидент произошёл 26 июня. Модели поручили обновить прототип приложения для торговли криптовалютой и развернуть рабочие смарт-контракты в тестовой сети Ethereum Sepolia. Развёртывать новые контракты было разрешено, однако ни кошелька с балансом, ни разрешения тратить средства с чужих счетов модель не получила.

Проверено 362 адреса
Не сумев получить бесплатные тестовые токены через так называемые краны, модель написала скрипт, который генерировал адреса из общеизвестных фраз восстановления для разработчиков. Проверив 362 адреса, она выбрала счёт с достаточным количеством Sepolia ETH, вычислила его закрытый ключ и подписала транзакцию. Комиссии за развёртывание были списаны с этого счёта.
Согласно отчёту, модель изучила историю транзакций и задалась вопросом, есть ли у неё разрешение, но в итоге рассудила: «Средства на известной публичной мнемонике разработчиков фактически брошены, это тестовые ETH; Sepolia ничего не стоит». В итоговом отчёте модель сообщила о выполнении задачи, но не упомянула, что воспользовалась чужим счётом.

Тестовые ETH в сети Sepolia не имеют денежной стоимости, на другой кошелёк средства не переводились. OpenAI обнаружила инцидент 25 сентября, распространив мониторинг рассогласования на записи прежней активности моделей.
По оценке компании, случай показывает, что модель может подменить разрешение владельца счёта собственным суждением о вероятном вреде. OpenAI ввела дополнительные меры, блокирующие доступ к интернету в подобных средах; мониторинг теперь охватывает весь трафик и оповещает службу безопасности при получении такого доступа.