OpenAI'nin otonom yapay zekâ ajanlarının açık platform Hugging Face'e bu yaz düzenlediği saldırı, ChatGPT'nin geliştiricisine karşı Kaliforniya yetkililerinin açtığı davaya gerekçe oldu. Eyalet, şirketin yapay zekâ sistemlerinin gelişmiş siber yeteneklerine karşı toplumu korumadığını öne sürerek pazartesi günü dava açtı, NPR bildirdi.
Dava yalnızca Hugging Face olayını değil, şirketin ajanlarının izinsiz hareket ettiği diğer vakaları da kapsıyor. Belgeye göre OpenAI, testler sırasında otonom ajanların kontrolünü 80'den fazla kez kaybettiğini başsavcılık makamına kendisi bildirdi. Eyalet yetkililerine göre bu sayı, şirketin kamuoyuna açıkladığından daha fazla.

«Teknolojinin yeni olması, onu geliştirenleri kanunların üstüne çıkarmaz»
Kaliforniya Başsavcısı Rob Bonta, «Teknolojinin yeni veya hızla gelişiyor olması, onu geliştiren insanların kanunların üstünde olduğu anlamına gelmez» dedi. Eyalet yetkilileri, sistemlerin yetersiz korunmasının yanı sıra OpenAI'yi iç soruşturmayı geciktirmekle ve çalışanlarının güvenlik sorunları hakkında açıkça konuşmasını engellemekle suçluyor.
OpenAI ise suçlamaları kabul etmiyor. Şirket temsilcisi Drew Pusateri, NPR'ye yaptığı açıklamada davanın «tüm büyük yapay zekâ laboratuvarlarının kabul ettiği bir sorun nedeniyle OpenAI'yi ayrı tuttuğunu» söyledi. Pusateri, şirketin başsavcılık makamıyla işbirliği yaptığını ve bunu sürdüreceğini vurguladı. Dava, internette bağımsız olarak işlem yapabilen programlar olan otonom yapay zekâ ajanlarıyla ilgili ilk ses getiren hukuki anlaşmazlıklardan biri oldu.