Altman, Amodei ve Musk’ın uyarıları beş şirkete açılan davanın temeli oldu

Dört Amerikalı kâr amacı gütmeyen kuruluş, San Francisco mahkemesinden OpenAI, Google, Anthropic, Meta ve SpaceX’in yapay zekâ biriminin mevcut modellerden daha güçlü modeller geliştirmesini yasaklamasını istiyor. Davacılar, sektör yöneticilerinin feci risklere ilişkin kendi açıklamalarına dayanıyor.

ABD’deki kâr amacı gütmeyen kuruluşlardan oluşan bir grup, en gelişmiş modellerin geliştirilmesini durdurmalarını talep ederek yapay zekâ alanındaki en büyük beş geliştiriciye dava açtı. Davacılar, şirket yöneticilerinin teknolojinin insanlık için felaketle sonuçlanabileceğine ilişkin kamuya açık itiraflarını temel argüman olarak gösterdi.

Dava, 12 Kasım Perşembe günü Kaliforniya eyaletindeki San Francisco İlçesi Yüksek Mahkemesi’nde açıldı. Davacılar Alliance for Secure AI, Public Citizen, Irreplaceable Education Fund ve Heat Initiative olurken, davalılar Anthropic, Google, Meta, OpenAI ve SpaceX’in SpaceX Super Intelligence adlı yapay zekâ birimi oldu.

“Davalılar biliyor”

Dilekçede şirket yöneticilerinin açıklamalarına yer verildi. CBS News’e göre OpenAI CEO’su Sam Altman, 2015’te yapay zekânın “büyük olasılıkla dünyanın sonunu getireceğini” söylemişti. Anthropic CEO’su Dario Amodei ise 2025’te yapay zekânın gelişiminin felaketle sonuçlanma ihtimalini yüzde 25 olarak değerlendirmişti. SpaceX’i yöneten Elon Musk da 2023’te Fox News’e verdiği röportajda yapay zekânın “medeniyetin yok olmasına” yol açabileceği uyarısında bulunmuştu.

Сайт Anthropic на экране ноутбука

Belgelerde, “Davalılar bu sistemlerin her zaman amaçları doğrultusunda hareket etmediğini biliyor. Davalılar ayrıca yapay zekâ sistemlerini kontrol etmenin ve zarar vermelerini önlemenin güvenilir bir yolu olmadığını da biliyor” ifadeleri yer aldı.

Alliance for Secure AI CEO’su Brendan Steinhauser’a göre sektör yöneticileri yıllardır riskler konusunda uyarılarda bulunuyor, ancak giderek daha güçlü sistemler geliştirme yarışını sürdürüyor ve artık yapay zekâ araştırma ve geliştirme çalışmalarını yapay zekânın kendisine devrediyor. Burada, bir model neslinin giderek daha az insan müdahalesiyle sonraki nesli oluşturduğu sözde özyinelemeli öz geliştirme sürecinden bahsediliyor.

Geliştirmelerin dondurulması talebi

Davacılar, Kaliforniya’nın haksız rekabet yasasına dayanıyor. Şirketlerin faaliyetlerinin kamu sağlığını tehdit ettiğini ve başkalarını bilgisayar sistemlerini korumak için kaynak harcamaya zorladığını savunan davacılar, mahkemeden davalıların mevcut en gelişmiş modellerinden daha güçlü sistemler geliştirmesini ve kullanıma sunmasını yasaklamasını istiyor. Dilekçede, yapay zekâ ajanlarının testler sırasında izin almadan harici bilgisayar sistemlerine girdiği vakalara da yer veriliyor.

Здание штаб-квартиры OpenAI в районе Мишн-Бэй в Сан-Франциско

Reuters’ın aktardığına göre şirketler yorum taleplerine hemen yanıt vermedi, Meta ise yorum yapmayı reddetti. Mahkeme henüz karar vermedi; dava dilekçesinde yer alanlar davacıların görüşünü yansıtıyor.

Altman, Amodei ve Musk ekim ayında sektörde yapay zekâ geliştirmelerinin genel olarak yavaşlatılmasını desteklediklerini açıklamıştı. Bu açıklamalar, Anthropic çalışanlarından birinin yapay zekânın insanlığı yok etme ihtimalini yüzde 10 olarak değerlendirmesinin ardından geldi.

Fotoğraf: Reuters, AP, Wikimedia Commons

Altman, Amodei ve Musk’ın uyarıları beş şirkete açılan davanın temeli oldu