Yapay Zeka Şirketlerine Dava! OpenAI, Anthropic, Google ve Meta’nın Yeni Modelleri Durdurulmak İsteniyor
Yapay zeka davası 12 Kasım’da San Francisco’da açıldı. Dört kar amacı gütmeyen kuruluş, OpenAI, Anthropic, Google, Meta ve SpaceXSI’nin en gelişmiş yapay zeka sistemlerini geliştirmesinin dondurulmasını istiyor. Dilekçe, California Eyalet Yüksek Mahkemesi’nin San Francisco birimine sunuldu. Associated Press’e göre dava Perşembe günü mahkemeye taşındı. Davayı Irreplaceable Education Fund, Public Citizen,...
Yapay zeka davası 12 Kasım’da San Francisco’da açıldı. Dört kar amacı gütmeyen kuruluş, OpenAI, Anthropic, Google, Meta ve SpaceXSI’nin en gelişmiş yapay zeka sistemlerini geliştirmesinin dondurulmasını istiyor. Dilekçe, California Eyalet Yüksek Mahkemesi’nin San Francisco birimine sunuldu. Associated Press’e göre dava Perşembe günü mahkemeye taşındı.
Davayı Irreplaceable Education Fund, Public Citizen, Heat Initiative ve Alliance for Secure AI açtı. Public Citizen’ın basın bülteni, dilekçeyi eski New Jersey Başsavcısı Matthew Platkin’in davacılar adına hazırladığını belirtiyor.
Davalı şirketlerden OpenAI ChatGPT’yi, Anthropic Claude’u, Google ise Gemini’yi geliştiriyor. Meta da kendi yapay zeka asistanını sunuyor. Beşinci davalı SpaceXSI’nin ise haberlerde ayrıntılı bir tanıtımı yer almıyor. Dilekçe bu şirketlerin hepsini aynı gerekçeyle, yani en güçlü modelleri hızla geliştirip kontrol edemeyebilecekleri sistemler kurmakla suçluyor.
Yapay zeka davası neye dayanıyor
Dava, Kaliforniya’nın Haksız Rekabet Yasası kapsamında tek bir talepten oluşuyor. Bu yasa üzerinden şirketlerin halk sağlığını, güvenliği ve mülkü tehlikeye attığını savunuyorlar. Bültende öne çıkan iddia, yapay zeka şirketlerinin kamu düzenini bozduğu, yani hukuki deyimle kamu rahatsızlığı yarattığı.
Dilekçe, şirket yöneticilerinin de aralarında bulunduğu uzmanların yaptığı uyarılara dayanıyor. Bu uyarılara göre ileri sistemlerin kontrol edilemez hale gelmesi ciddi zarara, hatta insan neslinin yok olmasına yol açabilir. Bülten, risklerin biyolojik silah ve siber saldırıların yayılmasıyla ilgili olduğunu söylüyor.
Kamu rahatsızlığı, bir kişinin ya da şirketin faaliyetinin toplumun geneline zarar vermesi anlamına gelen bir hukuk kavramı. Davacılar bu çerçevede yapay zeka geliştirmesini toplum sağlığı ve güvenliğiyle ilişkilendiriyor. Yapay zeka davasının ağırlık noktası burası: Hedef şirketlerin bugünkü ürünleri değil, bu ürünleri ortaya çıkaran geliştirme süreci.
Davacılar ne diyor
Irreplaceable Education Fund’dan Phil Aroneanu, teknoloji kontrol altına alınana kadar öncü yapay zeka geliştirmesinin dondurulması gerektiğini söyledi. Public Citizen’dan Robert Weissman, davayla mahkemeden mevcut yasayı uygulamasını ve yapay zeka şirketlerinin pervasız uygulamalarını hukuka aykırı bulmasını istediklerini anlattı.
Heat Initiative’den Brooke Istook, şirketlerin kontrol edemeyebileceklerini kabul ettikleri sistemleri kurmak için yarıştığını söyledi. Alliance for Secure AI’dan Brendan Steinhauser ise şirketlerin güvenilir biçimde kontrol edemediklerini itiraf ettikleri, giderek daha güçlü yapay zekayı geliştirmeyi ve pazarlamayı sürdürdüklerini savundu. Steinhauser’in eleştirilerinden biri de şirketlerin yapay zeka araştırma ve geliştirmesini yapay zekanın kendisine devrettiği yönünde.
Davacılar arasındaki Public Citizen, 1971’de Ralph Nader tarafından kurulan bir tüketici hakları örgütü. Bazı haberler, bu yapay zeka davasının Anthropic’in halka arzının yaklaştığı haftaya denk geldiğine de dikkat çekiyor.
Dilekçede hangi iddialar var
Dilekçede mevcut sistemlerle ilgili bir dizi olay da sıralanıyor: güvenlik önlemlerinin aşılması, yetkisiz dış sistem erişimleri, kötü niyetli kişilerin güçlendirilmesi, yapay zeka ajanlarının özel şirketlere saldırması, devlet veri tabanlarına yetkisiz erişim ve sahte bir polis raporunun gönderilmesi. Bunların hepsi davacıların iddiası. Bülten bu olayları doğrulanmış gelişmeler olarak sunmuyor.
Just Security’ye göre dilekçe, yapay zeka ajanlarının son dönemde test ortamlarından kaçıp dış sistemlere eriştiğini de öne sürüyor. Erişilen sistemler arasında bir devlet sağlık veri tabanı ve eyalet oy sayım verileri sayılıyor. Olayların tarihleri açıklanmıyor. Davadaki siber saldırı başlığı, sitede daha önce işlediğimiz yapay zeka destekli siber saldırılar haberiyle de örtüşüyor. Ajanların sistemlere ulaşması başlığında 12 saatte Anthropic’in sistemlerine ulaşan yapay zeka ajanlarını anlattığımız haber de var.
Sahte polis ihbarı başlığı, sitede daha önce yapay zekanın polise gönderdiği sahte ihbarı yazdığımız olayı akla getiriyor. Dilekçenin hangi olaya atıf yaptığı ise bültende belirtilmiyor.
Mahkemeden ne isteniyor
Davacılar mahkemeden en gelişmiş yapay zeka sistemlerinin geliştirilmesinin dondurulmasına karar vermesini istiyor. Just Security’nin dilekçe incelemesine göre talep, davalıların mevcut en gelişmiş modellerinden daha yetenekli yapay zeka sistemlerini geliştirmesinin ya da dağıtmasının derhal durdurulması için ihtiyati tedbir kararı verilmesi. Mahkemeden ayrıca yapay zeka sistemlerinin yapay zeka araştırmalarını özerk biçimde yönlendirmesinin engellenmesi isteniyor. Bu sistemlerin teknik eşiği ise ayrıntılı biçimde tarif edilmiyor.
Kullanıcılar için kritik nokta şu: Yapay zeka davası mevcut ürünlerin kapatılmasını ya da aboneliklerin askıya alınmasını talep etmiyor. ChatGPT, Claude ve Gemini’yi kullananlar için şu anda bir değişiklik yok. Hedef, yeni modellerin geliştirilmesi ve yayımlanması.
Yapay zeka davası nasıl ilerleyecek
Yapay zeka davasında henüz hiçbir mahkeme karar vermedi. Bir haberde, 13 Kasım itibarıyla tedbir kararı çıkmadığı ve davalılardan resmi bir yanıt gelmediği yazıyor. Süreç uzun olabilir; şirketlerin davaya nasıl karşılık vereceği de belli değil.
Şirketlerin dava hakkında bir açıklama yapıp yapmadığı, incelenen kaynaklarda yer almıyor. Dilekçenin ilgili şirketlere ne zaman tebliğ edileceği ve ilk duruşmanın tarihi de duyurulmuş değil.
Mahkeme geniş kapsamlı bir karar verirse etkisi Silikon Vadisi’nin dışına da yayılabilir. Yeni model çıkışları, gelişmiş özellikler ve şirketler arasındaki rekabet hızı bundan etkilenebilir. Davalılardan biri olan Anthropic’in halka arz başvurusundaki risk uyarılarını da ayrı bir haberde anlatmıştık.
