OpenAI’ın robotik biriminin başındaki isim olan Caitlin Kalinowski, şirketin ABD Savaş Bakanlığı ile imzaladığı anlaşmanın çok aceleye getirildiğini ve yapay zekanın askeri alanlarda kullanımına dair gerekli güvenlik sınırlarından yoksun olduğunu belirterek cumartesi günü istifa etti.
Meta’da artırılmış gerçeklik geliştirme süreçlerini yönettikten sonra Kasım 2024’te OpenAI kadrosuna katılan Kalinowski; San Francisco’daki laboratuvarda ev işleri için eğitilen bir robotik kol projesi de dâhil olmak üzere, şirketin robotik departmanını ve tüketici donanım girişimlerini yönetiyordu.
İstifa kararını açıklayan Kalinowski, durumu şu sözlerle ifade etti: “Yapay zekanın ulusal güvenlikte önemli bir rolü var. Ancak Amerikalıların yargı denetimi olmaksızın gözetlenmesi ve insan onayı olmaksızın ölümcül otonomi, olduğundan çok daha fazla müzakere edilmeyi hak eden sınırlardır.”
Ayrılık gerekçesini net bir şekilde ortaya koyan yönetici, “Bu mesele insanlarla değil, ilkelerle ilgiliydi.” dedi. Kalinowski, daha sonra yaptığı bir başka paylaşımda ise temel endişesinin izlenen prosedürle ilgili olduğunun altını çizerek şu açıklamayı yaptı: “Açık olmak gerekirse benim sorunum, gerekli güvenlik sınırları belirlenmeden bu duyurunun aceleye getirilmiş olmasıdır. Bu her şeyden önce bir yönetişim endişesidir. Bunlar, anlaşmaların veya duyuruların aceleye getirilmesi için fazlasıyla önemli konulardır.”
Pentagon Anlaşması ve Arka Planı
Şubat ayının sonlarında kamuoyuna duyurulan ve OpenAI ile ABD Savaş Bakanlığı arasında yapılan sözleşme, orduya gizli bulut ağları üzerinden şirketin yapay zeka modellerine erişim hakkı tanıyor. Bu kritik mutabakat, teknolojinin istihbarat analizlerini, siber güvenlik operasyonlarını ve askeri lojistiği desteklemesine olanak sağlıyor.
Bu hamle, rakip şirket Anthropic’in sadece saatler önce benzer şartları reddetmesinin hemen ardından geldi. Anthropic masada iki temel şart öne sürmüştü: Kendi modellerinin tam otonom silahlarda kullanımının yasaklanması ve Amerikan vatandaşlarına yönelik kitlesel iç gözetimin engellenmesi. Pentagon ise teknolojinin “tüm yasal amaçlar” doğrultusunda koşulsuz bir şekilde kullanılmasında ısrar etti.
Anthropic bu talepleri geri çevirince, Savunma Bakanı Pete Hegseth şirketi ulusal güvenlik açısından bir tedarik zinciri riski olarak etiketledi; ki bu sınıflandırma genellikle yalnızca düşman ulusların firmaları için kullanılan son derece ağır bir tabirdir.
Rakiplerinin çekilmesinin ardından OpenAI, anlaşmayı güvence altına almak adına hızla harekete geçti. CEO Sam Altman sözleşmeyi doğrularken, otonom silahların geliştirilmesini ve kitlesel iç gözetimi engellemek amacıyla sözleşme diline bazı teknik korumaların eklendiğini belirtti. Şirket ayrıca, Amerikan hükümetinden benzer kuralları tüm yapay zeka firmalarına uygulamasını talep etti.
Buna karşın Altman, sürecin yönetiminde hatalar yapıldığını sonradan kabul etti. Çalışanlarına yaptığı bir konuşmada, yapılan duyurunun “fırsatçı” göründüğünü ve anlaşmayı kamuoyuna açıklamak için bu kadar acele etmemeleri gerektiğini dile getirdi.
OpenAI İçinde ve Dışında Yükselen Tepkiler
Kalinowski’nin istifası, söz konusu anlaşmanın duyurulmasından bu yana şirket içinden gelen en üst düzey tepki olsa da kesinlikle tek itiraz değildi. Bazı OpenAI çalışanları, Anthropic’in elinin tersiyle ittiği şartların kabul edilmesinden duydukları rahatsızlığı kendi içlerinde zaten dile getiriyordu. Dahası, Google ve OpenAI bünyesinde çalışan 330’u aşkın profesyonel, Anthropic’in duruşunu destekleyen açık bir mektuba imza attı.
Kamuoyunun bu olaylara verdiği tepki ise oldukça sarsıcı oldu. Anlaşmanın açıklanmasını izleyen günlerde ChatGPT’nin kullanımı %295 oranında büyük bir artış gösterdi. Öte yandan Anthropic’in Claude uygulaması, şubat ayının büyük bölümünde lider olan ChatGPT’nin yerini alarak ABD’deki Apple App Store’da zirveye yerleşti.
Anthropic cephesinden gelen raporlara göre şirketin ücretsiz kullanıcı tabanı ocak ayından bu yana %60’ın üzerinde genişledi, günlük yeni kayıtlar kasım ayından beri üç katına çıktı ve aynı zaman diliminde ücretli abonelerin sayısı iki katından fazla arttı.
Tartışmaların Merkezinde Ne Var?
Yaşanan bu gerilim, basit bir kurumsal rekabetin çok ötesinde derin soruları gündeme taşıyor. Tartışmaların odak noktasında, yapay zeka devlerinin kendi teknolojilerinin askeri kullanımlarına etik kısıtlamalar getirip getirmemesi gerektiği ve bu sınırları kimin belirleme yetkisine sahip olacağı konusu yer alıyor.
Kalinowski’nin dile getirdiği kaygılar, yapay zeka yönetişimi uzmanlarının uzun zamandır dikkat çektiği iki temel riski yeniden alevlendiriyor:
- Ölümcül Otonomi: Yapay zeka sistemlerinin savaş alanında hiçbir anlamlı insan denetimi olmaksızın ölüm kalım kararları verebileceği senaryodur.
- Kitlesel İç Gözetim: Sivillerin yargı kararı olmaksızın büyük ölçeklerde izlenmesi için yapay zekanın kullanılması tehlikesidir.
OpenAI yetkilileri, mevcut sözleşmeleri kapsamında her iki durumun da kesinlikle yasak olduğunu savunuyor. Şirket, cumartesi günü yaptığı açıklamada kendi “kırmızı çizgilerinin” hâlâ geçerliliğini koruduğunu bir kez daha yineledi.
Konuya ilişkin bir şirket sözcüsü şu ifadeleri kullandı: “İnsanların bu konularda güçlü görüşlere sahip olduğunun farkındayız ve çalışanlarımızla, hükümetle, sivil toplumla ve dünya çapındaki topluluklarla tartışmalara katılmaya devam edeceğiz.”
OpenAI’ın verdiği bu güvencelerin yeterli olup olmadığı ve sistemi destekleyen yönetişim yapılarının gerçekten sağlam temellere oturup oturmadığı, Kalinowski’nin istifasıyla birlikte sorulan en kilit sorular olmaya devam ediyor.
