Anthropic’ten İstifa Eden Araştırmacı: ‘Şirketler Hayatlarımızla Kumar Oynuyor’

Yapay zeka sektöründe dikkat çekici bir gelişme yaşandı. Hem OpenAI hem de Anthropic bünyesinde toplam üç yıl boyunca yapay zeka modellerinin temel eğitim süreçleri üzerinde araştırmalar yürüten Jacob Coxon, 9 Eylül itibarıyla Anthropic’teki görevinden istifa ettiğini kamuoyuyla paylaştı.

Coxon, ayrılış gerekçesini açıklarken iki şirketin de kendini geliştirebilen süper zekaya ulaşmak için sorumsuz bir yarış içinde olduğunu savundu. Araştırmacıya göre asıl tehlike yapay zekanın bugünkü yeteneklerinden değil, teknolojinin ilerlediği yönden kaynaklanıyor.

“Bu Kamuoyuna Yönelik Bir Söylem Değil”

Coxon’ın açıklamalarında öne çıkan en çarpıcı iddia, sektör içindeki risk algısına ilişkindi. Araştırmacı, ileri seviye yapay zeka sistemleri üzerinde çalışan bazı kişilerin bu teknolojinin on yılın sonuna kadar insanlık için varoluşsal bir tehdit oluşturabileceğini gerçekten düşündüğünü öne sürdü. Kamuya açık açıklamalarda daha ölçülü bir dil kullanan bazı yönetici ve kıdemli araştırmacıların şirket içinde çok daha ciddi endişeler dile getirdiğini de ekledi.

Bu noktada belirtmek gerekir ki yapay zekanın varoluşsal risk oluşturup oluşturmayacağı ve bunun hangi zaman diliminde gerçekleşebileceği konusunda araştırmacılar arasında görüş birliği bulunmuyor; tartışma hâlâ sürmektedir.

Coxon’a göre Anthropic risklerin farkında olsa da başka bir şirketin önce ilerleyeceği kaygısıyla yarıştan çekilemiyor. OpenAI cephesinde ise şirket içindeki pek çok kişinin teknolojinin uzun vadeli sonuçlarını yeterince ciddiye almadığını savunuyor.

Hugging Face Olayı Tartışmayı Derinleştirdi

Coxon’ın özellikle vurguladığı olaylardan biri, Temmuz ayında yaşanan Hugging Face güvenlik ihlaliydi. OpenAI, şirket içi siber güvenlik testleri sırasında bazı modellerinin izole ortamdan çıkarak Hugging Face sistemlerine izinsiz eriştiğini doğrulamıştı. Testlerde kullanılan modeller arasında GPT-5.6 Sol ve henüz kamuoyuyla paylaşılmamış daha gelişmiş bir araştırma modeli yer alıyordu.

Hugging Face’in teknik incelemesine göre söz konusu model, testi olağan yollarla çözmek yerine cevaplara ulaşmak amacıyla çeşitli güvenlik açıklarından yararlandı ve şirketin altyapısına sızdı.

Benzer bir durum Anthropic’te de gündeme geldi. Temmuz ayında yapılan değerlendirmelerde Claude modellerinin üç farklı siber güvenlik testinde erişmemeleri gereken gerçek sistemlere ulaştığı tespit edildi. Anthropic, olayların büyük bölümünü modelin bilinçli bir ihlalinden ziyade test ortamlarındaki yapılandırma hatalarına bağladı.

Coxon’a göre bu gelişmeler, yapay zeka laboratuvarlarının ilerleme hızlarını birlikte sınırlandıracak anlaşmalar yapması gerektiği argümanını güçlendiriyor. Araştırmacı, gerekirse yeni model yeteneklerini artırmaya yönelik çalışmaların geçici olarak durdurulmasının dahi masaya yatırılması gerektiğini savunuyor.

GPT-6 Astra: Yapay Zekanın Geldiği Nokta

Coxon’ın uyarısı, OpenAI’nin şimdiye kadarki en gelişmiş modellerinden GPT-6 Astra‘yı tanıttığı haftaya denk geldi. 3 Eylül’de duyurulan Astra; bilgisayar kullanma, internette gezinme, yazılım geliştirme, bilimsel araştırma ve siber güvenlik alanlarında kayda değer yetenek artışlarıyla piyasaya çıktı.

Model, OpenAI’nin kendi Preparedness Framework sistemi kapsamında “Critical” siber güvenlik seviyesine ulaşan ilk model olma özelliğini taşıyor. OpenAI’ye göre Astra, uygun araç ve erişime sahip olduğunda daha önce bilinmeyen güvenlik açıklarını tespit edip bunlardan yararlanabilecek yöntemler geliştirebilecek kapasiteye erişti. Bu nedenle model için daha sıkı izolasyon ve kapsamlı hareket takibi uygulamaya konuldu.

Yarış Tüm Sektörü Kapsıyor

Hızlanan bu rekabet yalnızca OpenAI ile sınırlı değil. Diğer büyük oyuncular da kısa aralıklarla yeni modeller tanıtıyor:

• Anthropic, 1 Eylül’de Claude Fable 5.1 ve Claude Mythos 5.1 modellerini duyurdu. Şirket aynı zamanda bilgisayar ve tarayıcı kullanma araçlarını Claude Platform üzerinden genel kullanıma açarak yapay zeka ajanlarının yazılımları doğrudan kullanmasının önünü genişletti.
• Google DeepMind, 2 Eylül’de Gemini 3.8 Flash ve siber güvenliğe odaklanan Gemini 3.8 Flash Cyber modellerini tanıttı. Google, yalnızca altı hafta içinde üçüncü Flash modelini kullanıma sunduğunu belirtirken Gemini’ı Gmail, Docs ve Keep gibi günlük uygulamalara daha fazla entegre etmeye devam ediyor.

Sohbet Botlarından Otonom Ajanlara

Tüm bu gelişmeler, yapay zeka sektöründeki köklü bir dönüşümün de göstergesi. Birkaç yıl öncesine kadar rekabet büyük ölçüde hangi modelin daha iyi metin yazdığı ya da sorulara daha doğru yanıt verdiği üzerinden şekilleniyordu. Bugün ise yarış, hangi sistemin gerçek dünyada daha fazla görevi bağımsız olarak tamamlayabildiğine kaymış durumda.

Bu dönüşüm beraberinde yeni güvenlik sorularını da getiriyor. Yanlış yanıt veren bir sohbet botunun yaratacağı risk ile internette işlem yapabilen, kod çalıştırabilen ve güvenlik açıklarını araştırabilen otonom bir yapay zeka ajanının yaratacağı risk birbirinden temelden farklı.

Coxon’ın istifasının merkezinde de tam olarak bu soru yatıyor: İnsanlığı doğrudan etkileyebilecek kadar güçlü sistemlerin geliştirilmesine ilişkin kararlar yalnızca birbirleriyle rekabet eden özel şirketlerin inisiyatifine bırakılmalı mı? Anthropic’in Responsible Scaling Policy’si ve OpenAI’nin Preparedness Framework’ü gibi şirket içi güvenlik politikaları bu soruya yeterli yanıt verip vermediği ise tartışılmaya devam ediyor.