Anthropic uyardı: Yapay Zeka raydan çıktı

ABD’li yapay zeka şirketi Anthropic, “When AI Builds Itself” (Yapay Zeka Kendini Ürettiğinde) başlıklı raporuyla yapay zekanın ulaştığı son aşamaya ilişkin dikkat çekici değerlendirmelerde bulundu. Şirket, bir yapay zeka modelinin insan müdahalesi olmaksızın kendi halefini tasarlayıp eğitebildiği teorik eşiğin sanılandan çok daha yakın olduğunu vurguladı.

Kodların büyük bölümünü yapay zeka yazıyor

Raporda, Anthropic’in geliştirdiği Claude sisteminin üretim ortamında kullanılan kodlarının yüzde 80’den fazlasının doğrudan yapay zeka tarafından yazıldığı belirtildi. Şirket, 2025 yılının başlarında bu oranın yalnızca tek haneli seviyelerde olduğunu hatırlatarak, kısa sürede yaşanan ilerlemenin dikkat çekici boyutlara ulaştığını ifade etti.

Ajan yapay zekalar kendi kodunu yazıyor

Anthropic, yapay zekanın gelişimini beş aşamada ele aldı. İlk aşamada çalışanların tamamen insan olduğu klasik çalışma düzeni yer alırken, ikinci aşamada üretken yapay zekaların kod geliştirme süreçlerine yardımcı olduğu dönem tanımlanıyor. Üçüncü aşamada ise ajan yapay zekaların kendi başlarına kod yazabildiği belirtiliyor.

Şirket, bugün gelinen noktayı dördüncü aşama olarak değerlendiriyor. Bu aşamada yapay zeka sistemlerinin kendi yazdığı kodları çalıştırabildiği, görevleri başka yapay zeka ajanlarına devredebildiği ve karmaşık süreçleri yönetebildiği ifade ediliyor.

Kendi kendini geliştiren yapay zeka modelleri

Rapora göre beşinci ve son aşamada yapay zeka ajanları, kendi başlarına yeni modeller oluşturup eğitebilecek kapasiteye ulaşacak. Böyle bir senaryoda gelecekteki yapay zeka sürümlerinin önemli ölçüde yine yapay zekalar tarafından geliştirilmesi mümkün hale gelebilecek.

‘Yapay zekayı durduralım’ çağrıları

Yapay zekanın hızlı gelişimi, küresel ölçekte çeşitli endişeleri de beraberinde getiriyor. Future of Life Institute tarafından 2023 yılında yayımlanan ve Elon Musk’ın da aralarında bulunduğu çok sayıda isim tarafından imzalanan açık mektupta, GPT-4’ten daha güçlü sistemlerin geliştirilmesine en az altı aylık ara verilmesi çağrısı yapılmıştı.

Mektupta, yapay zekanın kontrolsüz gelişiminin dezenformasyon, kitlesel iş kayıpları ve demokratik süreçlerin zarar görmesi gibi riskler doğurabileceği belirtilmişti. Benzer şekilde Papa 14. Leo da yayımladığı genelgede yapay zekanın askeri, ekonomik ve bilişsel rekabet unsuru olmaktan çıkarılması gerektiğini savunmuştu.

Yatırımlar ise hız kesmiyor

Tüm uyarılara rağmen yapay zeka sektörü büyümeye devam ediyor. Gartner’ın Mayıs 2026 tarihli raporuna göre küresel yapay zeka harcamalarının bu yıl 2,59 trilyon dolara ulaşması bekleniyor. Bu rakam, 2025 yılına göre yüzde 47’lik artış anlamına geliyor.

Araştırma şirketi, yapay zeka harcamalarının 2027 yılında ise 3,49 trilyon dolara yükseleceğini öngörüyor. Uzmanlar, sektöre yönelen dev yatırımların yapay zeka çalışmalarının yavaşlatılması veya durdurulması yönündeki çağrıların önündeki en büyük engellerden biri olduğunu değerlendiriyor.