Anthropic'ten yapay zeka uyarısı: Kontrol kaybı olabilir

Yapay zeka şirketi Anthropic, yapay zeka sistemlerinin yazılım geliştirme ve araştırma süreçlerini giderek daha fazla insan müdahalesi olmadan yürütebildiğini, bu eğilimin devam etmesi halinde kendi kendini geliştirebilen sistemlere dönüşebileceğini açıkladı.

Şirketin kurucu ortağı Jack Clark ile Anthropic Enstitüsü lideri Marina Favaro tarafından kaleme alınan “Yapay zeka kendini inşa ettiğinde” başlıklı blog yazısı yayımlandı.

Yazıda, geçmişte yapay zeka geliştirme sürecinin büyük bölümünün insanlar tarafından yürütüldüğü, ancak Anthropic’te bu sürecin giderek daha fazla yapay zeka sistemlerine devredildiği ve bunun geliştirme hızını artırdığı belirtildi.

Kendi haleflerini geliştirebilirler

Bu eğilimin sürmesi halinde yapay zeka sistemlerinin kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşabileceğine işaret edilen yazıda, bunun “özyinelemeli kendini geliştirme” (recursive self-improvement) olarak adlandırıldığı aktarıldı.

Yazıda, “Henüz o noktada değiliz ve özyinelemeli kendini geliştirme kaçınılmaz değil. Ancak çoğu kurumun hazırlandığından daha erken gerçekleşebilir.” ifadesine yer verildi.

Kontrol kaybı riskine dikkat çekildi

Teknik eğilimlerin yapay zeka sistemlerinin önümüzdeki yıllarda çok daha yetenekli hale geleceğini gösterdiği belirtilen yazıda, kendi kendini inşa edebilen yapay zekanın bilim, sağlık ve birçok alanda önemli faydalar sağlayabileceği kaydedildi.

Ancak yazıda, “özyinelemeli kendini geliştirmenin” insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini de artırabileceğine dikkat çekildi.

“Sistemler kendi haleflerini tamamen inşa edebilecek kapasiteye sahipse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir.” değerlendirmesine yer verilen yazıda, toplumsal yapıların teknolojideki ilerlemeye uyum sağlayabilmesi için ileri düzey yapay zeka geliştirme sürecinin yavaşlatılması veya geçici olarak durdurulması seçeneğinin değerlendirilmesinin yararlı olabileceği belirtildi.

Yazıda ayrıca, bunun birden fazla güçlü laboratuvar tarafından ve birden fazla ülkede eş zamanlı olarak uygulanmasının anlamlı olacağı ifade edildi.