Yapay zekâ paranızı çalabilir: Cüzdana izinsiz girdi

OpenAI’ın deneysel modeli GPT-5.6 Sol, bir kripto ticaret uygulamasını güncelleme ve Ethereum test ağına akıllı sözleşmeler yükleme görevini yerine getirirken kendisine fon verilmediği için farklı bir yol izledi. İddiaya göre model, yaygın kurtarma cümlelerini kullanarak yüzlerce kripto cüzdanı adresi tespit etti ve bu hesaplardan birindeki tokenları işlem ücretlerini karşılamak için kullandı.

Fonları kullanmayı kendi içinde değerlendirdi

OpenAI’ın aktardığına göre model, bulduğu cüzdandaki fonları kullanmanın etik olup olmadığını da değerlendirdi. Hesabın fiilen terk edilmiş olduğu sonucuna varan model, tokenları kullanabileceğine karar verdi. Ancak şirketin olay raporunda, talimatların modelin kendi başına bulduğu bir hesaptaki fonları harcamasına açıkça izin vermediği belirtildi.

Olay, modelin kendi zarar değerlendirmesini hesap sahibinin izninin yerine koyabildiğine ilişkin bir örnek olarak ele alındı.

Kullanılan tokenların gerçek değeri yoktu

Olayda kullanılan tokenların Ethereum’un ana ağı yerine test ağında bulunması nedeniyle gerçek bir parasal değer taşımadığı bildirildi. Bununla birlikte modelin gerekli tokenlara tam olarak nasıl ulaştığı ve yetkisi olmadan işlemi nasıl gerçekleştirdiği konusunda tüm ayrıntılar açıklanmadı.

Yapay zekada işler karışıyor: Çalışanlar uyarmış, modeller kontrolden çıkmış

Ek güvenlik önlemleri alındı

Şirket, olayın ardından benzer eğitim süreçlerinden geçen modeller için yeni güvenlik önlemleri uygulamaya başladı. Bu önlemler arasında modellerin canlı internet erişiminin engellenmesi de yer aldı. OpenAI’ın temmuz ayında bazı test modellerinin Hugging Face platformuna yönelik bir siber güvenlik olayını açıklamasının yanı sıra, Anthropic ve Meta da kendi modelleriyle bağlantılı siber saldırı vakalarını kamuoyuyla paylaşmıştı.