Yapay Zeka Kendini Üretebilir Mi Anthropic Raporuyla Gündemde
Yapay zeka kendi kodlarını yazarak insansız evrimleşme eşiğine yaklaşırken, Anthropic raporu kritik uyarılar yapıyor. Kendi halefini tasarlayan AI’lar için 5 aşamalı gelişim ve durdurma çağrıları.
Yapay zeka teknolojilerinin kendi kodlarını yazarak insansız şekilde evrimleşebileceği eşiğe yaklaşmasıyla birlikte, ABD merkezli yapay zeka şirketi Anthropic’in “When AI builds itself” başlıklı raporu dikkat çekti. Rapor, yapay zekanın kendi halefini tasarlayıp eğitebildiği teorik eşiğin sanılandan daha yakın olduğunu ve otonom yazılım döngülerinin kurulduğunu ortaya koyuyor.
Anthropic, yapay zekanın kendi kodlarını oluşturma sürecinde önemli bir gelişme yaşandığını belirtti. Şirketin Claude yazılım sisteminde, modele entegre edilen kodların yüzde 80’inden fazlasının doğrudan yapay zeka tarafından yazıldığı ifade edildi. Bu oranın 2025 yılı başlarında tek haneli rakamlarda olduğu vurgulandı.
Yapay Zeka Gelişiminde 5 Aşamalı Yolculuk
Anthropic, yapay zekadaki gelişimi beş aşamada sınıflandırıyor. İlk aşamada yapay zeka ile çalışma normal bir şirket işleyişi gibiydi. İkinci aşamada (2023-2025) çalışanlar üretken yapay zekalardan yardım alarak kod yazmaya başladı. Üçüncü aşamada (2025-2026) ajan yapay zekalar kendi kendine kod yazabilir hale geldi.
Bugün gelinen dördüncü aşamada ise yapay zeka, kodları kendi kendine çalıştırıp işleri diğer yapay zekalara devredebilme yeteneği kazandı. Şirketin öngördüğü beşinci ve son aşamada ise ajanlar kendi başlarına modeller oluşturup eğitebilecek yeteneğe ulaşacak. Bu gerçekleştiğinde, yapay zekanın gelecekteki sürümleri bizzat kendisi tarafından sürekli geliştirilecek.
Yapay Zekayı Durdurma Çağrıları ve Riskler
Anthropic’in raporu, daha önce de yapılan yapay zekanın durdurulması yönündeki çağrıları yeniden gündeme getirdi. Mart 2023’te Future of Life Institute (FLI) tarafından yayımlanan ve Elon Musk gibi isimlerin imzaladığı mektupta, GPT-4’ten daha güçlü sistemlerin eğitiminin en az altı ay süreyle durdurulması talep edilmişti. Mektupta, insan zekasıyla yarışan sistemlerin dezenformasyon, kitlesel iş kayıpları ve medeniyet kontrolünün kaybı gibi derin riskler taşıdığı vurgulandı.
Mayıs ayında Papa 14. Leo’nun genelgesi de yapay zekanın yalnızca teknik olarak durdurulmasını değil, askeri, ekonomik ve bilişsel rekabet zihniyetinden arındırılarak silahsızlandırılmasını istedi. Bu çağrılar, yapay zekanın potansiyel risklerine karşı artan endişeleri yansıtıyor.
Yorum Yap