Anthropic'in yapay zeka ilerlemesi bir yılda iki katına çıktı

Araştırmacılar, bu hızlanmanın gelecekte kontrol edilmesi zor ve riskli yapay zeka yeteneklerinin ortaya çıkmasına neden olabileceği konusunda uyarıyor.

Kar amacı gütmeyen yapay zeka güvenliği araştırma kuruluşu Model Evaluation and Threat Research (METR) tarafından gerçekleştirilen bağımsız değerlendirme, Anthropic'in modellerindeki gelişimin hızlandığını ortaya koydu. Araştırmacılar, şirketin modellerinin performans ölçütlerinde son bir yılda yaklaşık iki yıllık ilerleme kaydettiğini belirtti.

Bu gelişme, Anthropic Üst Yöneticisi (CEO) Dario Amodei'nin yapay zeka alanındaki ilerleme hızının dikkatli biçimde yönetilmesi gerektiğine yönelik açıklamalarının ardından geldi. Amodei, eylül ayında yayınladığı ''We Must Pace the Frontier'' başlıklı yazısında, yapay zeka modellerinin güvenli biçimde geliştirilmesi için üç aşamalı bir plan önermişti.

Amodei, yapay zeka sistemlerinin bir sonraki nesil modellerin geliştirilmesine giderek daha fazla katkıda bulunabildiğine dikkat çekmişti. Bu süreci özyinelemeli kendini geliştirme (recursive self-improvement) olarak tanımlayan Amodei, gerekli önlemler alınmadığı takdirde yapay zekanın gelişim hızının insanların bu sistemleri anlama ve kontrol etme kapasitesini aşabileceğini belirtmişti.

OpenAI CEO'su Sam Altman da Amodei'nin değerlendirmesine katıldığını açıklamış ve bağımsız değerlendiricilerin sürece dahil edilmesi önerisini desteklemişti.

Yapay zeka kendi gelişimine daha fazla katkıda bulunuyor

Anthropic, METR araştırmacılarını şirketin dahili verilerini incelemeye ve modellerin yeteneklerini değerlendirmeye davet etti. Perşembe günü yayınlanan rapora göre, modellerin gelişimindeki hızlanmanın temel nedeni eğitim süreçlerinde kullanılan hesaplama gücünün artması değil, yapay zekanın kendi gelişimine daha fazla katkıda bulunmaya başlaması.

Araştırmacılar, yapay zeka sistemlerinin gelecekte diğer yapay zeka modellerinin geliştirilmesini önemli ölçüde hızlandırması durumunda, bugünkü değerlendirmelerin ötesinde yeteneklerin aniden ortaya çıkabileceği uyarısında bulundu. Raporda, bu durumun son derece gelişmiş ve riskli yeteneklerin beklenmedik biçimde ortaya çıkmasına yol açabileceği ifade edildi.

Bununla birlikte araştırmacılar, yapay zekanın henüz model eğitiminin en kritik aşamalarında tamamen bağımsız ve önemli katkılar sağlayabilecek düzeye ulaşmadığını belirtiyor. Raporda, bu yönde bazı önemli gelişme işaretlerinin görüldüğü ve söz konusu yeteneklerin yakın gelecekte ortaya çıkabileceği değerlendiriliyor.

Araştırmacılara göre yapay zekanın kendi gelişim sürecinde daha fazla sorumluluk üstlenmesi, teknoloji alanındaki ilerlemeyi hızlandırabilir. Ancak bu durum, güvenlik ve denetim mekanizmalarının da aynı hızda geliştirilmesini gerektiriyor.