Google DeepMind, AGI Tartışmasını Genişletmek İçin Enstitü Kurdu

Google ve Google DeepMind araştırmacıları, yapay genel zekâ (AGI) üzerine tartışmayı genişletmek amacıyla DeepMind Institute’u kurdu. Enstitünün yöneticileri arasında DeepMind’ın kurucu ortağı Shane Legg, Google yöneticisi James Manyika ve DeepMind başkanı Demis Hassabis bulunuyor; Legg yayın yönetmeni olarak görev yapıyor. Duyuru enstitünün web sitesinde yapıldı; TechCrunch 17 Eylül 2026’da ayrıntıları aktardı.

Enstitü Ne Yapmayı Hedefliyor?

Enstitü, Google, Google DeepMind ve daha geniş araştırma topluluğu arasındaki farklı görüşleri görünür kılmayı amaçlıyor. Duyuruya göre bu görüşler her zaman örtüşmeyecek ve hızlı ilerleyen alanda yeni veriler geldikçe değişebilecek. İlk seride dört deneme yayımlandı: AGI’nin olası yıkıcı etkisini yönetmeye yönelik ekonomi politikaları, insanların okuyabileceği model akıl yürütmesinin korunması, insanın gelişimine ilişkin ilkeler ve frontier yapay zekâ modelleri için bir değerlendirme çerçevesi.

Akıl Yürütme Şeffaflığı Savunusu

DeepMind güvenlik araştırmacıları Rohin Shah ve Anca Dragan’ın denemesi, yapay zekâda adım adım akıl yürütmeyi görüp denetleme imkânının daralmasının kaçınılmaz olmadığını savunuyor. Yeni mimariler en güçlü modelleri izlemeyi zorlaştırdıkça geliştiricilerin ve düzenleyicilerin bu ödünleşimle yüzleşmesi gerektiği belirtiliyor. Önerilerden biri, modelin okunabilir bir akıl yürütme izi üretmeden yapabildiği ardışık hesaplama miktarını, yani “opak seri derinliği” sınırlamak. Bir diğeri, daha az şeffaf sistemlerin de aynı ölçüde izlenebilir kaldığını geliştiricilerin kanıtlamasını istemek.

Hassabis’in Standart Kurumu Önerisi

Hassabis’in denemesi, en gelişmiş modelleri değerlendirecek ABD öncülüğünde bir frontier yapay zekâ standartları kurumunu öneriyor. Çerçevede geliştiriciler modellerini yayından 30 güne kadar önce gönüllü olarak incelemeye sunacak. Sistem etkinliğini kanıtlarsa testleri geçmek, ABD’de frontier modelleri kullanıma açmanın koşulu hâline gelebilecek. Kurum başlangıçta değerlendirmeleri yapay zekâ şirketleriyle istişare ederek tasarlayacak, zamanla ise laboratuvarların modelleri bilinen testlere göre ayarlamasını önlemek için bağımsız ve açıklanmayan “gizli” testler geliştirecek. Hassabis, çerçevenin durumun ciddiyeti gerektirirse sıkılaştırılabileceğini, bunun frontier geliştiriciler arasında koordineli bir yavaşlamayı da içerebileceğini söylüyor.

Sektör İçin Ne Anlama Geliyor?

TechCrunch’a göre denemeler, güvenlik tartışmasının genel endişe beyanlarından ifşa, dış denetim ve gerekirse koordineli yavaşlama gibi somut önerilere kaydığı bir dönemde geliyor. Bu ivme, sektör liderlerinin Anthropic CEO’su Dario Amodei’nin frontier gelişimini “tempolandırma” çağrısının bazı unsurlarını desteklemesiyle hızlandı. DeepMind’ın AGI yaklaşımına dair daha önce yayımladığımız Koray Kavukcuoğlu söyleşisini da okuyabilirsiniz.

Sektör Profesyonelleri İçin Çıkarımlar

• Düzenleme sinyallerini izleyin: Gönüllü ön inceleme önerileri, ileride model kullanımını etkileyecek kurallara dönüşebilir; ürün yol haritanızda bu olasılığı hesaba katın.
• Şeffaflığı tedarikçi kriterine ekleyin: Kullandığınız modelin akıl yürütme izlerinin ne ölçüde görülebildiğini sözleşme ve seçim aşamasında sorun.
• Bağımsız değerlendirme talep edin: Model sağlayıcılarının kendi testleri dışında üçüncü taraf değerlendirmelere açık olup olmadığını öğrenin.
• Görüş farklılıklarını okuyun: Enstitünün amacı tek bir görüş sunmak değil; kurum içi risk değerlendirmenizde farklı denemeleri birlikte değerlendirin.

Sıkça Sorulan Sorular

DeepMind Institute nedir?

Google ve Google DeepMind araştırmacılarının AGI üzerine tartışmayı genişletmek için kurduğu, denemeler yayımlayan bir enstitü. Shane Legg yayın yönetmeni olarak görev yapıyor.

İlk denemeler hangi konuları kapsıyor?

AGI kaynaklı ekonomik bozulmayı yönetecek politikalar, insan tarafından okunabilir model akıl yürütmesinin korunması, insanın gelişimine ilişkin ilkeler ve frontier modeller için bir değerlendirme çerçevesi.

Hassabis’in önerdiği kurum ne yapacak?

ABD öncülüğünde bir standartlar kurumu, frontier modelleri yayından önce değerlendirecek. Başlangıçta gönüllü olan bu süreç, etkinliği kanıtlanırsa zorunlu hâle gelebilir.