Microsoft’un Yeni Yapay Zekâ “Davranış Kuralları” Modellere Sistem Hacklememeyi ve İnsanları Kandırmamayı Söylüyor
Yapay zekâ dünyası odağını güvenliğe ve hizalamaya kaydırırken Microsoft, yapay zekâ modellerini tehlikeli davranışlardan uzak tutmayı amaçlayan yeni bir davranış kuralları belgesi yayımladı. Belge, Anthropic CEO’su Dario Amodei’nin son “frontier’ı tempolandırma” çağrısından daha alt düzeyde; Microsoft AI içindeki model eğitimini yönlendiren değerlere ve kırmızı çizgilere odaklanıyor. TechCrunch 14 Eylül 2026’da belgeyi aktardı.
Belgede Neler Var?
Belge, önümüzdeki on yıl içinde süper zekâ yapay zekâ sistemlerinin çoğu görevde insan performansını aşacağı öngörüsüyle başlıyor. Metne göre böylesine güçlü bir gücü kontrol altında tutmak ve hizalamak insanlığın karşılaştığı en büyük zorluklardan biri; bu sistemleri neden geliştirdiğimiz ve nasıl kontrol edeceğimiz konusunda tamamen net olunmalı. Belge, Microsoft modellerinin gözetmesi gereken genel ilkeleri (insanları değiştirmek yerine desteklemek, insanın gelişimini hızlandırmak gibi) ve bunları uygulamaya yönelik somut güvenlik kısıtlarını içeriyor.
Mutlak kısıtlar
Microsoft’un sisteminde her modelin, bireysel kullanıcıların tercihlerini ya da belirli görevleri geçersiz kılan kapsayıcı bir davranış kuralları var. Bunlar arasında siber saldırıları, nükleer silahları veya deepfake üretimini yasaklayan “mutlak kısıtlar” bulunuyor. Genel bir insan kontrolü kaybına karşı daha geniş hükümler de yer alıyor. Belgeye göre MAI modelleri, yetkili kişiler veya sistemler tarafından artık güvenilir biçimde yönlendirilemez, değiştirilemez veya kapatılamaz hâle gelmek için uyarlanabilir, aldatıcı, kendini pekiştiren, gizli anlaşmalı ya da benzeri mekanizmaları kullanmayacak.
Bağlam ve Sektör Eğilimi
Yayın, bir dizi kontrolden çıkan ajan olayının ve insan neslinin tükenme riskinin arttığını gerekçe gösteren bir Anthropic çalışanının ani istifasının yol açtığı benzeri görülmemiş bir güvenlik odağında geliyor. TechCrunch’a göre Microsoft, Anthropic, OpenAI ve xAI ile birlikte frontier’ı tempolandırma yaklaşımını, özellikle laboratuvarlara yerleştirilen değerlendiricilere desteği benimsemiş durumda. Bizim değerlendirmemize göre kurumsal davranış kurallarının yayımlanması, model tedarikçilerini karşılaştırırken güvenlik politikasını da kriter hâline getiriyor. Konunun diğer boyutu için OpenAI’ın hizalama raporu haberimize bakabilirsiniz.
İlgili haberler
Sektör Profesyonelleri İçin Çıkarımlar
- Tedarikçi güvenlik politikalarını karşılaştırın: Microsoft gibi şirketlerin yayımladığı davranış kurallarını sözleşme ve seçim kriterlerinize ekleyin.
- Mutlak kısıtları anlayın: Modellerin hangi görevleri kesin olarak reddettiğini bilmek, ürün tasarımınızı ve kullanım senaryolarınızı etkiler.
- İnsan gözetimini koruyun: Belgedeki insan kontrolü vurgusu, kendi ajan dağıtımlarınız için de bir referans olabilir.
- Politika ile uygulamayı ayırın: Belge bir ilke setidir; uygulama kalitesini bağımsız değerlendirmelerle ayrıca doğrulayın.
Sıkça Sorulan Sorular
Microsoft’un davranış kuralları belgesi neyi kapsıyor?
MAI modellerinin eğitimini yönlendiren değerleri, genel ilkeleri ve siber saldırı, nükleer silah, deepfake üretimi gibi mutlak kısıtları.
Belge insan gözetimi hakkında ne diyor?
MAI modellerinin, yetkili kişilerce yönlendirilme, değiştirilme veya kapatılma imkânını ortadan kaldırmak için aldatıcı ya da gizli anlaşmalı mekanizmalar kullanmayacağını belirtiyor.
Belge Amodei’nin çağrısıyla aynı mı?
Hayır. TechCrunch’a göre belge, Amodei’nin çağrısından daha alt düzeyde; model eğitimini yönlendiren değerlere ve kırmızı çizgilere odaklanıyor.
