PrismML’ın Küçük Dil Modeli Bonsai 2, Akıllı Telefonlara Sığacak Boyutta

Yapay zekâ laboratuvarı PrismML, akıl yürütebilen büyük dil modellerinin büyük olmak zorunda olmadığı iddiasıyla yeni modeli Bonsai 2 27B’yi yayımladı. Model, Alibaba’nın yaygın kullanılan açık kaynak modeli Qwen3.8 27B’yi 5,9 GB’a sıkıştırıyor. Ayrıntılar PrismML’ın duyurusunda ve Hugging Face koleksiyonunda yer alıyor. TechCrunch 17 Eylül 2026’da girişimi mercek altına aldı.

Bonsai 2 Ne Sunuyor?

Şirkete göre model, orijinaline kıyasla bellekte 9 ila 10 kat küçülme sağlıyor. 5,9 GB’lık boyut, bir bilgisayara ve muhtemelen üst seviye bir akıllı telefona sığmaya yetiyor. PrismML, Bonsai 2’nin Qwen’in toplam kıyaslama puanlarının yüzde 98’ini yakaladığını belirtiyor. Mart ayında yayımlanan ilk Bonsai bu oranda yüzde 95’te kalmıştı. İlk model 11 milyondan fazla kez, şirketin daha da küçük modelleri ise 2,6 milyon kez indirilmiş.

Sıkıştırma nasıl çalışıyor?

Bir modelin eğitim sırasında öğrendiği bilgiyi tutan “ağırlıklar” normalde 16 bit yer kaplıyor. PrismML, “üçlü” (ternary) ağırlık yaklaşımıyla bunu üç değere indiriyor: +1, −1 veya 0. Her ağırlık için saklanacak veri çok küçüldüğünden model belirgin biçimde daha az yer tutuyor. CEO Babak Hassibi, sıkıştırmanın performansı her zaman biraz etkileyeceğini kabul ediyor; TechCrunch ise yüzde 2’lik bir farkın gerçek kullanımda büyük ihtimalle fark yaratmayacağını, çünkü modelin çalıştığı yazılım katmanının da doğruluğu etkilediğini not ediyor.

Girişimin Arkasında Kim Var?

PrismML, Caltech araştırmacıları tarafından kuruldu; başında sıkıştırma teknolojileri uzmanı Caltech profesörü Babak Hassibi bulunuyor. Databricks’in kurucu ortağı Ion Stoica danışman olarak yer alıyor. Girişim şimdiye kadar yalnızca 22,25 milyon dolarlık bir tohum turu aldı; yatırımcıları arasında Khosla Ventures, Cerberus Capital ve Caltech bulunuyor. CNBC’nin haberine göre Apple ile görüşmeler yaptığı konuşuluyor; Hassibi bu konuda yorum yapmayı reddetti. Alanda İspanya merkezli Multiverse Computing gibi rakipler de var.

Markalar İçin Ne Anlama Geliyor?

PrismML’ın bir sonraki hedefi, önümüzdeki birkaç ay içinde yüz milyarlarca parametre aralığındaki daha büyük modelleri sıkıştırmak. Hassibi, büyük modellerde zekâyı korumanın daha kolay olacağını düşünüyor. Stoica ise bunun, gelişmiş modellerin kullanıcının zaten sahip olduğu cihazda, ücretsiz ve buluta veri göndermeden çalışması anlamına geldiğini söylüyor. Bu bizim değerlendirmemize göre uygulama geliştiren markalar için maliyet ve gizlilik denklemini değiştirebilecek bir yön. Açık modellerin yaygınlaşma hızını Gemma’nın indirme sayıları haberimizde da ele almıştık.

Yapay Zekâ ve Teknoloji Ekipleri İçin Çıkarımlar

• Cihaz üstü yapay zekâyı planlayın: Küçük ve yeterli modeller, mobil uygulamalarda bulut maliyeti olmadan özellik sunma imkânı verebilir.
• Gizlilik avantajını değerlendirin: Veriyi buluta göndermeden çalışan modeller, kişisel veri içeren kullanım senaryolarında sözleşme yükünü azaltabilir.
• Kıyaslama puanlarını sahada doğrulayın: Yüzde 98’lik oran şirketin toplam skorudur; kendi görevlerinizde ayrıca test edin.
• Sıkıştırılmış model lisanslarını kontrol edin: Bonsai, Alibaba’nın açık kaynak modelinden türetildi; ticari kullanım koşullarını ana modelin lisansıyla birlikte okuyun.

Sıkça Sorulan Sorular

Bonsai 2 27B nedir?

PrismML’ın Alibaba’nın Qwen3.8 27B modelini 5,9 GB’a sıkıştıran dil modeli. Şirket, orijinalin toplam kıyaslama puanlarının yüzde 98’ini koruduğunu söylüyor.

Üçlü ağırlık ne demek?

Modelin her ağırlığı normalde 16 bit tutarken, bu yaklaşımda yalnızca +1, −1 veya 0 değerleri saklanıyor. Böylece model çok daha az bellek kaplıyor.

PrismML bir sonraki adımda ne yapacak?

Şirket önümüzdeki birkaç ay içinde yüz milyarlarca parametre aralığında daha büyük modelleri sıkıştırmayı hedefliyor.