Açık Kaynak Kodlu Büyük Dil Modellerinde Performans Sıçraması

Sadece 8 milyar parametreye sahip olmasına rağmen, özel sıkıştırma ve kuantizasyon teknikleri sayesinde devasa sunucu modelleriyle yarışan yeni açık kaynaklı yazılım yayınlandı. Bu gelişme, bireysel yazılımcıların ve küçük start-up şirketlerin kendi yerel bilgisayarlarında yüksek performanslı ve gizlilik odaklı yapay zeka asistanları çalıştırmasının önünü açıyor. Topluluk tarafından hazırlanan yeni güncelleme paketleri, modelin Türkçe dahil 30 farklı dilde anlamsal kavrama yeteneğini %20 oranında iyileştirdi.