DeepSeek’in yeni duyurduğu ve deneysel basamakta yer bulunan yapay zeka modeli V3.2-exp için kullanılan özel bir teknoloji sayesinde argümana nazaran maliyetler yarı yarıya düşüyor. Geliştirilen bu yapay zeka modelinin API maliyetlerini yüzde 50 oranında düşürdüğü sav ediliyor.
Çinli merkezli yapay zeka teşebbüsü DeepSeek’in son deneysel modeli, verimliliği artırmayı ve yapay zekanın fazla bilgiyi sürece yeteneğini çok daha düşük bir maliyetle gerçekleştirebilecek olsa da mimarinin ne kadar tesirli ve inançlı olduğu konusunda sorular devam ediyor.
Yeni modelde DeepSeek Sparse Attention ismi verilen bir teknoloji yer alıyor. Bu sayede lightning indexer isimli modül ile kullancının girdiği komuta nazaran bağlam önceliklendirme yapabiliyor. Komuta uygun bağlam penceresi oluşturuluyor. Bundan sonra fine-grained token selection system ile birinci bağlam penceresi alt kategoriye alınıyor. Sunucu yükü ise bu sayede azalıyor, API maliyeti düşürülmüş oluyor.
Şirketin açıklamasına nazaran ‘sparse attention’ sayesinde yapay zekayı uzun vadeli işler için kullananlar avantaj sağlamış olacak.
