Google, cihaz üzerinde çalışmak üzere tasarlanan açık gömme (embedding) modeli EmbeddingGemma 2’yi 6 Ekim’de kullanıma sundu. 740 milyon parametreli model; metni (kod dahil), görselleri, videoyu ve sesi tek bir ortak vektör uzayına yerleştiriyor. Gemma 4 mimarisi üzerine kurulan model, ticari kullanıma izin veren Apache 2.0 lisansıyla yayımlandı ve ağırlıkları Hugging Face ile Kaggle üzerinden indirilebiliyor.
Gömme modelleri, kelime, cümle, fotoğraf ya da ses kaydı gibi verileri sayılardan oluşan vektörlere çeviriyor. Anlamca birbirine yakın içerikler bu uzayda da birbirine yakın düşüyor. Akıllı arama, belge bulma ve sohbet botlarının kendi belgelerinizden yanıt üretmesini sağlayan RAG (getirme destekli üretim) sistemleri bu yöntemle çalışıyor. Google, geçen yıl yalnızca metin için çıkardığı ilk EmbeddingGemma’nın 20 milyondan fazla indirildiğini açıkladı.
Neler yapabiliyor?
Şirketin verdiği örneklere göre model, bir sesli notla belirli bir video sahnesini bulmak ya da saatlerce süren ses kayıtlarında metinle arama yapmak gibi işleri tek başına üstlenebiliyor. Model kartında öne çıkan teknik özellikler şöyle:
- Parçalı yapı: Yalnızca metin için 270 milyon parametre yetiyor; görsel (170 milyon) ve ses (300 milyon) kodlayıcıları ihtiyaç olduğunda ekleniyor.
- Esnek vektör boyutu: 768 boyutlu çıktılar 512, 256 ya da 128 boyuta kısaltılabiliyor; bu da yerel veritabanlarında altı kata kadar depolama tasarrufu anlamına geliyor.
- Uzun bağlam: 8 bin token’lık pencere, ilk sürümün dört katı. Google’a göre bu, yaklaşık 5,5 dakikalık sesi, 29 görseli ya da 58 video karesini tek seferde işlemeye yetiyor.
- Dil desteği: Model 100’den fazla dili anlıyor.
Telefonda ne kadar yer kaplıyor?
Google’ın paylaştığı ölçümlere göre, nicemlenmiş (quantization uygulanmış) model Pixel 11 Pro’da yalnızca metin için yaklaşık 191 MB, tüm kipler açıkken yaklaşık 567 MB aktif bellek kullanıyor. Verinin cihazdan çıkmadan işlenmesi hem gizlilik hem de hız açısından avantaj sağlıyor; internet bağlantısı olmadan çalışan arama ve belge bulma uygulamaları geliştirmek mümkün hale geliyor.
Şirket, modelin kod görevlerinde önceki sürüme göre belirgin bir sıçrama yaptığını öne sürüyor: MTEB Code testinde puan 68,76’dan 78,68’e çıkmış. Google ayrıca modelin, 1 milyar parametrenin altındaki çok kipli gömme modelleri arasında kendi boyutunda en iyi sonuçları aldığını ve bazı alanlarda iki katından büyük uzman modelleri geride bıraktığını iddia ediyor. Bu karşılaştırmalar şirketin kendi değerlendirmelerine dayanıyor.
Geliştiriciler nelere dikkat etmeli?
Model; transformers, sentence-transformers, MLX, vLLM, llama.cpp, Ollama ve LM Studio gibi yaygın araçlarla kullanılabiliyor. Gemma 4 ile aynı metin ayrıştırıcısını ve ses kodlayıcısını paylaştığı için iki model birlikte çalıştırıldığında toplam bellek ihtiyacı azalıyor. Google, Gemini Enterprise Agent Platform Model Garden desteğinin de yakında geleceğini duyurdu.
Model kartı birkaç önemli uyarı da içeriyor. Modelin float16 hassasiyetinde çalıştırılmaması gerekiyor; bu durumda hata vermeden bozuk sonuçlar üretebiliyor, bu yüzden bfloat16 ya da float32 öneriliyor. Vektörler kısaltıldığında yeniden normalize edilmeleri, sorgu ve belge vektörlerinin de aynı boyutta tutulması gerekiyor. Eğitim verisinin Ocak 2025’e kadar uzandığı belirtilirken, modelin üretken modeller gibi ek güvenlik ayarından geçmediği ve uygulama düzeyindeki önlemlerin geliştiricinin sorumluluğunda olduğu vurgulanıyor.
Kaynak: Google
