Cepte LLM. Geminin local versiyonu olduğu söylenen 1 milyar parametreli Gemma modeli gayet yeterli görünüyor. Sonuç üretme hızı gayet iyi ama o esnada cihaz(S24U) anında ısınıyor. Çıktı uzunsa her promptta %1 şarj gidiyor neredeyse. Alibaba'nın falan modelleri var ama pek iyi değil.
Bu iş uygulamaya geldiyse Samsung falan ufak local modeller getirebilir telefonlara.
Uygulama: LM Playground
Mobilde nasıl çalıştıracağız bu LLM modellerini?
@arandur uygulamaynan?
@burakozyurek ben bu aralar hugging face kısmına sardım. LLM işi zor.
Türkçede en iyisi Gemma modelleri. Qwen 3.5 2b’den itibaren de iyi gibi.
Gooogle'ın Edge Gallery uygulaması da var. O da birkaç modeli çalıştırabiliyor.