Açık kaynaklı geniş dil modellerini komut satırı ile uğraşmadan düzgün bir arayüzde indirip kulanabileceğiniz bir yazılım:
https://lmstudio.ai/
Açık kaynaklı geniş dil modellerini komut satırı ile uğraşmadan düzgün bir arayüzde indirip kulanabileceğiniz bir yazılım:
https://lmstudio.ai/
Türkçeyi güzel anlayan bir model bulamadım belli bir yerden sonra verdiği türkçe cevaplarda saçmalıyor. Sizin önerdiğiniz bir model var mı ?
Modeller hakkında bilgim yok.
Dilbilgisinin ve imla kılavuzunun çok iyi aktarılması gerekiyor. Aktaramazsanız cozutuyor, Türkçe, Dünya üzerindeki zor dillerden bir tanesidir.
@lterlemez Çince'den kolay olsa gerek 🙂 Koreliler de bunu söylüyordu; evet X model var ama biz şu kadar milyon Korece metin okuttuk ondan bizimki daha iyi diye geçen bir şey izlemiştim.
TS'yi okutsak yetmiyor mu 🙂 Küfür yok bir şey yok.
Diskteki PDF ve kendi notlarımı okutacak bir şey arıyorum ama deneyecek vakit yok.
@qubit: Muhtemelen olur ama bizdeki kelime kullanımı biraz farklı, daha geniş bir anlatım zenginliği var Türkçe'de. İllaki olur elbette ama ne zaman?!?!
İşe yarar modellerin çoğu 16 gb den fazla vram istemiyor mu? Cevap verme hızları düşük oluyor birde bildiğim kadarıyla siz denediniz mi? Kullandığınız model oldu mu? Cpu üzerinden çalışan modeller var onlarda bayağı yavaş cevap veriyor. Bard ve chatgpt varken localde llm çalıştırmanın bir faydası var mı?
M1 Macbook Air'de bir tane denedim, normal hızda cevap verdi.
@ozgurg Hangi model?
@hybrid dhairya0907/meta-llama-2-7b-chat-hf-gguf-v1
@ozgurg verdiği cevaplar tatmin etti mi? Local model kullanmak için bir sebep var mı?
@hybrid Sadece bu yazılım çalışıyor mu çalışmıyor mu test etmek için birkaç şey sordum. Detaylı incelemedim.