Yeni modelim GemmaTR-WikiQA-4bit, Türkçe dilinde eğitilmiş 27 milyar parametreli bir yapay zeka modeli! Model, kişisel bilgisayarlarda kullanılabilmesi için 4-bit quantize edildi ve 16GB GPU'ya sahip bilgisayarlarda iyi performans sergiliyor. Normalde bu modeli kullanabilmek için 60GB GPU gereksinimi vardı, ancak 4-bit quantize edilmesi sayesinde bu gereksinim düşürüldü. Eğitim için ise en az 80GB GPU göz önünde bulundurulmalı.
Bu model, 1,937,069 Türkçe Vikipedi soru-cevap verisinden 1.7 epoch boyunca eğitildi ve gelişmeye devam ediyor. Aşağıdaki linklerden modelin detaylarına erişebilirsiniz:
https://huggingface.co/cenkersisman/GemmaTR-WikiQA-4bit-GGUF
https://ollama.com/cenker/GemmaTR-WikiQA-4bit
Ayrıca, Türkçe dilinde bilinen diğer açık kaynak modelleri de göz önünde bulundurursak:
YTU: ytu-ce-cosmos/Turkish-Llama-8b-Instruct-v0.1 – 8 milyar parametre
Boğaziçi Üniversitesi: boun-tabi-LMG/TURNA– 1.14 milyar parametre
Türkcell: TURKCELL/Turkcell-LLM-7b-v1 – 7 milyar parametre
Trendyol: Trendyol/Trendyol-LLM-7b-chat-v1.0 – 7 milyar parametre
Amacım GemmaTR-WikiQA-4bit ile Türkçe NLP dünyasına önemli bir katkı sağlamak! Devamı geliyor.
Tebrikler
Başarılarınızı uzaktan takip eden birisi olarak, tebrik ediyorum, cahilce soruyorum, sizin ceyda vardı, bu onun yerine mi geliyor yani ceydanın yapay zekası bu model mi olacak, oldu? Konumlandırmaları nasıl?
Estağfurullah, teşekkür ederim. CEYD-A sadece bir sesli asistan değil geliştirilebilir sesli asistandı. Yani kullanıcılar da geliştirebilir düzeye geldi ve onu kendiliğine bıraktım diyebiliriz. Şu anda isteyen kullanıcılar ChatGPT veya farklı modellerin API larına bağlanan CEYD dili ile kod yazıp CEYD-A ya entegre edebilirler. Hatta bu ve bunun gibi localdeki modellere bağlanıp sesli bir asistan hale getirilebilir.
Hazır kodları CEYD-A kurulu Android telefondan girip linklerin üzerine tıklayarak aktif hale getirebilirsiniz.
https://ceyd-a.com/ceydcodes.html
Veya
kodla.ceyd-a.com sitesinden kendi kodlarınızı geliştirebilirsiniz.
https://web.ceyd-a.com/2023/01/ceyd-a-ya-gpt-veya-farkli-bir-sistem-entegre-etmek/
https://web.ceyd-a.com/2023/01/ceyd-a-proxy-ile-islerinizi-bilgisayariniza-yaptirin/
Hocam neden Gemma'yı tercih ettiniz merak ettim ? Gemmanın avantaj/ları nelerdir? Mistral ve Llama daha iyi gibi geliyor standart bir kullanıcı olarak.
Türkçe akıl yürütme için Gemma2 yi daha iyi buldum açıkçası. Ayrıca performans parametre boyutları ile de etkileniyor. 27B lik bir model 8B veya 9B lik bir modelden daha başarılı oluyor genelde. llamanın 70b parametreli versiyonu gerçekten çok iyi. Eğer soru ve cevaplarınızı küçük contextlerde kullanıyorsanız llama3.1 8b işinizi görür hatta küçük işlerde ben de onu tercih ediyorum. Ama eğer çok sayıda işlemi aynı anda sorgulatıp (10 veya üstü) işlemlerin sonuçlarından bir yere ulaşmasını istiyorsanız ve daha az halüsinasyona sahip bir model istiyorsanız 27B işinizi görecektir. Eğer llama nın 35b veya benzer parametre boyutlarında versiyonları olsaydı onu tercih edebilirdim. Sadece parametre değil başka faktörlerde var aslında mesela aya nın 35b lik modeli var ama ne yazık ki tatmin etmedi testlerimde.
Hocam son 2 yılda chatgpt gelişi ve diğer modellerin de birden çıkışı ceyda'yı etkiledi mi? Ben hatırlıyorum buradan paylaştıklarınızla yıllardır kendiniz bir model eğittiniz yükselttiniz. Şimdi bir firma gelip -örnek veriyorum- sizin modelinizden milyon kat daha fazla eğitilmiş model çıkardı.
Not: bu sorum ceyda üzerinde değil, genel olarak bu işi yapanlar için.
Merhaba, CEYD-A diğer rakiplerinde farklı bir sesli asistan olduğu için etkisi az oldu aslında. Çünkü CEYD-A açılımına da bakarsanız CEYD dili ile geliştirilen Asistan. Kendi açık kaynak oluşturabileceğiniz geliştirme dili var ve sadece kendi entegre modeli değil farklı modelleri de kendi bünyesine ekleyebiliyorsunuz. Kullanıcı bunu yapabiliyor. Bir geliştirme ortamı var sonuçta cepten webten geliştirebiliyorsunuz. Örneğin ChatGPT yi veya farklı modelleri entegre etmek için CEYD kodlarına aşağıdan ulaşabilirsiniz.
https://ceyd-a.com/ceydcodes.html
Ama genel olarak diğer sesli asistanları da söylüyorsanız evet muhakkak etkilendiler.
@cenker-sisman hocam şu anda da istersek ceyd dili ile bir şeyler yapabiliyor muyuz? Hala aktif mi İnceleyim bir. Çalışmalarınızı severek rakip ediyorum saygılar.
@deniz-fidan Merhaba Deniz bey, evet https://kodla.ceyd-a.com sitesinden kendi kodlarınızı girebilirsiniz. Kullanıcı isminiz ile sonra mobil uygulamadan giriş yaptığınızda kendi kodlarınızı CEYD-A üzerinde kullanabilirsiniz.
https://web.ceyd-a.com/list/all-posts/
sayfasından da yardımcı olabilecek yazılara da ulaşabilirsiniz.
Bir sorun olursa bana https://web.ceyd-a.com/bize-ulasin/ sayfasından da ulaşabilirsiniz..
@cenker-sisman çok teşekkürler 🫡🫡
Çalışmayı ayrı tutarak (tebrikler), bu işin maliyeti gene son kullanıcıya kaymağı ise 3 büyük sistem üreticisine ve donanımcılarına kalacak gibi duruyor ve daha da kötüsü kimse son kullanıcıya sormuyor, "gerçekten istiyor musun?" diye.
"AI cpu'yu satın almak istemiyorum, neden boğazımdan aşağı iteliyorsun?" mesela...