Trendyol llama2 7b modelini baz alarak 180k içerikle fine-tune etmiş, türkçesi 7b modeller arasında en iyisi gibi duruyor diyebilirim q6 kuantize edip biraz denedim.
https://huggingface.co/Trendyol/Trendyol-LLM-7b-chat-v0.1
Trendyol llama2 7b modelini baz alarak 180k içerikle fine-tune etmiş, türkçesi 7b modeller arasında en iyisi gibi duruyor diyebilirim q6 kuantize edip biraz denedim.
https://huggingface.co/Trendyol/Trendyol-LLM-7b-chat-v0.1
cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser modelini ve retrieval augmented generation (RAG) kullanarak dune'un ilk kitabının türkçe versiyonunu modele yedirdim, sonuç harika. Dil modeli türkçede çok kötü olsa da iyi iş çıkarttı, Benim türkçe yazmam onun da türkçe cevap vermesi soruyu gönderirken ve sonuç alırken cümlelerin bir eklentiyle google çeviride otomatik olarak çevrilmesinden dolayı, dil modeline sorduğum sorular da ondan gelenler de aslında ingilizce.
#AI #llm #YapayZeka
Bard vs Chatgpt vs dolphin-mistral 🙂 ollama aracı ile lokalde çalışan dil modelleri ile oynamak acayip zevkli, filtresiz dil modelleri ile hemen hemen her sorunuza iyi kötü cevaplar alabiliyorsunuz, verdiğiniz resimleri bile analiz edip cevap veren lokalinizde çalışan dil modelleri var, hele mixtral diye bir model var ki şahane, ram gereksinimi şu an için çok fazla, bunu güzelce işleyip 7b, 13b formatına düşürürlerse çok iyi olacak, 2024 yılı içerisinde gpt-4 ayarında bir güncellemesi de gelecekmiş galiba.
#chatgpt #bard #AI
Sizin lokaldeki cihazın özellikleri neydi? Bazı yöntemlerle vram ihtiyacı çok azaltılabiliyor, şu videoyu inceleyebilirsiniz.
https://www.youtube.com/watch?v=npCpQZNu2MU
Kuantize edilmiş hallerini kullanıyorum, 7b, 13b, 33b gibi kuantize edilmiş modellerde sorun yok ama mixtral 70b gibi modellerde makine ölüyor ram yetmediğinden, ryzen 7 3700x cpu var iş görüyor gibi 🙂
Elektronik sigara ile ilgili olan yazıyı sildim, yorum yazan arkadaşlar kusura bakmasınlar
çç'de paylaşmıştım orada @gurkan-atilgan kural sayfası eklemiş sonradan gördüm, orada tütün ve tütün ürünleri ile ilgili bir madde vardı, benim paylaşım kuralı ihlal ediyor mu etmiyor mu emin olamadım kimseyi de sürüncemede bırakmak istemedim kurala dahil mi diye 🙂 iki taraftan da kaldırdım o yüzden, şimdi buradan da ban yersem hala aktifken site, üzüleceğim aklıma geldi 🙂
@orcun: Bilişim dergilerinin bira reklamı aldığı günler geldi aklıma...
@emrenqw bugün gördüm banlanmasa bari dedim 😀 burada da yazacaktım sıkıntı olur bu kaldır diye bugün gördüğümde 😀 iyi sen görüp düşünmüşsün
https://www.imdb.com/title/tt14824792/ dizisi çıkmış, 7 bölüm yayınlanmış galiba, düzgün altyazı yok tabi şimdilik
https://youtu.be/bLUyKn7I6b8?t=3183 aynacının şarkısını dinleyince yine tüylerim diken diken oldu, müzik efsane ötesi, karakter de öyleydi 🙂
Hiren BootCD gibi, üzeri dolu dolu bir araç
https://gbatemp.net/threads/medicat-usb-a-multiboot-linux-usb-for-pc-repair.361577/
https://medicatusb.com/
Hem Yann Tiersen'in çaldığı orjinal haline, hem de şu haline bitiyorum bu parçanın https://www.youtube.com/watch?v=cZcs_UvAIbY
#BirazMüzik
Oh bu da bitti, Kratos ile tüm panteonu delik deşik ettik, hazır yol üzerinde yakalamışken afrodit'in koynuna girmeyi de ihmal etmedik tabi, bir katletmediğimiz afrodit ve athena'nın ruhu kaldı zaten koca panteonda 🙂 o son sahne ise hiç tahmin ettiğim gibi ilerlemedi, athena'nın ruhunu da gider ayak biçeriz diye düşünüyordum ama Kratos hiç beklemediğim bir şey yaptı. Sen nasıl taştaşlı bir abisin be Kratos 🙂 Prometheus nasıl kendini feda edip ateşi insanlığa verdiyse, Kratos da kendini feda edip insanlara umudu verdi, bir kez daha sevdim bu karakteri ya, Ghost of Sparta ve Ascension'u da bitirdim mi tamamdır 🙂
#GoW3 #godofwar #RPCS3
Var ama sadece sahneler için yapmışlar, menüler ve oyunun geriye kalan çoğunluğu ingilizce
Aresin o ateşten saçını sakalını görünce aklıma hep flash TV gelir.
Hazır GOW3'e başlamışken hepinizle şu güzel parçayı paylaşayım 🙂 https://www.youtube.com/watch?v=9a4Rx7T_lwc
Benim de en sevdiğim parça bu
Vengeful of Spartan
https://www.youtube.com/watch?v=yPPU0gcWk38
LM studio'ya eklenti kurulabiliyor mu?
Bilmiyorum TGWUI kullanıyorum, daha önce llama.cpp ve ollama kullanıyordum, açık kaynak yazılımları tercih etmekte fayda var
@emrenqw Hmm arayüze bakınca lm studio sandım. RAG için hangi kütüphaneyi kullandın? Bir de modelleri neye göre seçiyorsun? Duyulmuş bazı modeller var ama spesifik işleri daha iyi yapan özelleşmiş modeller oluyor bunları bulmak zor oluyor. Demek istediğim finetune etmek değil, model mimarisini biraz değiştirince bir benchmark puanı artarken diğeri azalıyor, LLM modellerinin farklı benchmark kıyaslamasını yapıp sıralayan bildiğin bir kaynak var mı?
@emrenqw örnek olarak şunu verebilirim ama bu da yeterince büyük ve fazla ayrıntılı değil.
https://llm.extractum.io/list/
@byalperen https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard buraya bakıyorum ama 7b modelleri tercih ediyorum çünkü vrame'e q5_k_m kuantize edilmiş modelleri tamamen yükleyebiliyorum. genelde mistral 7b 0.2 instruct ve dolphin-mistral kullanıyorum çünkü 7b'ler arasında mistral 7b en iyisi diyorlar. Bir de uncensored olmasını tercih ediyorum modellerin çok bir seçeneğim yok o yüzden, uncensored dil modelleri olmasaydı hiç uğraşmaz chatgpt kullanırdım 🙂 linux'de amd rocm kurulu rx 6600 ekran kartıyla ctx 8192, ortalama 25 t/s alıyorum 7b modellerde
@byalperen rag için uzantı var TGWUI'da alt tarafda ne kullandığını hatırlamıyorum şimdi