aldım hocam teşekkürler
Geçenlerde 8gb'lık modeli elden nakit 16.500TL'ye sattım, cihazın durumuna göre 20.000 civarına nakit satarsın bence
Selam hocam, web developer arkadaşımın mail adresini bırakayım, mail atarsanız yardımcı olacaktır [email protected]
@byalperen rag için uzantı var TGWUI'da alt tarafda ne kullandığını hatırlamıyorum şimdi
@byalperen https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard buraya bakıyorum ama 7b modelleri tercih ediyorum çünkü vrame'e q5_k_m kuantize edilmiş modelleri tamamen yükleyebiliyorum. genelde mistral 7b 0.2 instruct ve dolphin-mistral kullanıyorum çünkü 7b'ler arasında mistral 7b en iyisi diyorlar. Bir de uncensored olmasını tercih ediyorum modellerin çok bir seçeneğim yok o yüzden, uncensored dil modelleri olmasaydı hiç uğraşmaz chatgpt kullanırdım 🙂 linux'de amd rocm kurulu rx 6600 ekran kartıyla ctx 8192, ortalama 25 t/s alıyorum 7b modellerde
Bilmiyorum TGWUI kullanıyorum, daha önce llama.cpp ve ollama kullanıyordum, açık kaynak yazılımları tercih etmekte fayda var
Kuantize edilmiş hallerini kullanıyorum, 7b, 13b, 33b gibi kuantize edilmiş modellerde sorun yok ama mixtral 70b gibi modellerde makine ölüyor ram yetmediğinden, ryzen 7 3700x cpu var iş görüyor gibi 🙂
7b ortalama 5gb falan https://huggingface.co/cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser
çç'de paylaşmıştım orada @gurkan-atilgan kural sayfası eklemiş sonradan gördüm, orada tütün ve tütün ürünleri ile ilgili bir madde vardı, benim paylaşım kuralı ihlal ediyor mu etmiyor mu emin olamadım kimseyi de sürüncemede bırakmak istemedim kurala dahil mi diye 🙂 iki taraftan da kaldırdım o yüzden, şimdi buradan da ban yersem hala aktifken site, üzüleceğim aklıma geldi 🙂
@norego Gece gece valla üzüldüm Ali abi, İkiniz de bu siteye emek veren diğer kullanıcılara yardımı dokunan kişilersiniz, keşke olaylar farklı gelişseydi, aranızda böyle bir husumet oluşmasaydı 🙁
Umarım bu konuyu öpüşüp barışıp güzel bir şekilde kapatırsınız ilerleyen süreçte 🙁 iki taraflı da yanlış anlaşılmalar olmuş ve konu buralara kadar gelmiş olabilir belki, iki tarafı da gerçekten iyi tanıyan birisi varsa lütfen müdahil olup olaya iki tarafla da konuşsun bir ortak yol bulmaya çalışsın
Bende böyle diyor, sanallaştırma ile ilgili her şey açık, wsl falan da yüklü yani, işlemci ryzen 7 3700x, derdi ne anlayamadım 🙂
@koraysuna Hocam hala satılmadıysa işlemci - ram - anakart için görüşebilir miyiz?