Llama3'ün son sürümünü bilgisayara kurdum. Kesinlikle 16gb ram yeterli değil. Laptop olduğu için ekran kartı gücünü de kullanamıyor. Cevapları aşırı yavaş veriyor. Denemek isterseniz 64gb ram ve iyi bir ekran kartı tavsiye ederim.
Llama3'ün son sürümünü bilgisayara kurdum. Kesinlikle 16gb ram yeterli değil. Laptop olduğu için ekran kartı gücünü de kullanamıyor. Cevapları aşırı yavaş veriyor. Denemek isterseniz 64gb ram ve iyi bir ekran kartı tavsiye ederim.
Herkese açık mı? 32 ram 4060ti kart yeterli olur mu?
Herkese açık. Bence olur. Şuan 3060lı makineye kuruyorum denemek için.
https://www.youtube.com/watch?v=w4ERVqyMNcI
Docker Desktop kurun sonra ollama kurun en son PowerShell'den Open WebUI kurun
AI ile birlikte ramin onemi iyice anlasilacak, zamanında VM kullanırım diye 64gb almistim. Ancak AI konusunda bence 64gb ta yeterli olmayacak.