AMD ya da Intel farketmiyor, güncel işlemcilere dahil olarak gelen NPU'lar hala ciddiye alınacak düzeyde değiller. En büyük sorun, uygulamaların bu NPU'ları görmüyor olması. Geekbench AI ya da Futuremark'ın Procyon'unda NPU desteği minimal düzeyde. Procyon AMD'yi hiç desteklemiyor. Intel'in kendi AI Playground uygulaması bile NPU değil GPU üzerinden çalışıyor. Sabahtan beri Ollama ile bir şeyler yapmaya çalışıyorum ama gördüğüm kadarıyla onun da NPU'nun varlığını sorguladığı falan yok. Şu noktada dahili NPU konusunda bir benchmark vs. çalışmasını boşuna bir uğraş olarak görüyorum. Doğru düzgün araçlar olmadan, ölçüm ve karşılaştırma yapmak hem boş, hem de yanıltıcı.
Keza, bu konuda ciddi bir çalışma yapılacaksa tercih Windows değil mutlaka Linux olmalı gibi geliyor bana.
Büyük bir ihtimal ile Windows sürücüsü talep edilecek. MS ve/veya Intel doğrudan erişimine izin vermeyecek gibi duruyor. Kendi YZ'si nasıl yapıyor acaba, MS'in?
Dedim ama saçma geldi sonra, sürücü ile olacak ise gpu'yu kullanmak daha mantıklı, niye npu'yu dert edeyim ki?
@lterlemez Copilot, NPU kullanmıyor gördüğüm kadarıyla. GPU da kullanmıyor, ne yaptırıyorsa bulutta yaptırıyor bence.
@leventp: O daha vahim o zaman, tartışmalı bir konu, anladığım kadarıyla ama çok güvenli bir yol değil. Veriler lokalde kalmıyor yani. Intel'ci olduğu da düşünülürse (özellikle) NPU ve GPU kullanmaması da bir garip, açıkçası. Eğer kullanmıyor ise kullanmama nedenini de merak ettim şimdi, acaba veri ile alakalı bir durum mu ki? Her şey çok gizli kapaklı dönüyor, inşallah altından istenmeyen bir şeyler çıkmaz...
Uygulamalar NPU'yu görse bile şu anda bunların kapasitesi oyuncak gibi... Erken konuşmak istemiyorum; ama bence mevcut hâliyle NPU kavramının bir geleceği yok.
Apple Silicon'da nasıl acaba?
Cevapsız sorular.mp3
Ollama kullanmiyor, Image Play Grounds'un kullandigini gordum. Diger yazilimlari bilemiyorum.
yanlış tercih, apple 🙂
Copilot+ sertifikası için neden npu gerektiğini ben hala anlamadım. Gpu dururken işlemciyle uğraşmaya ne gerek var?
https://www.amd.com/en/developer/resources/technical-articles/gaia-an-open-source-project-from-amd-for-running-local-llms-on-ryzen-ai.html
Amd böyle birşey yapmış diyorlar ki localde bu yazılım npu birimini kullanıyormuş falan. Aam tabi yani bunun nesini test edeceğiz o da garip. Bunun bir benchmark'ı olması lazım. Nasıl işlemci için gpu için gücünü gösteren bir benchmark varsa da bunlar içinde lazım.
GPU dururken gerek var mı ben onu sorguluyorum
+1 GPU varken ciddi çalışmalar için NPU vs. bana da gerekli gelmiyor, hele de böyle bellek bakımından istenen konfigürasyon seçilebilen bir GPU varken.
Kimsenin NPU kullandığı yok, ki böyle bir standartsızlık durumu varken kullanacağı da yok, uzun vadede bu tarz birimlerin CPU'lardan çıkarılacağını düşünüyorum. Olursa da GPU içinde bu iş için iyice özelleştirilmiş birimler şeklinde var olurlar, çeşitli grafik işlemlerini yapan çekirdekler gibi.
APU olan sistemlerde nasıl olacak mesela? APU'nun GPU'sunu yapay zeka ile zorlamak işe yaramaz herhalde, ya da npu ile destekli çalışamazlar mı? Sistemde illaki bir harici gpu mu olmalı?
@mrx şunu anlamıyorum. Zaten yapay zeka yapıları gpu üzerinde çalıştırılacağı varsayılarak optimize ediliyor yıllardır. Başka bir yapının daha iyi çalışması için ciddi bir sıçrama gerekir bence. Cpudan bölüm ayırdık adını npu koyduk gibi değil
@ptseeker Bilgisayarda belli güçte GPU olacağının garantisi yok ama işletim sistemleri bir yapay zeka asistanı ya da benzeri yapay zeka özellikleri sunmak istiyor. Sadece CPU (NPU) kullanarak bunu yapabilmek mantıklı. NPU olmasa kim NPU için birşeyler üretebilir? Önce olacak ki sonra kullanılabilsin. Belki de yok olur gider ama baştan olmamalıydı demek bana yanlış geliyor.
Marketing…
https://www.reddit.com/r/DeepSeek/comments/1k3mwqb/testing_the_ryzen_m_max_395/