AI halka açık "doğal" verilerle eğitiliyor. Sansür, baskı ve yönlendirme ile halka açık veriler manipüle edilirse eğitim verisi bozulacağı için AI da bir yöne çekebilir demek istemişler sanırım.
@dirigeant Ben bu yapay zekanın neye göre ne konuştuğunu anladım zaten pek. Hiç bilemiyorum. Teknik konularda mesela hata yapıyor. Bir sürü dil bilgisi kaynağında yazılı olan şeyleri yanlış aktarabiliyor örnek vermek gerekirse. Direkt teknik bir bilgiyi aktaramayan sübjektif şeyleri nasıl aktarır bilmiyorum
@dirigeant İyi bir eğitim seti seçiminde başarısız oluyorsa ne anlamı var? Bugün bir rotayla ilgili biraz soru sordum. Saçmalayıp durdu. Uzaklaşasım geliyor git gide. Onu düzeltmek baya emek harcatıyor
Olur. Karbonhidrat ağırlıklı beslenen biri ile protein ağırlıklı beslenen biri aynı olmaz… popilist eylem ve söylemler ama destek ama eleştiri için gündem işgal ediyor ve insanlar bu konuda konuşuyor tabiki dil modelleri de bundan besleniyor…
Ne demek ki bu
AI halka açık "doğal" verilerle eğitiliyor. Sansür, baskı ve yönlendirme ile halka açık veriler manipüle edilirse eğitim verisi bozulacağı için AI da bir yöne çekebilir demek istemişler sanırım.
@dirigeant Ben bu yapay zekanın neye göre ne konuştuğunu anladım zaten pek. Hiç bilemiyorum. Teknik konularda mesela hata yapıyor. Bir sürü dil bilgisi kaynağında yazılı olan şeyleri yanlış aktarabiliyor örnek vermek gerekirse. Direkt teknik bir bilgiyi aktaramayan sübjektif şeyleri nasıl aktarır bilmiyorum
@distor teknik konulardaki hatalar egitim setinin yetersizligi ya da egitim setindeki hatali, eski bilgilerle ilgili olabiliyor. Yoruma acik konularda verdigi yanitlar ise hem egitim setinin icerigi hem de arkaplanda tanimlanan ve her mesaja eklenen sistem prompt'u ile manipule edilebiliyor. Ornegin halka acik modellerde hassas konularda yorum yapmamasina dair tanimlamalar kullaniliyor. https://github.com/asgeirtj/system_prompts_leaks/blob/267c1547d717d8fba52685c84df28a7f8cb94a90/Google/gemini-in-chrome.md?plain=1#L107
@dirigeant İyi bir eğitim seti seçiminde başarısız oluyorsa ne anlamı var? Bugün bir rotayla ilgili biraz soru sordum. Saçmalayıp durdu. Uzaklaşasım geliyor git gide. Onu düzeltmek baya emek harcatıyor
Olur. Karbonhidrat ağırlıklı beslenen biri ile protein ağırlıklı beslenen biri aynı olmaz… popilist eylem ve söylemler ama destek ama eleştiri için gündem işgal ediyor ve insanlar bu konuda konuşuyor tabiki dil modelleri de bundan besleniyor…