Prompt olayı gerçekten yeni değil ve bunun şu an neden bu kadar olay olduğunu anlamadım 🙂 Twitter'da bile yıllardır dolaşıyor bunlar hem AI'ların system promptları hem de bunların nasıl elde edileceği. Chatgpt system prompt diye aratın çıkar hemen. İstisnasız her AI böyle çalışıyor, her AI'da bir system prompt sorgu öncesinde otomatik olarak ekleniyor bu sayede AI'a basit yönlendirme yapılmış oluyor. Ve tabi filtreleme(sansür). Bunlar gayet basit yönlendirmeler yani biz AI ile konuşurken yazdığımız şeylerin benzeri, öyle kod falan yok içinde. AI'ların filtre sistemlerini aşmak için AI'ı konuşarak ikna edebilmemiz zaten bu sayede mümkün oldu hep, system promptta yazan cümleler aşılmaya çalışıldı aslında hep. Hatta AI'ları biraz sıkıştırınca bu system prompt'u kendisi veriyor açıkça. Grok'unki uzun süredir ortada dolaşıyor, chatgpt'ninki de ortada, Claude'a hiç bakmamıştım ama eminim ki daha önce ortaya çıkmıştır çünkü AI'ları kandırıp bunları almak kolay iş. Kimse bu promptlarla ilgilenmediği için duyulmamıştır. Claude'unki çok uzunmuş ama. 24k çok absürt. Grok ve chatgpt'ninkiler bir iki paragraf sadece, 1000 token bile etmez. Claude bu yüzden fahiş derecesinde pahalıdır belki de. 24k system prompt kabus gibi birşey, memory context'i yani hafızası 16k token olan AI'lar var hala. 24k token'ı system prompta harcamak saçmalık ve para israfı. Merhaba(2-3 token) yazdın diye 24k token harcanması absürt. Gerçi Claude'un firması Anthropic, AI'lar arasında en çok sansürle kafayı yemiş en politik doğrucu firma, şaşırmadım böyle bir saçmalık yapmalarına.

Burada bir tek Gemini'a not düşmek lazım. Gemini da sorgularda system prompt kullanıyor ama Gemini'ın bir de verdiği cevapta içerik filtrelemesi yapan ayrı bir harici araçları var, yani sorgu sırasında promptu aşıyorsun ama Gemini bir de kendi verdiği cevabı kontrol ediyor ve cevap filtreye takılırsa sorgu boş dönüyor, o yüzden Gemini'ın filtresini diğer AI'lar gibi basitçe konuşarak kandırıp tamamen kaldırmak mümkün değil ama onun da birazcık farklı bir yöntemi var. Sonuç olarak yine filtre aşılmış oluyor. Ayrıca AI'ları API ile kullanınca filtreleri aşmaya ek olarak system promptları tamamen etkisiz hale getirmek de mümkün, her AI'a farklı yöntem uygulamak gerekiyor sadece. Yöntem dediğim de öyle kod yazma falan değil, AI'ı yazdığın sorgunun ve gelecek cevabın system prompt'taki yönergelere uygun olduğuna AI'ı ikna ediyorsun veya o system prompt'u görmezden gelmesine ikna ediyorsun veya filtreye takılacak bir sorgu olsa dahi cevabı vermesi gerektiğine ikna ediyorsun. Her AI farklı şekilde ikna oluyor. Bir tek Gemini'daki daha farklı, o harici filtre aracını da aşmak gerekiyor o da anca API üzerinden kullanırken mümkün. Bildiğim kadarıyla şu an bir tek Claude'un filtreleri tam olarak aşılamıyor LLM AI'lar arasında. Claude çok pahalı olduğu için araştırmadım ama muhtemelen Gemini'a benzer bir sistem kullanıyordur