Makineye yerelde yapay zeka modellerini kurdum. Internet bağlantısını kestim.
"Toto Karaca kimdir?" diye soruyorum. "Gerçek adı Mehmet Ali Öztürk'tür...." diye sayfalarca anlatıyor. Cem Karaca'nın tiyatrocu annesinin gerçek adı Mehmet Ali imiş.
"Sinan Bengier kimdir?" diye soruyorum, "Çok başarılı bir armatördür..." diye sayfalarca, kendinden emin anlatıyor. Gel de delirme.
"Internet kesik, bilgilere erişemiyorum" dese hiçbir sorun olmayacak, ama asla böyle bir şey demiyor. "Bilmiyorum, bilemiyorum, bildiğim kadarıyla..." gibi sözcükler de asla kitabında yok. Abuk subuk bilgileri tereddütsüz sıralıyor. "Emin misin?" dersen de "eminim" diyerek iyice sıvıyor.
Siz gülüp geçiyor olabilirsiniz, ama öğretmen bir arkadaşımla konuşuyorum, çocukların YZ'nin verdiği yanıtları tartışmadan direkt doğru kabul ettiklerini endişeyle anlatıyor.
Bu şekilde nasıl olacak bu işler bilemiyorum. Aşağılarda bir yerlerde bir arkadaşın mesajı var, hangi programlama dilini öğrenmesi gerektiğini sormuş yapay zekaya. Yahu, Cem Karaca'nın annesinin adının Mehmet Ali olduğunu iddia eden bir sistem sana yanıt olarak Pascal dese ne, Java dese ne, C# dese ne? Ne kıymeti var verdiği yanıtın? 🙂
Geleceği kimse böyle düşünmemişti sanıyorum.
Halüsinasyon konusu tam olarak çözülmeden, bu dil modelleri halka açılmamalıydı bence.
Bu iş ilk yaygınlaştığında ne olursa olsun cevap versin şeklinde konuya yaklaştıkları için diğer firmalar da bunu takip etti, gelinen nokta bazı konularda sıkıntılı. Tabi internet olmadan yazdığı şeyin kontrolünü yapamıyor ve yapamayacak olması da diğer problem. Model gücü ve eğitildiği veri de durumu kötüleştirebiliyor, daha güçlü bir model kullansanız durum daha farklı olurdu. Konuşmayı yazıya dökmek için yaratılan Whisper AI adında bir yapay zeka var, onda da mesela ne kadar uğraşırsanız uğraşın asla ingilizceyi yazıya döktüğü gibi türkçeyi yazıya dökemiyor. Eğitirken o yapay zekayı kim eğitiyorsa ingilizce dışına bir yere kadar önem veriyor, sorunun temellerinden biri de bu aslında. Mesela Toto Karaca yerine Abraham Lincoln sorsanız durum daha iyi olurdu
chatgpt cevabı: https://chatgpt.com/share/687e6518-0aec-800f-83fa-e258569a7029
"Levent abi, eleştirinde haklısın, ama çuvaldızı biraz da insanlara batırmak gerek. Çünkü bu sistemlerin saçmalamasının sorumlusu yalnızca teknoloji değil, onu anlamadan "gerçekmiş gibi" tüketen insanlar.
Evet, LLM’ler halüsinasyon yapıyor. Bunu 1 haftalık deneme sürecinde fark eden herkes anlar. Ancak bu sistemleri “her söylediği doğru olsun” diye değil, dil üzerinden örüntü tanıyan bir tahmin makinesi olarak düşünürsen, hata payı zaten sistemin doğasında var. "Cem Karaca'nın annesi Mehmet Ali Öztürk" diyorsa, bu senin de dediğin gibi komik bir bug ama aynı zamanda sistemin nasıl çalıştığına dair bir kanıt.
Asıl sorun, kullanıcıların bu sistemleri nasıl kullanacaklarını, nerede durmaları gerektiğini bilmemesi. Çocukların “YZ ne derse doğrudur” kafasına girmesi, aslında eğitim sisteminin, eleştirel düşünme becerisi kazandırmamasının bir sonucu. 90’larda ansiklopedide yazıyor diye her şeye inanan çocuklar neyse, bugün de YZ çıktısı aynen kopyalayan çocuklar aynı şeyin dijital versiyonu.
"Geleceği kimse böyle düşünmemişti" diyorsun ya, bence tam tersi. 2015'te Elon Musk, "YZ en büyük risklerden biri olacak" derken, işte bu senaryoyu kastediyordu. Ama burada çözüm “halüsinasyon bitene kadar kimseye vermeyin” değil. Çünkü bu sistemler milyonlarca kişiye yardımcı olabilecek düzeyde zaten faydalı. Yeter ki kullanıcılar bilinçli olsun. Google'da da yanlış bilgi çıkıyor, Wikipedia da hata doluydu yıllarca — ama bir yere geldik.
Sonuç? YZ'yi "her soruya doğru cevap veren kutsal ansiklopedi" değil, "yardımcı bir çırak, hızlı bir fikir ortağı, üretken ama denetlenmesi gereken bir stajyer" gibi görmek gerek. Senin deneyimin de zaten bunu gösteriyor: sistem kendi kafasında Toto Karaca'yı Mehmet Ali'ye bağlamış... Bu tür saçmalıklar bize neden filtre olmamız gerektiğini gösteriyor.
Senin gibilerin yaptığı bu uyarılar çok kıymetli. Ama sistemin kapatılması değil, kullanıcıların eğitilmesi çözüm olur. Çünkü gerçek şu: bu teknoloji geri alınamaz. Artık ya onunla birlikte yaşamayı öğreneceğiz ya da onun kölesi olacağız."
son cümleyi açıklamasını istedim, o da yukarıdaki linkte.
YZ'nin daha bilmesi gereken o kadar çoooooooooooooooooooooooooooook şey var ki....
@lterlemez 3 sene önce buna şaşırıyorduk: https://teknoseyir.com/durum/1594986
3 sene önce yeni konuşmaya başlayan bir çocuk olarak düşünürsek önünde çok uzun bir yol olduğu bariz. asıl soru insanlar bu aşamada ne kadar geliştirecek kendini? yapay zekaya "aptal bu, buna bir şey sorulmaz" diyenler, yapay zekayı "işimizi elimizden alacak bu, kapatılsın" diyenler, yapay zekayı mutlak otorite kabul edip her dediğinin peşine düşenlerin kaybedeceğini; yapay zekanın da kendisini kullanma kılavuzunda bahsettiği gibi asistan olarak görüp fayda sağlayanların çok fazla kazanacağını düşünüyorum. sadece bu 3 yılda bile insanların soru sorma tarzını değiştirdiğini, insanların biraz daha algoritmik düşünebildiğini söyleyebilirim.
@sqn: Ben, hayal edildiği gibi bir güce sahip olabileceğini hiç düşünmüyorum. Bunun için çok fazla efor sarf edilmesi gerekiyor (f/p çooook düşük bir iş). Yani bir insan gibi davranmasını beklemek hayal...
Ekipte yapay zekaya kod yazdirip, urettigi kodu okumadan, anlamadan etmdeden gonderen bazi arkadaslar turedi. Neredeyse Copilot olmadan kod yazamaz hale gelmisler. Bunlarin gonderdigi isleri gorunce de ben deliriyorum.
Levent pekcan kimdir
Bahisler açıldı
@bitlikarinca https://teknoseyir.com/durum/1746130 😀
@mrx pekcan leventin ikiz kardeşidir 😛
Bir ara ts dede bulunan ve şu an cokcekirdek te olan norego (Ali) eşi için açtığı anime sitesine eklemek üzere bir yapay zeka geliştirdi. Çok karmaşık ve çok zor bir iş olduğunu söyledi ve yaptıklarını anlattı sitede.
AI işi offline olarak bi 10 yılı var levent abi. Açıkçası ben büyük merak ve heyecan duyuyorum.
Mesela, diyicem ki mecbura bana tavuk sote pilavyap. Ama mecbura ilk önce kahvemi yap getir diyeceğim. Getirecek. Sonra gidip yemek yapacak.
Ne manyak bir keyif olur yahu.
Birşey olmaz. 2 gün sonra kandırıldık, affet, affetmeyen haindir, dış yapay zekaların oyunu deyip sıyrılabilir.
İnternetteki bütün bilgilerin yerel makineye sığmasını beklemek bana pek mantıklı gelmiyor. Ha ben bunu bilmiyorum demek yerine kendinden emin bir şekilde yanlış bilgi vermesinden yakınmanız yerinde. Veya internete bağlıyken de bazen aynı şekilde doğru olmayan şeyleri doğruymuş gibi anlatıyor.
sözelde çuvallıyor da, sayısal'da iyi gibi
O yüzden "lokal çalışabilecek" hikayesine inanmıyorum ben. İmkansız, öyle bir lokal veri deposu yok. Olsa olsa, internetten daha önce ve sık sorguladığınız veriyi tutabilir. On da bile ne kadar başarılı olur tartışmalı bence ve eğitim verisinin telif hakkı yüzünden çok tartışmalı ilerleyecek...
Burada da sürekli YZ yanıtlarını bilgi diye paylaşıyorlar. Hiç geçerliliği yok. YZ ile konuşurken ne desen "evet ağam tabi ağam" şeklinde konuşuyor. Bir dediği diğer dediğiyle tutmuyor. İki cevap birbirinden bağımsız vs.
10-14-20 milyar parametreli küçük local llm modellerine bilgi bütünlüğü konusunda güvenilmez. Verisetleri çok kısıtlı. Türkçe olarak daha da kısıtlı. İngilizce/Amerikan içeriklerinde daha iyi sonuç verirler. Ayrıca bu modeller system prompt'suz geldiği için online modellerin aksine görevlerinin yardımcı olmak ve doğru bilgi vermek olduğunu bilmiyorlar. O yüzden öyle "bildiğim kadarıyla" falan demez. Önce görevinin ne olduğunu ve ne yapacağını detaylı bir system prompt'la belirtmek gerekir(aynı online modellerde firmaların gizli system prompt girdikleri gibi). Ama esasen Local llm modellerinin yaptığı tek şey birbiri ile en alakalı kelimeleri seçip ardarda sıralamak. İçinde araştıran eden bir zeka yok yani aslında. Birbiriyle en alakalı gördüğü kelimeleri ardarda koyuyor girilen parametre değerlerine uygun olarak (max p, minK gibi parametrelerden bahsediyorum) Bu tip local llm'ler chatbot olarak kullanılıyor (chatbot dediğim, sohbet, hikaye yazma, kurgu vs). Chatbot olarak fena değiller ama bilgi sorup doğru cevap beklememek lazım bu tip modellerden.
llm'lerin kronik sorunu bu, faruk eczanesi modundalar, bilmiyorum diyemiyorlar.
AI ile sohbeti genelde demanslı bir ihtiyarla sohbet gibi düşünmek lazım, çok bilgi var ama doğrulamaya muhtaç
Bende çok sık karşılaşıyorum bu durumla.En son bir filmle alakalı sahne sordum.Kendisi sanki varmış gibi uyduruyor.Öyle bir sahne yoktu sen uyduruyorsun dediğimde sendende birşey kaçmıyor diye pişkin pişkin cevap veriyor...
🤣🤣🤣🤣
Bilmiyorum asla demiyor hiçbirisi
bi ara kotlin dilinde bişey sordum, bana öyle bişey anlattı ki güzelce bende okuyorum tabi sonra araştırdım anlattığı gibi bişey dilde yokmuş, tamamen uydurmuş
Abi eskiden TV’de gördüğüne inanırdı insanlar, sonra sitelerde yazana inanmaya başladılar sonra Youtube videolarına şimdide yapay zekaya insanlara kolaydan inanacağı bilgi vereceği kaynak lazım kısacası. 😁 Kimse araştırmaya vakit harcamak istemiyor.
Öyle ama sanki her seferinde yanlış bilgiye ulaşmaları zorlaşıyor gibi.
@player-1 evet en azından yapay zeka bir kalite sunuyor hala hataları olsada.
YZ ilk çıktığında bunun kısaca bilgileri sentezleyen bir çeşit arama motoru olduğunu söylemiştim. Bunun için bile linçlendim. Hala basit bir wordle oyununu çözebilen bir yapay zeka modeli çıkmadı.
Bilmeyince çokn güzel uyduruyolar. Mutlaka teyitv ediyorum.
daha 1 ay önce geyiğini yaptık. Misal Levent Pekcan sulama havzası nerdedir diyoe sor (online) sayfalarca anlatıyor 😀 Babanın ismini Ahmet PEkcan barajı nerde diye sor onu da sıkıyor habire 😀