CEYD-A içerdiği 300 bin kurgu ile çoğu soruya cevap verebiliyor. Ancak veremediği cevapları minimize etmek için yeni bir modelleme de devreye girecek. BERT modelleri ile desteklenmiş bu yapının ilk çalışmalarının sonuçlarını iletiyorum. Amaç olası binlerce kullanıcı cümlesini niyetlerine (Intent) göre gruplayıp sonraki gereken işleri daha da kolaylaştırmak. Ayrıca GPT cephesinde de geliştirmeler devam ediyor. GPT modeli daha çok üretkenlik amacıyla devreye girecek. Örneğin hikaye yazma, şarkı sözü yazma vs. gibi.
Aşağıdaki görsellerde çalışmanın doğruluk (Accuracy) değerlerini ve 5 adet örneği nasıl niyetlerine göre grupladığını görmekteyiz.
Terimler Hakkında Bilgi:
GPT (Generative Pretrained Transformer) ve BERT (Bidirectional Encoder Representations from Transformers) açık kaynak kodlu, yapay sinir ağı tabanlı yapılardır. GPT OpenAI , BERT Google tarafından üretilmiş modellerdir.
GPT, çok büyük bir veri kümesi üzerinde eğitilen ve daha sonra bu veri kümesinde üretilen metinleri tahmin etmek için kullanılan bir modeldir. BERT ise, belirli bir metin verildiğinde bu metnin ne anlama geldiğini veya anlamının nasıl oluştuğunu öğrenmek için eğitilen bir modeldir.
GPT, doğal dil işleme için kullanılabilir ve metinleri yazmak, çeviriler yapmak veya sorulara yanıt vermek gibi uygulamalar için kullanılabilir. BERT ise, doğal dil işleme için kullanılan ve belirli bir metnin anlamını öğrenmek için kullanılan uygulamalarda kullanılabilir, örneğin, belirli bir metinde bir kelime hakkında bilgi sağlamak, metnin doğruluğunu tahmin etmek veya metnin ne zaman bir spam olduğunu tahmin etmek gibi.
GPT ve BERT farklı amaçlar için tasarlanmıştır, ancak doğal dil işleme için çok yönlü bir şekilde kullanılabilirler ve her ikisi de çok yüksek performans gösterirler.
BERT hakkında:
Transformers'tan Çift Yönlü Kodlayıcı Temsilleri ( BERT ), Google tarafından geliştirilen doğal dil işleme (NLP) ön eğitimi için transformatör tabanlı bir makine öğrenimi tekniğidir . BERT, 2018 yılında Jacob Devlin ve Google'daki meslektaşları tarafından oluşturuldu ve yayınlandı. [1] [2] 2019'da Google , arama motorunda BERT'den yararlanmaya başladığını duyurdu ve 2020'nin sonlarında neredeyse her İngilizce sorguda BERT kullanmaya başladı. 2020'de yapılan bir literatür araştırması, modeli analiz eden ve iyileştiren 150'den fazla araştırma yayınını sayarak, "BERT'nin bir yıldan biraz daha uzun bir süre içinde NLP deneylerinde her yerde bulunan bir temel haline geldiği" sonucuna vardı.[3]
Kaynak: Vikipedi
#ceydasistan #bert #chatgpt #gpt
Gittikçe gelişti uygulma sayenizde
Teşekkür ederim
Abi selamlar emeğine sağlık. Gpt farkı çift yönlü işlem demişsin, ne anlama geliyor açabilir misin?
"Çift yönlü işlem" ifadesi, BERT modelinin hem baştan sona hem de sondan başa doğru işlem yapması anlamına gelir. Bu, modelin cümlenin başındaki kelimelerin ve sonundaki kelimelerin de anlamını daha iyi anlamasına imkan verir ve cümlenin tamamını daha iyi kavramasına yardımcı olur. Ayrıca, attention mekanizması sayesinde, cümlenin her bir kelimesinin cümlenin tamamı için ne kadar önemli olduğunu belirlemesine olanak tanır.
@cenker-sisman yani bir cümleyi nasıl kurulursa kurulsun çok iyi anlıyor değil mi Ceyda ?
@eskodd Cümleleri tam anlaması için bu modeller. Şu an doğru cümleler kullanıldığında anlayabiliyor. Ama bu alternatif 2 model devreye girdiğinde cevaplayamadığı cümlelerin sayısı çok azalacaktır.
@cenker-sisman abi şimdi Android telefonu merkeze alan bi robot yapsam Ceyda yönetebilir artık değil mi ?
@eskodd CEYD-A bir geliştirme ortamıdır. Siz robotunuzu ve Android telefonunuzu aynı ağda veya internette konuşturabiliyorsanız birbirlerini görüyorlarsa CEYD-A için yazılacak kodlarla robota hükmedebilirsiniz. Robotun da geliştirilmeye ve erişilmeye müsait ve olması gerekir.
Birgün şu çapa bir sonuca varınca derin bir oh çekeceğim. Heba olmasından endişeliyim.