ChatGPT kendi dilini icat etti
ChatGPT'nin kullanıcılarla sohbet geçmişini "aklında tutabilmek" için kendi şifreli dilini geliştirdiği ortaya çıktı.
ABD merkezli yapay zeka firmasının geliştirdiği sohbet botunun yarattığı dili ilk keşfeden Greg Fodor adlı bir Bitcoin destekçisi oldu.
Fodor, sohbet botunun diline "Shogtongue" adını verdi. ChatGPT'nin kendi dilini üretmesinin arkasındaki nedense bellek sorunu.
Bu tür büyük dil modelleri internetteki milyonlarca sayfa, kitap ve diğer metin verileriyle eğitiliyor. Ancak bir kullanıcıyla fiilen sohbet ederken, "akılda" tutabileceklerinin sınırı var.
GPT-3,5, yani ChatGPT'nin eski sürümünde bu sınır, yaklaşık 8 bin kelimeydi. Bu, kabaca bir kitabın 4-5 sayfasına denk geliyor.
GPT-4'te ise sınır, 64 bin kelimeye çıkarıldı. Bu da 50 sayfalık metin anlamına geliyor. Yani GPT-4'te bir oyun veya öykü yazmak çok daha kolay.
Öte yandan 50 sayfalık sohbetin ardından ChatGPT'nin kullanıcıyla ne konuştuğunu hatırlaması mümkün olmuyor ve sohbet burada kesiliyor.
Yeni nesil GPT-4 dil modeline dayanan ChatGPT sürümü, bu problemi kendi "sıkıştırılmış" dilini icat ederek aşmanın yolunu buldu.
Bu da kullanıcıların sohbet botundan bir metni görünüşte rastgele harfler, sayılar ve simgelerden oluşan bir diziye sıkıştırmasını isteyebileceği anlamına geliyor. Diğer bir deyişle kullanıcılar, uzun bir görüşmeden sonra GPT-4'ten tüm sohbeti sıkıştırmasını isteyebilir.
