İlk geliştirici konferansını düzenleyen OpenAI, GPT-4'ün daha gelişmiş versiyonu olan GPT-4 Turbo'yu duyurdu. GPT-4 Turbo, iki farklı versiyon ile karşımıza çıkıyor. Bu versiyonlardan ilki metin analizi gerçekleştirirken, ikinci versiyon, hem metinlerin hem de görsellerin bağlamını anlayabiliyor.
Metin analizi gerçekleştiren model, dünden itibaren bir API üzerinden önizleme modunda kullanıcılara sunulmaya başlandı. Önümüzdeki haftalarda her iki versiyonun da genel kullanıcılara açılması planlanıyor.
GPT-4 Turbo, geniş bağlam penceresiyle de dikkatleri üzerine çekiyor. Bu noktada bağlam penceresinin ne anlama geldiğini aktarmakta fayda var. Bağlam penceresi, modelin herhangi bir ek metin oluşturmadan önce dikkate aldığı metni temsil ediyor. Küçük bağlam pencerelerine sahip modeller, yeni gerçekleşen konuşmaların içeriğini hatırlamakta güçlük çeker. Bu nedenle bu modeller, konuşulan konunun dışına çıkabilir.
JSON modu
Bunlara ek olarak GPT-4 Turbo yeni bir JSON moduna da sahip. Böylece model, kullanıcılara, açık standart dosya formatı ve veri değişim formatı olan JSON ile yanıt verebiliyor. JSON modunu özellikle veri iletimi gerçekleştiren web uygulamaları için önemli bir özellik olarak nitelemek mümkün.
Paylaşılan bilgilere göre GPT-4 Turbo, 128 bin token'lık bağlam penceresine sahip. Yani GPT-4 Turbo'nun bağlam penceresi GPT-4’ün bağlam penceresinin dört katına denk gelmekte. Aynı şekilde GPT-4 Turbo, Anthropic’in modeli Claude 2'nin 100 bin token'lık bağlam penceresini de geride bırakmış durumda. Öte yandan Anthropic, geçtiğimiz dönemde 200 bin token'lık bir bağlam penceresi üzerinde çalıştığını dile getirmişti.
128 bin token ise yaklaşık 100 bin kelimeye ya da 300 sayfaya denk geliyor. Yani GPT-4 Turbo, anlamlı konuşmalar geliştirmek için gerçekten geniş bir kapsama sahip.
GPT-4 Turbo versiyonlarının ücretlendirmesi
Versiyonlar, yaklaşık 750 kelimeye denk gelen 1,000 girdi token'ı başına 0.01 dolar olarak ücretlendiriliyor. Bu noktada token'ları kelime parçacıkları ya da hece olarak düşünebilirsiniz. Yapay zeka, kelimeleri işlemek için parçalara ayırıyor.
Öte yandan GPT-4 Turbo'nun görsel işleme özelliğinin ücretlendirmesi, görsellerin boyutuyla ilişkili. OpenAI'ın aktardıklarına göre GPT-4 Turbo'da 1080 × 1080 piksel bir görseli iletmek 0.00765 dolara mâl olacak.
OpenAI paylaştığı blog gönderisinde performansı optimize ederek GPT-4 Turbo'da girdi token'ları için GPT-4 ile karşılaştırıldığında 3 kat daha ucuz fiyatlar sunmayı hedeflediklerini ifade ediyor. Aynı şekilde şirket, çıktı token'ları için ise 2 kat daha ucuz fiyatlar sunmaya odaklandı.
