Ancak salı günü yapılan Snapdragon Tepesi 2023’te şirket, aygıt içi yapay zekanın nihayet yeni Snapdragon 8 Gen 3 ve X Seçkine yongalarının bir modülü olarak taşınabilir aygıtlara ve Windows 11 PC’lere geldiğini duyurdu.
Her iki yonga seti de sıfırdan üretken yapay zeka yetenekleri göz önünde bulundurularak oluşturuldu ve çeşitli büyük lisan modellerini (LLM), lisan görüş modellerini (LVM) ve transformatör ağ tabanlı otomatik konuşma tanıma (ASR) modellerini destekleyebiliyor.
Qualcomm, aygıt içi yapay zekayı taşınabilir aygıtlara ve PC’ye getiriyor
SD8 gen 3 için 10 milyara kadar parametre ve X Seçkine için 13 milyara kadar parametre büsbütün aygıtta. Bu, Baidu’nun ERNIE 3.5’inden OpenAI’nin Whisper’ına, Meta’nın Llama 2’sine yahut Google’ın Gecko’suna kadar her şeyi telefonunuzda yahut dizüstü bilgisayarınızda internet kontağı olmadan çalıştırabileceğiniz manasına geliyor. Qualcomm’un çipleri ses, metin ve manzara girişleri için optimize edilmiş.
Qualcomm AI Motoru, Oryon CPU, Adreno GPU ve Hexagon NPU’dan oluşuyor. Kombine olarak, 45 TOPS’a (saniyede trilyonlarca işlem) kadar süreç yapabiliyor ve dizüstü bilgisayarlarda saniyede 30 jeton, taşınabilir aygıtlarda ise saniyede 20 jeton işleyebiliyor; jetonlar LLM’lerin işleyebileceği/oluşturabileceği temel metin/veri ünitesi. Yonga setleri, bellek tahsisi için Samsung’un 4,8 GHz LP-DDR5x DRAM’ını kullanıyor.
