Tillsammans med det senaste antalet nya mobilplattformar för smarttelefoner i mitten, har Qualcomm gjort ett ännu större tillkännagivande vid AI-dagen i San Francisco. Mobilchipgiganten spelar ytterligare ett spel för servrar efter att ha övergett sitt Centriq-sortiment tillbaka 2018. Denna gång utnyttjar företaget sina tekniker inom AI-fältet för att få sin fot i molnberäkningsdörren. Det första chipet vi kallade Qualcomm Cloud AI 100-plattformen.
Cloud AI 100-plattformen är inte en mobil chippaket, det är en grundläggande 7nm-design för AI-inferensuppgifter, snarare än utbildning. Det betyder att chipet kommer att krossa siffrorna som passerar genom nervnätverk snarare än att användas för att träna dem. Detta verkar sätta Qualcomm i direkt konkurrens med Nvidias Tesla T4-serie och Google Edge TPU-inferenschips utformade för servrar och molnberäkning. Precis som konkurrenterna har Qualcomm insett att den effektivaste AI-behandlingen inte görs på CPU, GPU och FGPA, utan kräver en dedikerad AI-accelerator.
När det gäller prestanda uppskattar Qualcomm en högre prestandaökning på högre än 50x AI jämfört med kapaciteten i sin Snapdragon 855. Snapdragon 855 erbjuder cirka 7TOPS prestanda, vilket antyder att Cloud AI 100 är i intervallet 350TOPS. Det kommer säkert att ge Nvidias T4 en körning för sina pengar. Qualcomm anser att den också har fördelen med prestanda per watt och har en förbättring på 10 gånger jämfört med branschens mest avancerade AI-inferenslösningar som används idag. När du krossar stora siffror kan energieffektivitet spara företag stora summor i elräkningar. Dessutom vill Qualcomm utnyttja sin expertis inom signalbehandling och 5G, så att dess molnplattform kan fungera i utkanten i framtiden nätverk med mycket låg latens.
På frågan skulle Qualcomm inte kommentera om arkitekturen som användes i Cloud AI 100 var äganderätt eller licensierad från någon annanstans. Jag undrar om det här är det första utseendet på Arm's Trillium AI-arkitektur, som också är utformad speciellt för inferensarbetsbelastningar på en låg effektbudget. Men tillräckligt med spekulation, säger Qualcomm att den kommer att dela mer information om sin AI-arkitektur i framtiden.
Slutligen fungerar Qualcomms Cloud AI 100 för att stödja utvecklarna med de flesta, om inte alla, av de branschledande programvarubunken. Det finns stöd för ramarna för Caffe, Keras, mxnet, TensorFlow, PaddlePaddle och Cognitive Toolkit tillsammans med glöd-, OnnX- och XLA-driftstider.
Qualcomm Cloud AI 100 förväntas börja sampling till kunder i
