6月23日，鯤云科技在深圳的產(chǎn)品發(fā)布會發(fā)布全球首款數(shù)據(jù)流AI芯片CAISA，其定位于AI終端推理，目前已完成量產(chǎn)。

　　根據(jù)官方介紹，CAISA搭載了四個CAISA 3.0引擎，具有超過1.6萬個MAC(乘累加)單元，峰值性能可達10.9TOPs。該芯片采用28nm工藝，通過PCIe 3.0×4接口與主處理器通信，同時具有雙DDR通道，可為每個CAISA芯片提供超過340Gbps的帶寬。

　　鯤云援引第三方數(shù)據(jù)顯示，搭載CAISA芯片的加速卡僅擁有英偉達同類產(chǎn)品 1/3的峰值算力，但是其通過95.4%的芯片利用率可以實現(xiàn)3倍左右的的實測性能。

　　大部分廠商的AI芯片均為指令集的計算架構，此次鯤云科技發(fā)布的CAISA芯片則為數(shù)據(jù)流架構。鯤云表示，數(shù)據(jù)流架構AI芯片提供較之于指令集架構AI芯片更高的計算效率。指令集的計算架構要求芯片的計算和控制是分離的，而控制過程中模塊間的數(shù)據(jù)移動以及數(shù)據(jù)計算的過程中會存在等待周期，這會使得芯片的計算模塊存在閑置情況，這也是現(xiàn)有芯片利用率普遍低于30%的原因。而數(shù)據(jù)流架構依托數(shù)據(jù)流流動次序控制計算次序，采用計算流和數(shù)據(jù)流重疊運行方式消除空閑計算單元。在實測中，數(shù)據(jù)流芯片可以與同峰值算力的指令集芯片表現(xiàn)出更高的芯片利用率以及更高的實測算力。

　　本次發(fā)布會鯤云科技也帶來了AI計算平臺星空加速卡X3以及X9。

　　星空X3加速卡是搭載單顆CAISA 芯片的數(shù)據(jù)流架構深度學習推斷計算平臺，為輕量化規(guī)格，X3加速卡因此可以與不同類型的計算機設備進行適配，包括個人電腦、工業(yè)計算機、網(wǎng)絡視頻錄像機、工作站、服務器等。基于CAISA芯片的X3加速卡動態(tài)功耗為20W左右。英偉達邊緣端旗艦產(chǎn)品Xavier 在深度學習網(wǎng)絡ResNet-50, YOLO v3中實測獲得的芯片利用率分別為21.1%、6.8%，而星空X3加速卡的結果為92.3%及82.4%，遠高于前者?？傮w算力表現(xiàn)可以達到Xavier的1.48-4.12倍。

　　星空X9加速卡為搭載4顆CAISA 芯片的深度學習推斷板卡，峰值性能43.6TOPS，主要滿足高性能場景下的AI計算需求。實測性能方面，X9在ResNet50可達5240FPS，與T4性能接近，在YOLO v3、UNet Industrial等檢測分割網(wǎng)絡，實測性能相較T4有1.83-3.91倍性能提升。最優(yōu)實測性能下，X9處理延時相比于T4降低1.83-32倍。

　　盡管數(shù)據(jù)流架構顯著的提高了芯片算力的利用率，但是指令集的架構支持各式各樣的數(shù)據(jù)組合，具有較強的通用性。CAISA目前工藝水平為28nm，這在晶體管數(shù)量、處理速度、溫升等方面較之于更加先進工藝的芯片將會存在的劣勢。

　　鯤云科技認為此次發(fā)布的芯片新品的核心競爭力在于提供了更高的算力性價比。

　　AI芯片產(chǎn)品不同于SaaS等其他企業(yè)服務賽道，用戶衡量產(chǎn)品的好壞與否，基本是通過芯片的計算能力、通用性以及價格來進行判斷。CAISA芯片的競爭路線不是依靠更大的芯片面積和制程工藝提供更高的峰值算力，而是通過數(shù)據(jù)流動控制計算順序來提升實測性能。

　　終端推理芯片賽道上，頭部廠商英偉達也部署了邊緣側Xavier芯片以及云端旗艦加速卡T4。鯤云科技創(chuàng)始人兼CEO牛昕宇表示，芯片賽道的競爭是簡單直接的，要素無非就是算力性價比、通用性以及遷移成本。用戶會根據(jù)自己的算力需求進行產(chǎn)品篩選，然后比對價格。峰值算力的提升往往來自于工藝技術的迭代以及更大的芯片面積，這也就意味著更高的產(chǎn)品成本。但是此次鯤云CAISA架構帶來的芯片利用率提升，并不需要更高的峰值算力從而讓用戶獲得更高的實測算力體現(xiàn)，這可以減少企業(yè)所需的制造成本。

　　值得關注的是，英偉達憑借其極強的峰值算力以及軟件生態(tài)構建了極高的競爭壁壘。除了產(chǎn)品在算力上的優(yōu)勢，英偉達憑借產(chǎn)品積累擁有極強的軟件生態(tài)，現(xiàn)有用戶的轉換芯片的成本較高。牛昕宇表示，也許初創(chuàng)企業(yè)可以選擇其他進行拓展，CAISA帶來的數(shù)據(jù)流架構也許就會是下一個方向。

　　此外，鯤云將會為用戶配備RainBuilder編譯工具鏈，可以支持從算法到芯片的端到端自動化部署，用戶和開發(fā)者無需了解架構的底層硬件配置。RainBuilder可自動提取主流AI開發(fā)框架(TensorFlow，Caffe，Pytorch，ONNX等)中開發(fā)的深度學習算法的網(wǎng)絡結構和參數(shù)信息，并面向CAISA結構進行優(yōu)化。鯤云希望借助編譯工具鏈提供用戶較為方便的部署環(huán)境，同時也能完成較為低成本的算法遷移。