<mark id="oztn4"></mark>
0
| 本文作者： 包永剛 | 2019-10-18 09:39 |
本周二，成立近四年的天數(shù)智芯召開名為數(shù)應(yīng)于“芯“的戰(zhàn)略新品發(fā)布會(huì)，并發(fā)布首款A(yù)I芯片Iluvatar CoreX I，這款面向邊緣AI推理的芯片具備高精度特性，峰值算力的能效比主流競(jìng)品提升10倍，應(yīng)用遷移僅需1-2周（其它芯片需1-3個(gè)月），并且是工業(yè)級(jí)的解決方案。這些技術(shù)和性能特色顯然具有很大吸引力，但天數(shù)智芯將帶來的改變，不僅來自于硬件。
天數(shù)智芯創(chuàng)始人兼CEO李云鵬在發(fā)布會(huì)上表示，“硬件芯片是一個(gè)傳統(tǒng)行業(yè)，它的生命周期要求相當(dāng)?shù)拈L(zhǎng)，我們不僅僅要支持今天火熱以AI為代表的數(shù)據(jù)驅(qū)動(dòng)應(yīng)用，也要承載過去長(zhǎng)期商務(wù)智能等大規(guī)模需求，還要應(yīng)用未來可能發(fā)生的算法變化，提供通用性的算力支撐，這是天數(shù)智芯產(chǎn)品戰(zhàn)略，軟硬件結(jié)合系統(tǒng)產(chǎn)品?！笔聦?shí)上，在技術(shù)與產(chǎn)業(yè)的融合方面，該方案目前已經(jīng)得到醫(yī)療、安防監(jiān)控等行業(yè)客戶的實(shí)際應(yīng)用，實(shí)現(xiàn)了技術(shù)的商業(yè)化落地。
首款A(yù)I芯片的5大亮點(diǎn)
與大多數(shù)公司一樣，天數(shù)智芯推出AI芯片為的就是滿足數(shù)據(jù)時(shí)代的需求，有所不同的是，天數(shù)智芯對(duì)于邊緣端AI芯片的理解。天數(shù)智芯副總裁梁斌在新品發(fā)布會(huì)上表示：“我們發(fā)現(xiàn)目前邊緣端芯片產(chǎn)品解決方案有四大痛點(diǎn)：第一、大部分產(chǎn)品聚焦于低精度、低功耗、低算力的應(yīng)用場(chǎng)景，為了追求性價(jià)比，在一定程度上犧牲了對(duì)精度的要求；第二、大部分AI芯片產(chǎn)品聚焦在消費(fèi)級(jí)產(chǎn)品，不能適應(yīng)一些工業(yè)級(jí)的產(chǎn)品要求；第三、由于大部分芯片產(chǎn)品采用自研的硬件架構(gòu)，通過軟件編譯工具跟主流的框架兼容，造成現(xiàn)有的應(yīng)用遷移成本很高，耗時(shí)耗力；第四、由于芯片的自研架構(gòu)和自研的開發(fā)系統(tǒng)，造成用戶開發(fā)門檻高，有很多的端到端需求無法滿足?！?/p>
針對(duì)這些痛點(diǎn)，天數(shù)智芯提出了新的解決方案，Iluvatar CoreX I芯片采用16nm工藝，采用全自研數(shù)據(jù)流架構(gòu)，內(nèi)核可提供32路數(shù)據(jù)并行處理的能力，有很好的可擴(kuò)展性，具有五大亮點(diǎn)：
第一，提供FP16的高精度，提升準(zhǔn)確率；
第二，在小于5瓦的功耗下，提供單芯片最高4.8TFlops的算力，和每秒1000幀的圖像處理能力；
第三：提供原生TensorFlow的兼容，可透明遷移；
第四：可以滿足高穩(wěn)定性的工業(yè)級(jí)需求，也可以滿足高性價(jià)比的消費(fèi)級(jí)需求；
第五：提供一站式、端到端的完整解決方案，對(duì)于開發(fā)用戶，提供軟硬件結(jié)合的開發(fā)環(huán)境。
Iluvatar CoreX I在芯片層面體現(xiàn)出了5大亮點(diǎn)，系統(tǒng)層級(jí)則有CPU靈活性和算力可擴(kuò)展兩大特性，所謂CPU的靈活性，是CoreX I AI加速芯片可以適配x86 CPU、Arm CPU以及國(guó)產(chǎn)自研CPU，比如龍芯CPU。可擴(kuò)展性指的則是與PCIE 4.0充分融合，通過單卡、雙卡、四卡的配置，可以有效線性擴(kuò)展算力，并保持延時(shí)的可控。據(jù)悉，在8卡配置，單機(jī)可提供超過38TFLOPS的算力。
能效比與應(yīng)用透明遷移有多重要？
梁斌指出，通過對(duì)主流算法的優(yōu)化，基于數(shù)據(jù)流的高能效運(yùn)算，高帶寬、高容量的本地內(nèi)存，Iluvatar CoreX I有效解決了目前主流競(jìng)品計(jì)算力不足的核心問題。根據(jù)梁斌給出的數(shù)據(jù)，目前市面上15瓦的AI芯片，提供1.5TFLops的算力，能效比大概是0.1，天數(shù)智芯Iluvatar CoreX I在低于4.7瓦的功耗下，就提供4.8TFLOPS的計(jì)算力，相比主流競(jìng)品，提供超過十倍的能效比。
在主流的邊緣端應(yīng)用的基準(zhǔn)測(cè)試實(shí)測(cè)中，物體分類場(chǎng)景天數(shù)智芯提供超過兩倍的性能提升，能效方面提供超過8倍的提升，在物體識(shí)別場(chǎng)景也提供了接近兩倍的性能提升和接近7倍的能效提升。
不過，李云鵬在接受雷鋒網(wǎng)等媒體采訪時(shí)表示，客戶對(duì)算力的需求是能夠?qū)^去、現(xiàn)在和未來的負(fù)載都有很好的支撐。“從我的經(jīng)驗(yàn)來看，用戶看的并不是峰值數(shù)據(jù)，他們更看重實(shí)際場(chǎng)景中的性能提升。因此，雖然我們的能效比數(shù)據(jù)讓大家眼前一亮，但我們更關(guān)注用戶的使用。這就包括上面提到的CPU靈活性與可擴(kuò)展性，當(dāng)然也還有透明遷移。所謂透明遷移是上層建筑不做任何修改，通過軟件的方式能夠有一個(gè)延續(xù)性?！?/p>
天數(shù)智芯創(chuàng)始人、CEO李云鵬
梁斌介紹，通常AI應(yīng)用包括幾個(gè)方面，從底層往上涉及到芯片、軟件庫(kù)、TensorFlow運(yùn)算符，TensorFlow API函數(shù)，天數(shù)智芯通過與成熟的開發(fā)生態(tài)系統(tǒng)原生兼容，客戶可以無需任何代碼改動(dòng)，實(shí)現(xiàn)應(yīng)用的遷移，平均平臺(tái)的適配周期1-2周。而市面上第三方的AI芯片產(chǎn)品，大部分芯片產(chǎn)品基于底層軟件庫(kù)和自研開發(fā)編譯器SDK，客戶的應(yīng)用通過耗時(shí)耗力的代碼轉(zhuǎn)換，適配周期大多耗時(shí)1-3個(gè)月甚至更長(zhǎng)。
為了更好的滿足客戶需求，天數(shù)智芯基于全新AI芯片提供的是邊緣計(jì)算系統(tǒng)板和PCIe加速卡兩大方案。雷鋒網(wǎng)了解到，邊緣計(jì)算系統(tǒng)板主要面向嵌入式一體解決方案應(yīng)用在邊緣端的應(yīng)用場(chǎng)景，比如智能垃圾分類、智能零售、智能監(jiān)控等。PCIe邊緣端加速卡可以直接配置在邊緣服務(wù)器上，單卡配置可以支持一顆芯片，也可以支持兩顆、四顆芯片。
還需指出的是，天數(shù)智芯也布局了邊緣端、邊緣云、中心云三個(gè)系列的芯片，同樣為了更好滿足AI和5G的需求。梁斌透露：“我們下一款將發(fā)布的芯片是高端云端訓(xùn)練GPGPU芯片，基于7納米工藝，采用全自研GPGPU芯片架構(gòu)，提供業(yè)界最高檔混合精度算力，CUDA原生兼容。第三款將要發(fā)布的芯片是中端GPGPU芯片，也將采用先進(jìn)的工藝制程，提供混合精度算力，CUDA原生兼容，同樣也是全自研的GPGPU架構(gòu)，聚焦在圖形圖像的邊緣云推理場(chǎng)景?！?/p>
軟硬一體化將帶來的變革
天數(shù)智芯副總裁梁斌
從軟件角度看，天數(shù)智芯已經(jīng)推出了四代SkyDiscovery，這是一款一站式人工智能軟件平臺(tái)，提供一站式服務(wù)平臺(tái)，提供數(shù)據(jù)集成，智能數(shù)據(jù)存儲(chǔ)，模型評(píng)估服務(wù)部署的一站式服務(wù)。SkyDiscovery的作用是銜接開源生態(tài)，這個(gè)工具可以讓開源生態(tài)中各種各樣的應(yīng)用實(shí)現(xiàn)無縫遷移，并且讓已有開源的整套系統(tǒng)解決方案更加可擴(kuò)展、高可用、可靠、高性能
但這種生態(tài)的銜接是否也會(huì)讓客戶更容易離開？李云鵬表示，我們?cè)阢暯娱_源生態(tài)以后，還會(huì)根據(jù)客戶的需求，提供一些專用的支持，這一旦做了，它要挪走是有難度的，這也是所有企業(yè)級(jí)產(chǎn)品公司的必由之路。
從算力的角度，這個(gè)平臺(tái)要為數(shù)據(jù)應(yīng)用程序提供接口樞紐。天數(shù)智芯要做的是通用架構(gòu)處理器，支持所有通用型的并行計(jì)算。未來，隨著市場(chǎng)逐漸成熟，可以把AI融合進(jìn)架構(gòu)之中。李云鵬透露，天數(shù)智芯在芯片架構(gòu)設(shè)計(jì)上花了接近一年時(shí)間，但具體到一款新品從確定指標(biāo)到設(shè)計(jì)和流片只用了不到四個(gè)月時(shí)間。
顯然，軟硬件天數(shù)智芯突出的是標(biāo)準(zhǔn)通用。李云鵬表示：“我們也很難預(yù)測(cè)三、五年后會(huì)是什么樣的算法，以及什么是最有效的提取數(shù)據(jù)價(jià)值的方式。但我們做到了通用性，確保未來也能使用，讓一款芯片能夠有10年、20甚至30年的生命周期?！?/p>
李云鵬還表示，我希望花20年時(shí)間，把我們的自主知識(shí)產(chǎn)權(quán)芯片和軟件做到國(guó)際一流的入門水平。這也就意味著天數(shù)智芯在做一件大事，然而大事就是難事。
就目前而言，天數(shù)智芯提供的是軟件和硬件進(jìn)行融合的邊緣計(jì)算系統(tǒng)板卡和PCIe加速卡。李云鵬表示，中國(guó)客戶的特征是要解決方案。正是因?yàn)樵谛酒?，還通過軟件的方式累加了新的價(jià)值，從商業(yè)上來說也價(jià)值更高。
據(jù)了解，天數(shù)智芯軟硬件結(jié)合的方案已經(jīng)得到醫(yī)療、安防監(jiān)控等行業(yè)客戶的實(shí)際應(yīng)用，未來將會(huì)在智能制造、智慧新零售、智慧醫(yī)療、智慧園區(qū)、智能垃圾分類等多個(gè)行業(yè)及領(lǐng)域應(yīng)用。發(fā)布會(huì)現(xiàn)場(chǎng)天數(shù)智芯也展示了軟硬件產(chǎn)品在藥品識(shí)別、垃圾分類、人臉識(shí)別的應(yīng)用。
不過，李云鵬希望的是與更多合作伙伴一起在石油、天然氣開采、運(yùn)輸行業(yè)、風(fēng)電為代表的新能源行業(yè)，以及船舶制造等大型裝備制造行業(yè)，推廣智能化解決方案，最終推動(dòng)智能制造產(chǎn)業(yè)互聯(lián)網(wǎng)的發(fā)展。
李云鵬也透露，天數(shù)智芯剛剛開完務(wù)虛會(huì)，公司希望三年左右時(shí)間實(shí)現(xiàn)在中國(guó)整個(gè)工業(yè)制造領(lǐng)域構(gòu)建一個(gè)基于天數(shù)智芯的工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)聯(lián)盟。我們也希望在三年左右時(shí)間，能夠不僅僅盈虧平衡，而且能夠有足夠的利潤(rùn)擴(kuò)充自己的基礎(chǔ)投入團(tuán)隊(duì)，能夠讓我們有機(jī)地發(fā)展20年，把自己的產(chǎn)品做到國(guó)際一流的入門水平，我覺得這是一個(gè)基礎(chǔ)性質(zhì)的。
雷鋒網(wǎng)小結(jié)
兩次采訪李云鵬，每次能夠感受到他的情懷以及清晰而明確的目標(biāo)。從2015年創(chuàng)立之初就把公司的目標(biāo)設(shè)立為谷歌那樣的系統(tǒng)公司，以高大上公司不愿意做軟件和IT服務(wù)開始，獲得用戶和營(yíng)收，經(jīng)歷野蠻的生長(zhǎng)之后走向芯片的自研。如今AI芯片的發(fā)布意味著芯云戰(zhàn)略的落地，也是天數(shù)智芯展現(xiàn)軟硬一體優(yōu)勢(shì)新的開始。
這也與發(fā)布會(huì)地點(diǎn)的選擇的初衷相契合。天數(shù)智芯總部位于南京，卻選擇在杭州舉辦發(fā)布會(huì)，李云鵬說，1949年新中國(guó)成立，五年之后毛主席在西子湖畔國(guó)賓館內(nèi)撰寫了我們國(guó)家第一部憲法，代表著新中國(guó)邁向了新的起點(diǎn)。天數(shù)智芯經(jīng)歷了初創(chuàng)期的懵懂、野蠻生長(zhǎng)和碰壁，走過了一條完整的初創(chuàng)型閉環(huán)。他表示，之所以選擇在杭州西子湖畔開發(fā)布會(huì)，是希望天數(shù)智芯和它的祖國(guó)一樣，站到一個(gè)可期的新起點(diǎn)。
相關(guān)文章：
終于，有家AI云端芯片初創(chuàng)公司不對(duì)標(biāo)英偉達(dá)卻要與Google競(jìng)爭(zhēng)
天數(shù)智芯李云鵬：數(shù)據(jù)驅(qū)動(dòng)的春天即將來臨 | CCF-GAIR 2019
集產(chǎn)品、方案和云服務(wù)為一體，天數(shù)智芯如何做到“AI時(shí)代芯魂合一”
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
