■原題:向用不起的AI宣戰(zhàn)!宇視掀起“裝備大模型化”變革
■記者:三北
“大模型只是技術(shù)升級不是革命……大模型技術(shù)商業(yè)化落地的路線一定是:裝備大模型化?!庇钜暱萍?/SPAN>CEO張鵬國說。
智東西4月16日報道,今日,在2024宇視合作伙伴大會上,宇視科技宣布推出AIoT行業(yè)大模型“梧桐2.0”,并發(fā)布“獵光 2.0” AI-ISP圖像引擎感知終端等一系列大模型產(chǎn)品,打響AIoT行業(yè)“裝備大模型化”的第一槍。
宇視科技CEO張鵬國發(fā)表題為《AIGC:千里之行,始于足下》的演講
從爆火的ChatGPT到Sora,大模型正沖向邊緣側(cè)、端側(cè)設(shè)備,從而重構(gòu)千行百業(yè)。小到一個攝像頭,大到一個個物聯(lián)網(wǎng)場景,大模型如何在其中真正跑起來?備受產(chǎn)業(yè)關(guān)注。
裝備大模型化,是宇視科技與萬家渠道伙伴一起給出的答案。
2024宇視合作伙伴大會現(xiàn)場
去年5月,宇視科技領(lǐng)先AIoT行業(yè)率先推出大模型“梧桐”,并與多家行業(yè)龍頭聯(lián)合啟動“梧桐大模型種子合作伙伴計劃”,探索大模型在交通、教育、零售、體育公共服務(wù)等領(lǐng)域的端邊云側(cè)的深入落地。
一年后的今天,宇視與合作伙伴不僅帶來了AI體育、AI文旅等各個行業(yè)的大模型新落地成果,還通過軟件硬件化、硬件裝備化、裝備序列化的新經(jīng)驗,為全行業(yè)帶來“裝備大模型化”產(chǎn)品底座開放能力的質(zhì)變。
AIoT新生態(tài)產(chǎn)品底座2.0
從實驗室到產(chǎn)品化、從軟件到硬件工程化、從價格昂貴到低門檻化,大模型有望通過守護(hù)城市和田間地頭的“機(jī)器之眼”,完成從技術(shù)到行業(yè)價值的新飛躍。
所有裝備 都值得用大模型重做一遍
大模型是技術(shù)升級還是革命?
不同的人觀點不同:閉源派、技術(shù)信仰者更傾向于這是一次技術(shù)革命,而開源派、市場信仰者更傾向于這是一次技術(shù)升級。
站在AIoT行業(yè)的角度去看,張鵬國認(rèn)為,大模型是AIoT行業(yè)當(dāng)下最大的技術(shù)變量,但大模型是技術(shù)升級,而不是革命。這很好理解,就像我們說蒸汽機(jī)出現(xiàn)不算是工業(yè)革命,但是把蒸汽機(jī)裝到了火車、輪船和各種生產(chǎn)工具上提高效率,才是工業(yè)革命。
如何讓大模型發(fā)揮出“革命”力量?還要靠裝備大模型化。
“大模型技術(shù)是AIoT行業(yè)當(dāng)下最大的技術(shù)變量,必定會給我們帶來新的市場機(jī)會點。一個大的機(jī)會點就是大量在網(wǎng)產(chǎn)品的更新迭代?!睆堸i國說,“借助于行業(yè)大模型技術(shù),邊、端產(chǎn)品有望用更低的成本,在某些細(xì)分場景下實現(xiàn)更好的應(yīng)用效果?!?/SPAN>
這意味著最直觀的需求:所有裝備,都值得用大模型重做一遍。
大模型技術(shù)升級對產(chǎn)品和解決方案架構(gòu)提出新的要求,比如要求云邊端的芯片都支持Transfomer架構(gòu),大規(guī)模參數(shù)對設(shè)備的顯存和算力提出新的要求,進(jìn)而產(chǎn)品的形態(tài)和功能也將被改變,比如支持更強(qiáng)大語音對話的攝像機(jī)已經(jīng)出現(xiàn)。
裝備大模型化時代,“視頻+大模型”首先會成為一大金礦。
正如宇視科技首席產(chǎn)品官朱兵所說,大模型的出現(xiàn),讓我們可以一起用更低的投入去挖掘海量視頻的價值,解決傳統(tǒng)AI技術(shù)解決不了的問題。在他看來,視頻的價值如何挖掘落地則可以用一個公式來表達(dá),那就是:“視頻”價值=(邊端裝備+大模型)x 生態(tài)業(yè)務(wù)
基于這樣的理念,宇視今年推出了一大批“裝備大模型化”產(chǎn)品,實現(xiàn)了業(yè)界最寬業(yè)務(wù)場景的覆蓋:
1、AI端側(cè)裝備:基于“獵光2.0 -AI-ISP”圖像引擎的AI全彩感知終端產(chǎn)品。它基于“梧桐”大模型,使得極暗環(huán)境下全彩畫面畫質(zhì)得到極大改善,30米外仍可智能識別和分析目標(biāo)。
2、AI邊緣端裝備:AI NVR、AI BOX、AI控制器和AI互動發(fā)布屏等。這些裝備基于“梧桐”大模型生成的長尾算法,可用于眾多行業(yè)場景,如用于校園AI體育的室外AI體測一體機(jī)、室內(nèi)AI體鍛屏等。
3、AI邊緣域裝備:基于梧桐大模型的視頻智能推訓(xùn)一體機(jī)、視頻數(shù)據(jù)服務(wù)一體機(jī)等。這些產(chǎn)品一般部署在中心機(jī)房,可以脫離平臺單獨(dú)使用,處理能力和路數(shù)相對邊緣端裝備有數(shù)倍的增加。
用大模型重做AIoT裝備,首先要注意規(guī)避小模型時代踩過的“坑”。
在上一波小模型AI浪潮中,宇視科技被認(rèn)為是國內(nèi)AI工程化最成功的AIoT企業(yè)之一,與???、大華等一起把智能攝像機(jī)、邊緣盒子落到了全國各地,同時也踩過AI落地幾乎所有會遇到的坑。
正是基于先前的經(jīng)驗,在張鵬國看來,在涉及“AI+還是+AI?”這一重要路線問題時,在這場變革中最容易成功的,還是后者,也就是裝備大模型化路線。
這背后是深刻的產(chǎn)業(yè)邏輯:隨著大模型推動的技術(shù)平權(quán)加速,大模型落地AIoT行業(yè)更離不開的是,緊密合作的客戶群和渠道、公司營銷的基本盤以及強(qiáng)大工程化落地能力迭代。
參天生長的梧桐2.0 行業(yè)商業(yè)化落地新破局
為了推動裝備大模型化,宇視今日正式發(fā)布梧桐2.0大模型。
梧桐2.0從訓(xùn)練、推理、測試、數(shù)據(jù)等AI開發(fā)過程進(jìn)行全面升級。圖像方面,梧桐2.0新增了大模型AI-ISP、超分及圖像質(zhì)量評價等多個模塊;CV方面,由視頻結(jié)構(gòu)化全面升級為視頻內(nèi)容理解;NLP方面,更好地支持軟件代碼生成;多模態(tài)方面,文生圖、文生視頻在智慧景區(qū)、智慧體育等領(lǐng)域應(yīng)用,極大地提升用戶體驗。
宇視AI首席科學(xué)家李聰廷說,裝備+梧桐大模型,將重新定義圖像質(zhì)量、視頻解析、模型的推理和訓(xùn)練,也將重新定義裝備本身。新一代的AI裝備,在圖像質(zhì)量、算法精度、算法生產(chǎn)率、用戶體驗等方面有質(zhì)的飛躍,同時服務(wù)效率也大幅提升。
作為一個行業(yè)大模型,梧桐2.0的一大顯著特征是“邊用邊升級”。
以宇視在AI體育領(lǐng)域的落地方案為例,基于梧桐大模型的AI體育鍛煉屏可以讓很多孩子站在同一個屏幕前一塊做運(yùn)動,記錄每個孩子的動作細(xì)節(jié)和成績,為其自動打分并提供鍛煉建議,讓孩子能更快樂且更科學(xué)地鍛煉身體。
宇視AI體育鍛煉屏展示
隨著體育在素質(zhì)教育中越來越重要,體育教育缺乏科學(xué)的評判工具和較完備的方法論,成為當(dāng)下國內(nèi)教育的一大痛點?;谖嗤┐竽P偷?/SPAN>AI體育方案以極低成本,使系統(tǒng)實現(xiàn)了遠(yuǎn)超小模型方案的效果,助力學(xué)生體育教學(xué)的質(zhì)量大大提高。
宇視AI跑步屏展示
大模型首先進(jìn)入的行業(yè)有一些顯著特征。以文教體行業(yè)為例,這一市場用戶基數(shù)和市場空間龐大,并符合社會進(jìn)步的方向,且在技術(shù)上沒有過于苛刻的精度要求,給大模型固有的幻覺留出了空間,因此成為大模型的一大絕佳“著陸點”。
可以看到,經(jīng)過大模型化的邊緣、端側(cè)裝備融入到具體場景,將為行業(yè)商業(yè)化落地帶來全新的突破口。
然而,要實現(xiàn)裝備大模型化,也不是一蹴而就的。
正如朱兵所說,其能力隨著時間在算法的大模型能力和裝備部署大模型的能力兩個維度上發(fā)展,算法前期會發(fā)展更快些,而裝備部署大模型的能力未來有望迎來“井噴式”發(fā)展。
以下這張圖展示了宇視邊端裝備大模型化的演進(jìn)路徑:
1、算法+大模型的能力:從CV到多模態(tài)充分融合
?對于行業(yè)CV算法,大模型的貢獻(xiàn)是從自動生成樣本數(shù)據(jù),幫助小模型算法提高效率開始的。
?2023年下半年已經(jīng)可以基于更少的數(shù)據(jù)樣本+自學(xué)習(xí)實現(xiàn)長尾算法開發(fā)效率的指數(shù)級提升。
?接下來今年上半年大模型CV算法和NLP語義理解能夠充分結(jié)合,能夠在客戶現(xiàn)場基于語義化描述快速調(diào)用多種算法按語義理解的邏輯組成新的算法。
?未來的算法則會多模態(tài)化,基于視圖理解和交互會充分融合,就像不久前谷歌發(fā)布Gemini所演示的一樣,會成熟落地。
2、裝備部署大模型能力:從公有云到邊端側(cè)使用門檻降低
?去年首先實現(xiàn)的是公共云部署大模型的能力,從去年下半年開始逐步在邊緣裝備上部署基于大模型生成的長尾算法,對算力的要求相對較高。
?然后是大模型本身可以私有化部署在邊緣域一體機(jī)中,隨著算力成本的降低,今年年底開始會逐步有感知終端部署大模型生成的算法。
可以預(yù)測,隨著AI PC、具身機(jī)器人等成為具有前景的大模型落地方向,作為“機(jī)器之眼”的視覺傳感設(shè)備,有望率先成為大模型落地的載體,發(fā)揮出巨大的行業(yè)價值。
裝備大模型化 宇視與渠道伙伴的雙向奔赴
實際上,裝備大模型化賦能行業(yè)的故事已經(jīng)越來越多。
基于梧桐大模型和邊端裝備,過去一年宇視和渠道一起還做了很多有價值的行業(yè)案例:
在國家東北虎野生動物園,10天快速輸出了老虎識別算法,夜間效果準(zhǔn)確率達(dá)到90%,發(fā)現(xiàn)老虎能實時聯(lián)動報警,有效防止人虎沖突。
在湖南某地,一周生成不牽狗繩算法,準(zhǔn)確率達(dá)到96%以上,從識別到最后狗主人將狗繩系好,整個過程不到3分鐘,獲得當(dāng)?shù)仉娕_的報道點贊。
在海南環(huán)島公路,集雷視融合檢測、LED屏顯、數(shù)據(jù)深度處理、無線通信為一體的道路安全預(yù)警裝備,實現(xiàn)彎道雙向預(yù)警,有效降低交通事故發(fā)生。
在濮院時尚古鎮(zhèn),宇視與頂度集團(tuán)一起,基于VR和VLOG AI短視頻融合體驗,讓每一位游客融入“濮院T臺”,記錄自己的“時裝周”精彩瞬間。
……
碎片化是AIoT行業(yè)多年以來面臨的頑疾,但大模型的泛化能力讓這些問題有了一致解法,裝備的大模型化也將帶來AIoT產(chǎn)品底座開放能力的質(zhì)變。
和去年相比,宇視將提供更徹底的開源能力,新增宇視公共云服務(wù)提供的開源組件;提供了覆蓋更全面的OPEN API南北向接口,新增全配置式接口創(chuàng)建以及適配,業(yè)務(wù)整合效率整體提升70%。
同時,基于梧桐CV大模型能力,1周發(fā)布1個新分類檢測模型,合作伙伴可以方便訓(xùn)練自己的AI長尾算法;其還提供更豐富的輕代碼/零代碼工具,通過拖拽式點位標(biāo)記,1人天即可實現(xiàn)3D地圖應(yīng)用發(fā)布。
此外,梧桐還提供更智能的軟件開發(fā)方式,借助AIGC輔助生成代碼工具,幫助開發(fā)人員通過文本交互或原型快速自動創(chuàng)建代碼,同時及時糾錯,提高開發(fā)效率。
李聰廷告訴智東西,過去,很多人可能覺得大模型高不可攀,用起來一定很貴。但在大模型落地AIoT邊緣和端側(cè)的過程中,宇視已經(jīng)能實現(xiàn)比傳統(tǒng)方案成本降低的情況下,效果明顯的提升。大模型方案越來越成為更超值的選擇。
結(jié)語:裝備大模型化 助力解放新質(zhì)生產(chǎn)力
隨著「百模大戰(zhàn)」展開一年多,我們看到很多軟件App已經(jīng)接入大模型,進(jìn)而尋求打造爆款超級應(yīng)用;而今年,以宇視科技為首的AIoT企業(yè)率先打響“裝備大模型化”的變革,展現(xiàn)了大模型跨越軟硬件的鴻溝,落地千行百業(yè)的潛力。
“人工智能+(AI+)”在2024年兩會中首次被寫進(jìn)相關(guān)部門工作報告,國家正加強(qiáng)頂層設(shè)計,加快形成以AI為引擎的新質(zhì)生產(chǎn)力。“AI+”的落地需要結(jié)實的憑借和抓手。裝備大模型化有望聚AIoT生態(tài)之力,提供有力的抓手,助我國加速解放新質(zhì)生產(chǎn)力。
[出處] 三北, 向用不起的AI宣戰(zhàn)!宇視掀起“裝備大模型化”變革. 智東西, 2024-04-16