上一個讓所有手機廠商,開啟了長達數年軍備競賽的賽道是影像,而下一個這樣的機會是AI。
文|遊勇
編|周路平
2月8日上午,OPPO官方放出一張海報,預告明天有大事發生……
三天前,OPPO釋出在央視春晚彩排後臺前瞻花絮,春晚主持人尼格買提、任魯豫、馬凡舒專門體驗了OPPO手機的AI功能,包括AI消除、AI通話摘要和小布拜年。
OPPO透過春晚舞臺將AI的能力展示在全國人民面前,也在宣告著手機行業將進入AI的新時代。
01
一個時代的大幕正在開啟
ChatGPT在AI領域掀起的深遠影響還在持續發酵。如果說,前期更多是雲廠商的狂歡,各自都推出了通用的大語言模型,並且開始在千行百業尋找落地應用。
那麼最近半年,隨著底層晶片平臺的成熟和模型量化壓縮的推進,手機和PC等硬體終端廠商加快步伐,推動大模型在端側的應用落地。
去年底,和聯發科的最新旗艦平臺都支援端側大模型的部署。比如驍龍8Gen3作為首個專為生成式AI打造的移動平臺,支援終端側執行100億引數的模型,面向70億引數大語言模型每秒生成高達20個token。聯發科的天璣9300也搭載了第七代APU 790的AI效能引擎,可以支援終端執行10億、70億、130億、至高330億引數的AI大語言模型。
底層晶片平臺的加持下,OPPO、小米、vivo、榮耀和三星都已經推出或者即將推出70億引數的端側大模型。手機作為智慧體,端側大模型的落地應用扮演著越來越關鍵的角色。大模型也被認為是將來能夠帶來革命性的使用者體驗,進而帶動換機的關鍵。而基於這一認知,全力投入研發AI已經成為手機廠商的陽謀。
據悉,一向謹慎的蘋果也預計會在今年6月的全球開發者大會上為Siri等產品引入一系列基於大模型的AI體驗。
PC行業也在全速向AI PC演進。英特爾CEO基辛格直言,“AI代表著新時代的到來。AI將透過雲與PC的緊密協作,進而從根本上改變、重塑和重構PC體驗,釋放人們的生產力和創造力,我們正邁向AI PC的新時代。”
英特爾專門釋出了酷睿Ultra處理器,首次將CPU、GPU和NPU三合一,滿足AI PC的需求。AMD、高通也相繼推出了整合AI模組的CPU。聯想則基於英特爾的AI處理器,推出了首款具備AI能力的筆記本,宣佈全面向AI PC轉型。
IDC中國總裁霍錦潔更是指出,AI PC不僅是一個新產品,它代表的是整個行業即將進入一個全新時代——一個行業大變革的時代,一個見證歷史突破的時代。而Counterpoint的觀點是,預計到2025年,AI膝上型電腦的銷量份額將達到50%,至少配備一個NPU或AI加速器,以補充其主要CPU和GPU的功能。
無論是PC還是手機,都是在日常生活和工作中扮演重要角色、也同樣面臨增長困境的行業,如今都不約而同地將AI擺到了極為重要的戰略地位。
而新時代到來的背後,當前PC和手機行業面臨著不小的增長困境。根據IDC最新統計的資料,2023年,中國智慧手機市場出貨量約2.71億臺,同比下降5.0%,創近10年以來最低。背後的因素眾多,包括智慧手機本身創新乏力,以及使用者換機週期從之前的兩年增加到了現在的三四年。
如今,手機行業的潮水正在轉向,AI將成為刺激行業創新和銷量增長的最好催化劑。
2024年被認為是AI手機的元年。一位業內人士判斷,上一個讓所有手機廠商,開啟了長達數年軍備競賽的賽道是影像,比如更多的鏡頭、更大的感測器等,幾年過去,手機影像能力有了實質性提升。而下一個這樣的機會是AI,只不過相比於影像,AI是一個更加漫長的征途,而且對技術積累和研發投入的要求會更高。
02
搶佔大模型手機的先機
“再不佈局大模型的手機廠商,就沒戲了!”OPPO高階副總裁劉作虎說得非常直白有力,這種觀點也代表了手機行業目前的普遍情緒。
根據Counterpoint預測,2024年將是GenAI(生成式AI)智慧手機的關鍵一年,出貨量將超過1億部;到2027年,GenAI智慧手機市場份額、出貨量將分別達40%、5.22億部。
儘管業內對AI手機的定義沒有統一的標準,但也從側面說明,AI將是未來手機的標配,而且這種標配不僅僅是一個獨立的應用和場景,而是從系統底層重構手機的體驗,讓AI的能力在系統側無處不在,“未來的手機就是一個AI Agent”。
今年1月初,OPPO的年度旗艦機Find X7系列在深圳釋出。這場釋出會和以往有一個很大的不同,以前釋出會開頭都是先介紹影像或者手機的外觀設計。但這次,OPPO花了近半個小時演示端側大模型帶來的應用落地。其他廠商的釋出會上都做了類似的調整,各家都把端側大模型的優先順序提到了最重要的位置。
OPPO Find X7是業內首個落地7B端側大模型的機型。劉作虎專門在釋出會上演示了幾個在端側大模型實現的場景,比如通話摘要,大模型會根據通話記錄生成一份簡潔但不失重點的摘要,然後生成待辦事項,甚至還可以在使用者沒有時間接聽電話時,幫助使用者記錄要點,在工作和生活場景中不會遺漏任何重要的資訊。而且相比於1B的模型,7B模型在摘要上的表現明顯更加出色。
除了語言模型,OPPO的AndesGPT也具備功能全面、強大的生成式視覺模型,能夠對影象進行精準語義理解,並在此基礎上實現了對超過120類主體的識別與分割支援,使用者可以任意選擇抹掉圖片中的路人、雜物甚至是髮絲級的分割,並針對消除後的圖片進行細節和紋理真實填補,將相簿裡的“廢片”重新變成令人滿意的“好圖”。
OPPO之外,三星也開始了端側大模型的應用探索。相比於OPPO的通話摘要能力,Galaxy S24展示的是通話翻譯的場景,雙方可以跨語言實時溝通,相當於身邊有個同聲傳譯,讓人眼前一亮。
總體看來,三星和OPPO在端側大模型的應用方向上比較相似,都展示了在摳圖和通話場景下的AI應用。不過兩家的實現路徑和側重有所不同,比如三星在端側大模型的能力主要來自於谷歌的Gemini Nano模型,而OPPO是其自主訓練的大模型。
一位手機圈內人士告訴數智前線,現在市面上號稱實現了7B端側大模型的廠商,其實大部分功能還是在雲端實現,因為雲的速度才夠快,而端側受限於功耗、記憶體等因素。據他透露,國內的手機廠商目前只有OPPO是真的在端側實現了大模型的效果,一個是通話摘要,一個是智慧消除,其他廠商基本還是在雲端處理。
而當前大模型在端側部署最大的難題在於模型的壓縮量化以及端側的儲存效能的提升。
另一位手機廠商的知情人士透露,端側大模型當前最大的瓶頸,不在GPU,也不在NPU,而是在記憶體頻寬。目前效能最強的記憶體LPDDR5X的實際頻寬是50多GB每秒,7B模型在量化稀疏後,大概佔4G記憶體,它的效能要達到10個Token 以上,需要達到40多GB每秒,正好是LPDDR5X的頻寬極限。
為了實現大模型在端側的落地,OPPO已經把7B大模型的記憶體佔用降到了4GB以內,效能達到了10Token/S以上,功耗現在做到了800毫安級別,“它在這種場景上是能接受的,不會讓手機發燙。”據瞭解,OPPOReno系列產品也將落地端側大模型。
不過,端側大模型更多處理的是一些簡單任務,大多數場景還是在雲端推理。端雲協同是目前大模型在手機應用的主流。
所以,除了70億引數的端側大模型,OPPO也訓練了700億引數的AndesGPT-Turbo以及1800億引數的AndesGPT-Titan,可以滿足高度複雜任務的深度推理,而這兩個模型都是在雲端部署。
據OPPO方面透露,未來OPPO對大模型手機的技術演進方向有兩個:一是繼續攻關大模型端側化部署,實現更優效能和更強處理能力;二是用更通用、先進的架構解決端雲協同問題。
03
抵禦寒冬的致善式創新
任何現在看起來前瞻性的佈局,都不會是憑空發生。事實上,OPPO投入大模型研發的時間並不短。
早在2020年,OPPO就已啟動了的探索與實踐,自研了一億、三億和十億引數量的大模型OBERT,當時走的還不是GPT路線,引數量也不如當下動輒數百億上千億的模型。
但無論是BERT還是GPT都是基於Transformer架構,這也給OPPO為後續AndesGPT的訓練打下了堅實的基礎,也積累了豐富的經驗。如今,AndesGPT在通用問答與對話的能力表現出色,並且登頂了C-Enal全球中文榜單榜首。
OPPO正在透過加大對技術的投入,以確保在這個紅海市場的競爭中不落於下風,這也成為OPPO抵禦行業寒冬的最有效法寶。
如果說,以前的OPPO是在營銷上大手筆,但這些年的一個直觀的變化是,OPPO越來越捨得在技術和產品研發上投入。外界也看到了越來越多OPPO的創新上的引領,包括業內首個端側大模型,業內首個雙潛望旗艦,在通訊和晶片底層技術上的突圍等。在致善式創新的理念下,OPPO正從單一的手機公司到生態型科技公司的轉變。
不久前,OPPO與諾基亞官宣簽署5G專利交叉許可協議,雙方在協議簽署後將結束在所有司法管轄區的所有未決訴訟。這場長達近三年的專利糾紛最終戲劇性地以和解方式落幕。
這件事情的意義並不限於OPPO本身,也給國內企業在面對不合理的專利許可時,做了一個很好的示範。
當然,實力才是對抗不合理的底氣。OPPO這些年在研發上的鉅額投入以及積累的大量專利,為其全球業務和安全運營保駕護航。目前,OPPO約60%的員工為研發人員。截至2023年12月31日,OPPO全球專利申請量超過98000件。其中,發明專利申請數量超過89000件,佔比超過了90%,全球排名第6位,在國內僅次於華為。在這些外界不容易關注的地方,OPPO正在積蓄能量。
正是這些年在研發上的投入和專利上的積累,使得OPPO有底氣選擇與國際大廠正面硬剛。有訊息稱,隨著OPPO與諾基亞的和解,也在為後續OPPO重返歐洲部分市場掃平道路。
而這些技術和專利最終也用到了產品體驗上。以最新發布的Find X7系列為例,除了上面提及的端側大模型的落地,還有在通訊技術、晶片底層架構和安全上的最佳化。
這次首發的“潮汐架構”,解決了SoC的儲存和讀寫速度遠低於計算速度的問題。潮汐架構對晶片效能的最佳化深入到了L3快取層級,並透過識別應用場景的需求,動態調控系統資源。比如計算型任務佔多,則主動分配更多快取給CPU;渲染型任務多則將資源傾斜給GPU。這套架構讓SoC平均節約了8%的能效。
另外,OPPO整套自研的通訊技術方案——超級訊號工程,包括了天線技術、智慧通訊、近場通訊三大技術整體突破,同樣可以提供“使用者所在場景的最佳通訊與網路連線體驗”。
如今,AI和影像已經成為OPPO並列的兩大技術支柱。劉作虎透露,OPPO在不久前把公司所有AI相關的夥伴,集中到一起成立了“AI中心”,集團技術負責人獨立管理統籌。以前這些崗位分散在各個部門,不成系統,“我們決定集中所有資源,成立AI中心,讓AI成為OPPO的核心競爭力。”劉作虎說。
從目前來看,大模型在端側的應用才剛剛開始。未來,有沒有大模型,以及如何深度運用大模型,將決定了產品是否有競爭力的關鍵。
當然,正如比爾蓋茨那句屢次被引用的名言——我們總是高估未來兩年將發生的變化,而低估未來十年將發生的變化。這句話放在AI身上同樣適用,無論是AI手機,還是AI PC,實際上都還處於初級或者準備階段,在真正實現革命性體驗之前都需要經歷比較長時間的迭代和演進。但毋庸置疑的是,2024年對於AI手機而言,已經成為公認的重要時刻。
《繁花》裡有句話說得非常貼切:目標從來就不遙遠,一步步,一天天。只管全力以赴,剩下的交給時間。