快科技12月18日訊息,國內領先的大模型廠商智譜官方釋出了智譜清言的Intel酷睿Ultra專享版,無需聯網,即可在PC本地離線執行智譜的端側模型,有利於保護隱私安全。
智譜清言是一款涵蓋移動端、PC端的AI助手,附加功能豐富,但以往必須依賴雲端大模型才能執行。
酷睿Ultra系列處理器透過CPU+NPU+iGPU三者合作,可以為不同的AI負載提供合適的算力引擎,其中CPU適合對延遲要求較高的AI應用,NPU適合持續性的、低負載的AI應用,iGPU適合大吞吐量的AI運算。
智譜與Intel深度合作,在本地模型的選擇上確保了模型引數、準確性的平衡,同時採用合理的量化技術,確保合理的模型檔案尺寸,還在效能調優上選取了優秀的工具鏈,確保本地模型高效第執行酷睿Ultra之上。
本次釋出的智譜清言酷睿Ultra專享版,會自動檢測PC配置,自動下載合適的端側模型,提供知識問答、文件撰寫、創意生成等服務。
比如,可以將若干篇存在PC本地的文件透過在RAG形成專有的,並透過自然語言查詢,輸出內容可包含來自本地文件的專業資訊,而且更加自然、有邏輯。
再比如,可以完成本地長文件的摘要等工作,提升生產效率。
不過注意,它對記憶體容量也有一定的要求,不得低於24GB。
下載地址:
https://sfile.chatglm.cn/apk/xinyu/windows/endside/chatglm_setup_win32_1.0.81_default_full.exe