本文作者:李丹
來源:硬AI
Meta今年的壓軸人工智慧(AI)大模型來了。
美東時間12月6日週五,Meta宣佈推出一款新的Llama系列生成式AI模型:70億引數的Llama 3.3、又稱Llama 3.3 70B。CEO扎克伯格在旗下社交媒體Instagram稱,這是今年最後一次AI大模型更新,下一步就是明年Llama 4亮相。
Meta 生成式 AI 副總裁 Ahmad Al-Dahle在社交媒體X發帖表示,純文字的 Llama 3.3能實現和Meta最大Llama 模型——4050億引數的 Llama 3.1同樣的效能,成本還比Llama 3.1更低。“透過利用包括線上偏好最佳化在內的最新後訓練後技術進展,該模型顯著降低成本且提高了核心效能,讓它更容易被整個開源社群所接受。”
Al-Dahle在發帖的同時附上了一張圖表,顯示包括針對大模型語言理解能力的測試MMLU在內, Llama 3.3在一系列行業基準測試中表現優於的Gemini 1.5 Pro、OpenAI 的 GPT-4o 和亞馬遜本週稍早釋出的 Nova Pro。Meta發言人透過電郵表示,該模型應該在數學、常識、指令遵循和應用程式App使用等領域有所提升。
Llama 3.3目前已經可以在Llama官網和AI開發平臺Hugging Face等網上來源下載。評論稱,Meta試圖以可供大範圍商業應用的開源模型主導AI模型市場,新模型是Meta為此目標的最新努力。
今年7月下旬,Meta釋出了迄今為止最大的Llama開源模型Llama 3.1,對標OpenAI和谷歌的大模型。這一4050億引數的模型使用1.6塊英偉達H100 GPU進行訓練,受益於新的訓練和開發技術,Meta稱,Llama 3.1 在一定程度上可以與OpenAI的GPT-4o和Anthropic的Claude 3.5 Sonnet競爭。
扎克伯格稱Llama 3.1為“藝術的起點”,表示該模型擁有大範圍新的能力,包括改善推理以幫助處理複雜的數學問題、或即時合成一整本書。
Meta限制了某些開發者使用 Llama 模型的方式,其規定,月度使用者超過 7 億的平臺必須申請特殊許可。但對很多人來說,Llama 模型是否嚴格意義上的“開源”並不重要。Meta 的資料顯示,Llama 的下載量已超過 6.5 億次。
Meta 在內部在也運用 Llama。扎克伯格稱,Meta的AI助手 Meta AI 完全由 Llama 模型提供支援,目前每月擁有將近6 億活躍使用者。他還稱,Meta AI 有望成為世界上使用率最高的AI助手。
不過,Llama的開源對Meta來說福禍相依。去年11月,在有報道稱Llama模型被海外用於開發軍用AI工具後,Meta當月回應稱,得到確認,將要向美國政府機構和國家安全領域私營企業承包商提供Llama。
Meta 還對其遵守歐盟《人工智慧法案》的能力表示擔憂,稱該法律的實施對Meta開源釋出戰略來說“太難以預測”。歐盟《通用資料保護條例》 (GDPR) 中有關AI訓練的規定也給Meta帶來問題。Meta 使用未選擇不接受的 Instagram 和 Facebook 使用者的公開資料來訓練AI模型,而在歐洲,這些資料受到GDPR的保護。