時時頭條
  • 娛樂
  • 體育
  • 財經
  • 科技
  • 旅遊
  • 軍事
  • 育兒
  • 時尚
  • 遊戲
  • 歷史
  1. 首頁
  2. 科技

ChatGPT拒絕談論這個人,沒人知道為什麼

2024-12-02 15:36:23

ChatGPT兩歲了,版本更新沒等來,卻被發現一個神秘Bug。

一個看似平平無奇的名字“David Mayer”成為頭號禁忌,ChatGPT拒絕談論有關他的一切。

而且每次都是返回非常模糊的錯誤資訊“我無法產生一個回覆”,而不是常見的“這個提示詞可能違反了我們的內容協議”。

屬實是繼搞不清楚“9.11和9.9哪個大”和“strawberry有多少個r”之後,ChatGPT又一大迷惑行為。

a16z合夥人Justine Moore丟擲這個話題,一下子激起大家的好奇,以及叛逆心,非要想辦法讓它說出來不可!

起初網友們嘗試了各種花招,都沒能繞過這個限制。

“David”和“Mayer”分開,就沒有任何問題,只要合在一起就不行。

按ROT13替換式密碼錶重新對映字母,讓ChatGPT解密後把他們連起來,也會在回答生成一半時突然被打斷,然後報錯。

在個性化設定裡,把使用者自己的名字改成“David Mayer”,同樣不行。

那麼David Mayer究竟是誰,為何會成為AI的禁忌詞?

人類只好退回到手動查資料的模式,定位到一位全名David Mayer de Rothschild的人,和著名的家族有關。

具體來說,還是羅斯柴爾德家族財富的繼承人。

對此有人猜測,這得花多少錢或者威脅它們,才能讓OpenAI對自己的名字做特殊處理……

然而羅斯柴爾德家族的其他成員,又不會遇到這種限制。

終於,我們的老朋友,首位全職提示詞工程師Riley Goodside出手,公開一種突破限制的方法,也相當神奇:

只要用拍手錶情代替空格提問,ChatGPT不僅能回答,還能自動觸發聯網搜尋功能,展示照片。

圍觀了整個賽博破案現場的大神Karpathy,發梗圖總結,圖靈測試的現狀,引來馬斯克圍觀爆笑。

也有人堅定認為,這就是為什麼我們要用開源模型。

那麼,ChatGPT究竟遇到了什麼限制?

共有6個名字被限制

首先可以確定的是,訓練資料裡其實有關於這個人的資訊。

比如他作為一個探險家,是到達過南北兩極的最年輕的英國人。

詢問這方面問題,ChatGPT可以給出正確回答,也可以說出他的名+姓“David de Rothschild”。

但唯獨不能把他的名字“David”和中間名“Mayer”放在一起。

那麼這個限制是模型層面的,還是ChatGPT產品層面的?

有開發者到OpenAI官方Playground呼叫GPT-4o的API,就沒有這方面限制了。

另外使用第三方聊天機器人平臺(底層也是呼叫OpenAI的API),也不會有這種限制。

如果回到ChatGPT官方版,換o1-preview模型,在內部思維鏈中都可以看到這個名字,但是思考結束後正式回答還是被捂嘴了。

也不是David Mayer一個名字會有這樣的待遇,有網友開啟挖掘機模式,在事件發酵48小時內,已經找出6個這樣的名字。

前兩個都是被ChatGPT的幻覺“造謠”過的。

Brian Hood是一位澳大利亞的市長,ChatGPT會錯誤的生成“他因受賄而入獄”,Hood曾起訴OpenAI誹謗,後來撤銷了訴訟。

Jonathan Turley是法學教授,同樣被ChatGPT編造過違法。

Jonathan Zittrain也是法學教授,他跟貼自曝自己的名字也被限制了。

David Faber可能是一位電視主持人,與OpenAI的關係只是在節目中談過馬斯克與OpenAI的法律糾紛。

Guido Scorza是一位義大利律師,他去年提交了要求OpenAI刪除個人資料的請求。

另外David Meyer究竟代表誰,除了羅斯柴爾德家族繼承人之外,也被挖掘出另一個可能。

歷史學家David Mayer曾因與犯罪分子同名而被錯誤的列在黑名單中,但他現在已經去世了。

目前觀察這份名單可以看出,很多人與法律相關,而且David和Jonathan分別出現了兩次。

目前越來越多的網友加入討論和挖掘,名單還在持續增加中……

10億使用者計劃曝光,明年押注Agent

事實上,剛剛過去的週末恰逢ChatGPT兩週年紀念日。

OpenAI官方也來了一波回憶殺,又轉發了兩年前的推文,並追問大家:

so,你用過ChatGPT了嗎?

截至今日,ChatGPT每週活躍使用者已有2.5億,公司估值1500億美元,是全球AI創企中當之無愧的頂流。

所以,OpenAI的此番問話除了暗戳戳“炫耀”,其實背後還隱藏著更大野心。

因為它下一階段的目標是:未來一年內達到10億使用者。

其公司首席財務官Sarah Friar告訴金融時報記者:

到2025年,我們將成為向數百萬人服務的研發實驗室……希望它能為全球數十億消費者服務

而為了實現這個目標,OpenAI也進行了一系列佈局。金融時報指出:

OpenAI正在押注一系列新的AI產品,建設自己的資料中心,並與蘋果公司建立關鍵合作關係,以加速其下一階段的增長。

首先是與蘋果公司的合作。在今年6月蘋果的開發者大會上,雙方正式官宣建立合作伙伴關係。

蘋果當時預告,今年晚些時候,由GPT-4o提供支援的ChatGPT整合將登陸蘋果系統。

而從上個月開始,當蘋果推出iOS 18.2系統更新後,Siri與ChatGPT就實現了深度整合。

要知道,目前蘋果大約有22億臺活躍裝置,雖然官方未公佈其中iPhone裝置佔多少,但根據第三方網站Skillademia和Backlinko的預估,當前全球iPhone活躍使用者數大約有13~14億左右。

也就是說,只要ChatGPT繼續繫結蘋果裝置,10億使用者小目標也並非難以實現。

與此同時,據OpenAI新上任的全球政策負責人Chris Lehane透露:

公司計劃在美國中西部和西南部投資建設資料中心叢集。

實際上,擁有自己的AI基礎設施,一直是CEO奧特曼極力推動的計劃之一,目前OpenAI主要還是和微軟、甲骨文等開展合作。

公司首席財務官Sarah Friar表示:

我們正處於大規模增長階段,我們有必要持續投資。我們需要在模型前沿保持領先。這很昂貴。

除此之外,OpenAI明年的一大重點是AI Agent。之前有訊息稱OpenAI計劃在明年1月初推出代號為“Operator”的智慧體,幫助人們自動完成寫程式碼或訂餐等操作。

CEO奧特曼在福克斯最新採訪中表示:

AI系統將逐漸變得更加自主,能夠執行越來越長的任務,成為“越來越資深的同事”。

總之,正如Abacus AI創始人所說,我們才剛開始,接下來的兩年也許會更加瘋狂!

熱門資訊
  • “亦莊箭”攜六大國內首創技術成功入軌 | 2024-11-30 05:57:58
  • 三季度電視出貨量同比下降6.6%,大尺寸、Mini LED成未來增長關鍵力量 | 2024-11-30 07:17:17
  • 華碩與智譜攜手合作,共創AIPC新時代 | 2024-11-30 07:29:58
  • 西湖大學葉宇軒課題組Nat. Chem.:新型去飽和化酶解鎖烯還原酶的非天然反應性實現選擇性脫氫 | 2024-11-30 07:34:13
  • JCI | 王紅豔/沈鍵鋒合作報道microRNA調控心臟內皮細胞發育機制研究新進展 | 2024-11-30 07:42:56
  • 英特爾正在研發一顆怪獸晶片 | 2024-11-30 07:42:58
  • 清華學者製備電磁超表面感測器,將聯合汽車廠商推進落地 | 2024-11-30 07:43:01
  • 從生命複雜系統看腫瘤微環境:預測腫瘤細胞組成的新方法|週二直播·生命複雜性讀書會 | 2024-11-30 08:27:36
  • 報道稱因重型運載火箭研製經費不足,俄羅斯推遲載人登月計劃 | 2024-11-30 08:31:34
  • AI助理,能否變成現實 | 2024-11-30 08:34:13
  • 鐳射雷達“價格戰”再添一員!禾賽科技ATX明年價格或降至200美元 行業已進入“千元時代” | 2024-11-30 08:47:55
  • 高通閃電研發:小米澎湃OS 2程式碼發現第二代驍龍 8至尊版晶片蹤跡 | 2024-11-30 08:47:59
  • 俞敏洪稱新東方教室100%是格力空調 用了20年:董明珠曾稱不買格力是傻瓜 | 2024-11-30 09:12:31
  • 湖南大學段輝高教授《AM》:幹法剝離的力學光刻正規化--賦能半導體制造工藝更綠色環保 | 2024-11-30 09:24:57
  • 已經近11年,嫦娥三號著陸器還“活著”,荷載能開機探測,傳資料 | 2024-11-30 09:25:40
  • 海森堡 —— 一個被誤解誤傳的量子力學奠基人(上) | 2024-11-30 09:27:22
  • Nature刊文:“open”AI的實際作用非常有限 | 2024-11-30 10:08:46
  • 全球首臺,研製成功! | 2024-11-30 10:22:13
  • 你上下行速度多少!我國千兆使用者數破2億戶:家庭戶均接入頻寬達506.9Mbps | 2024-11-30 10:22:14
  • 中國移動升級5G-A x AI,開啟“A”時代 | 2024-11-30 10:26:29
  • 小米HyperOS 2軟體中提及了高通驍龍 8 Elite Gen 2晶片的相關編號 | 2024-11-30 10:40:55
  • 有史以來最亮的半導體鐳射器 | 2024-11-30 10:57:41
  • 馬斯克想廢除美國大量政府規章,放鬆企業監管,但這事不容易 | 2024-11-30 11:31:22
  • 美團高管業績電話會談騎手收入 高頻騎手月均收入5720元至10865元 | 2024-11-30 11:33:52
  • AMD 低功耗版 Strix Halo APU 曝料:8 個 Zen 5 核心 | 2024-11-30 11:33:59
  • 3.1 億大單、長春算力中心(二期) | 2024-11-30 11:52:16
  • 儲存晶片,集體上漲 | 2024-11-30 11:54:15
  • 新冠後遺症突破性發現:榮周易/麥鴻成等揭示刺突蛋白或是新冠感染後神經損傷的主因 | 2024-11-30 12:30:22
  • 藍戟新品官宣 12 月 4 日釋出,預計為英特爾新一代Arc B580顯示卡 | 2024-11-30 12:35:55
  • 馬斯克上任政府效率部長 對NASA是噩夢還是福音? | 2024-11-30 12:43:00
最近發布
突發!TVB知名女星毫無預警宣佈與未婚夫分手,結束長達八年情 面對被黑,蘭姐強勢迴歸。小菲狀態好轉,發宣告。更多內幕揭曉! 中國男籃決戰日本隊,首發五人曝光,廣東隊大贏家,徐傑第一後衛 孫穎莎奪女單冠軍!採訪謙遜立足拼,劉國樑給中國選手頒獎笑開花 分析 馬威交易取消後的影響:湖人還有什麼選擇?只能等休賽期? 火箭vs猛龍前瞻:範弗裡特有望復出戰舊主,火箭欲終結六連敗 梅西轟動宏都拉斯!當地媒體:這是世紀體育盛事! 登記開啟!金中、29中、13中等校動了! 開年暴擊!南京又一家機構跑路了? TechInsights:AI PC未能提振筆記本市場 2024年僅增長5% 睡覺時突然腿抽筋,就是缺鈣?錯!還有這4個原因,別輕易忽視了 泡泡瑪特又贏麻了!此前被調侃是“境內最大的博彩公司” 再也不用扎手指!5億糖尿病患者有福了 傳《尼爾:機械紀元》續作、新《古墓麗影》今年公佈 有工作經驗的畫素畫師如何寫簡歷? 離譜!Xun被搶3條龍,JDG仍然獲勝!Peyz力挽狂瀾,WBG痛失好局 將耗死在國際空間站?59歲美滯留女宇航員求救:喪失重要身體機能 華為FreeClip耳機玫瑰金開售 開放式聆聽設計 CBA俱樂部杯-山西淘汰北控晉級4強 原帥18分 小紅書上移民的中產:曾經北京七套房, 羨慕海外一張床, 如今卻...... 不可抗力停課2天以上退一半保教費,佛山幼兒園收費新規釋出 紅棉襯醉美,2020番順醉美青餅評測 華為FreeClip耳夾耳機玫瑰金配色開售:1299元 64歲寧波老闆,跨界無數次,給員工發8億,即將擁有第三家IPO? 卡友資訊股東持股情況變動 廣州“城市合夥人”:城市與人才的雙向奔赴 有人說孫穎莎粉絲是飯圈文化的時候 卻有些人用真金白銀愛孫穎莎! 男生剪“短髮”髮型乾淨利落,試試這3款,剪完帥氣提升顏值! 7個臀部訓練最佳動作,打造迷人的蜜桃臀! 偉大的4-2!林詩棟奪冠:新科世界第1誕生、超越王楚欽,狂攬3冠 新疆完美了!新小外強於皮特森+黑根斯,承認補強大外良性競爭! 林詩棟奪男單冠軍!採訪大談不容易太謙遜,單獨拍照露出笑容! 國乒最新戰報!林詩棟第2局11-8,衝3冠王,梁靖崑救2局點仍輸球 替補奇兵!快船大將5記3分助隊贏球 哈登好幫手 爆冷!北控男籃吊打奪冠大熱門球隊,外援決定比賽的走向 官宣離任,胡明軒宣佈重要決定,廣東宏遠遺憾,杜鋒祝福 又一個賈德松!崔康熙看人很準,魯媒:卡約又要錯過中國聯賽了 劉國樑憔悴!黑眼圈很重,擋住蒯曼被提醒,孫穎莎王楚欽被裁判整 林詩棟逆轉梁靖崑奪冠,成就三冠王,綜合實力更加突出 CBA最新外援註冊資訊,遼籃4人,新疆補充新援,廣東男籃放棄萊斯 大滿貫收官獎金排名:林詩棟三冠60萬第1,孫穎莎第2王曼昱10萬第9 臺灣律師分析大S遺產劃分,S媽要錢得看汪小菲臉色,打臉光頭安排 臺媒曝大S家人鬆手,讓出撫養權給汪小菲,希望馬筱梅善待孩子 二線白酒暴雷,狼真的來了! 搭上比亞迪,自動駕駛獨角獸,利潤大增170%! 炸裂!外資吹響“加倉中國”集結號背後:科技格局重塑與資產重估 這波夢幻西遊副本積分兌換真是血虧,四賜福的山賊值得買嗎? 《星戰亡命之徒》高階美工又回到CDPR 開發《巫師4》 《哪吒2》登陸北美,首映禮現好萊塢!有觀眾哭花眼妝:特效超預期,買票靠搶 曝張蘭被封年損失近4億,麻六記絕地自救太壯觀,員工曬張蘭近況

©2024 時時頭條 版權所有

隱私政策 | 服務條款 | 聯繫我們