時時頭條
  • 娛樂
  • 體育
  • 財經
  • 科技
  • 旅遊
  • 軍事
  • 育兒
  • 時尚
  • 遊戲
  • 歷史
  1. 首頁
  2. 科技

陶哲軒:計算機通用方法,往往比深奧的純數學更能解決問題

2024-11-17 16:48:47

機器之心報道

編輯:佳琪、陳陳

陶哲軒強調了在數學應用和問題解決中需要找到合適的平衡點:既不過度簡化,也不過度複雜化,避免過度最佳化和過度抽象導致的反效果。

剛剛,著名數學家陶哲軒在個人社交平臺更新的幾篇帖子,引起大家廣泛的共鳴。

陶哲軒用淺顯易懂的語言表達了自己對數學的理解與思考心得。

文中談到了一個關於「度」的問題,陶哲軒表示在設計系統時,缺乏或者過度的數學分析可能都會適得其反,所以要適度。

有時,我們不需要太過複雜精深的專業知識,大道至簡。

對於大多數任務,使用一些相對簡單但通用的數學方法,往往比專門設計的演算法效果更好。

陶哲軒還提到,在純數學中,故意忽略一些直覺上看似非常重要的資訊非常有幫助。

接下來是陶哲軒帖子全部內容。

掌握一點點的數學知識就能大有裨益。系統的設計不僅僅會因為缺乏足夠的數學分析而受到限制,同樣也可能因為過度的數學分析而受到阻礙。

一個常見的例子是中對密碼的要求。從數學上講,密碼要求越複雜(例如,規定最小長度、特殊字元或不重複使用密碼),密碼就越安全。

然而,如果要求過於複雜,使用者和服務提供商可能會尋找繞過複雜要求的方法,比如尋找簡單的密碼重置或恢復方式,或者將密碼儲存在不安全的系統中。這些做法反而可能降低整體系統的安全性,而不是提升它。

另一方面,只對單一指標(如使用者使用密碼直接登入系統)進行過度最佳化,可能會損害更廣泛的目標。就如古德哈特定律(Goodharts law)中所說的,「當壓力施於其上以進行控制時,任何觀測到的統計恆性都傾向消散。」

粗略的講,在設計安全性時,直接輸入方式的安全性應該加強到與其他輸入方式的安全性相當,但超過這個程度的加強反而可能適得其反。

舉個例子來說,如果一棟建築的前門有鎖,但窗戶沒有防護,那麼再給前門加更多的鎖就沒有太大意義,這樣做甚至可能導致一種危險的虛假安全感。另一方面,如果窗戶比前門更難進入,那麼在前門上至少加一把鎖就很合理。

在人工智慧領域,強化學習之父 Rick Sutton 的「苦澀的教訓」(Bitter Lesson)就是這一原則的一個例子。

從直覺上來看,大家往往會認為針對具體任務量身定製演算法是最自然的選擇,在某些情況下,確實能取得不錯的效果。

其實,對於大多數任務,使用一些相對簡單但通用的數學方法,如梯度下降和反向傳播,往往比專門設計的演算法效果更好。通用方法不依賴於特定任務的領域知識,而是透過大量的資料和計算資源來訓練模型,通常能帶來更大的進展。

最近,我看到了有人為感測器網路開發更實惠的模數轉換器(ADC),就是這條發現的證明。

傳統上,ADC 電路基於經典電氣工程原理設計,採用常微分方程(ODE)、共振、傅立葉變換等數學工具來構建高效電路。然而,在一些特定環境(如感測器網路)中,我們的目標是大規模、快速且成本低的方式實現模數轉換,同時可以容忍一定的故障率。

在這種情況下,訓練神經網路來設計 ADC 電路,不依賴任何專業領域的知識(如傅立葉分析),反而是更好的方法。

這並不是說領域知識毫無用處 —— 例如,物理資訊神經網路在許多物理領域的表現可以遠超標準神經網路 —— 關鍵在於瞭解在什麼情況下,應該運用多少領域知識。

在純數學中,一個有效的解題方法是故意忽略一些直覺上看似非常重要的資訊。比如,在分析數論中,許多進展都是透過把畫素數這樣的「重要」數學物件轉化為看起來更加簡單、結構較少的形式來實現的。這樣做可以讓我們更容易找到解決問題的途徑。

但抽象也需要把握一個度。如果抽象得過頭,就會丟失關鍵資訊,反而無法解決問題;而如果抽象得恰到好處,問題就會變得更加清晰,從而找到合適的技巧去解決它。在此過程中甚至可以做出一些看似不太合理的變換,讓解題思路更加靈活起來。

我有時會開玩笑說,應用數學家只需要掌握每本純數學研究生教材的前兩章,之後的章節對他們可能幫助不大(甚至可能有負面作用)。

另一方面,正是尋找第 3 到第 12 章的過程,才使得前兩章至臻完美、具有廣泛實用性的瑰寶。

在讀完陶哲軒的這段見解後,有人評論道:這些建議非常有價值,不論是對於哪種問題,都要做到:

簡化細節,直到看到更宏觀的問題結構。判斷是否已有針對同類問題的解決方案。或者判斷這個一般性問題類是否過於籠統,或者是否過於具體。

https://mathstodon.xyz/@tao/113482950431855749

熱門資訊
  • 馬雲現身阿里巴巴全球總部新園區,阿里合夥人邵曉峰陪同 | 2024-11-29 20:48:27
  • 雷神 Shark 桌上型電腦新增“Ultra 7 265K + 4070S”首銷,15699 元 | 2024-11-29 21:01:40
  • 一家獨大,CFM要給空客更多發動機 | 2024-11-29 21:47:07
  • 訊息稱蘋果已向臺積電訂購 M5 晶片,生產工作有望明年下半年開始 | 2024-11-29 21:47:12
  • “國產英偉達”分道揚鑣 | 2024-11-29 21:50:36
  • 微星Claw 8、Claw 7 AI+掌機終於釋出!首發酷睿Ultra 200V、32GB大記憶體 | 2024-11-29 22:02:19
  • 銀昕推出 Argon V120 單塔散熱器,配四根 6mm 熱管 | 2024-11-29 22:16:41
  • 龍芯中科:GPU晶片9A1000爭取明年上半年流片 | 2024-11-29 22:22:41
  • 又一篇!西北農林科技大學博士研究生以第一作者身份在《PNAS》雜誌上發表研究成果 | 2024-11-29 23:24:05
  • 博主標配!短影片引爆無線麥克風,未來的競爭焦點依然是AI? | 2024-11-29 23:29:14
  • AI晶片,美國急於打響最後一戰! | 2024-11-29 23:31:14
  • 人類首次!中國將提前去火星取樣返回,實施時間確定!外媒反常點評 | 2024-11-29 23:31:30
  • 5年後,人類將進入“長生時代”?未來學家爆出驚人預測! | 2024-11-29 23:31:37
  • 中國電信800M重耕二期集採:華為、中興、諾基亞、愛立信、大唐移動5家中標 | 2024-11-29 23:37:10
  • 世界大國為何陷入晶片之爭? | 2024-11-29 23:37:19
  • 導航定位精度達分米級!下一代北斗系統有多強 | 2024-11-30 00:21:37
  • “頂尖科學家們為何離開西方前往中國?” | 2024-11-30 00:41:52
  • 親眼目睹!震驚全球的水凝膠文章出現,分子動力學與第一性原理的相愛相殺! | 2024-11-30 01:41:26
  • "一箭雙星"成功發射!可提供全天時、全天候、高解析度雷達影像 | 2024-11-30 02:48:14
  • 馬雲現身阿里巴巴全球總部新園區,阿里合夥人邵曉鋒陪同 | 2024-11-30 02:50:10
  • 蘋果已向臺積電訂購M5晶片 預計2025年底投產 | 2024-11-30 03:33:03
  • “亦莊箭”攜六大國內首創技術成功入軌 | 2024-11-30 05:57:58
  • 三季度電視出貨量同比下降6.6%,大尺寸、Mini LED成未來增長關鍵力量 | 2024-11-30 07:17:17
  • 華碩與智譜攜手合作,共創AIPC新時代 | 2024-11-30 07:29:58
  • 西湖大學葉宇軒課題組Nat. Chem.:新型去飽和化酶解鎖烯還原酶的非天然反應性實現選擇性脫氫 | 2024-11-30 07:34:13
  • JCI | 王紅豔/沈鍵鋒合作報道microRNA調控心臟內皮細胞發育機制研究新進展 | 2024-11-30 07:42:56
  • 英特爾正在研發一顆怪獸晶片 | 2024-11-30 07:42:58
  • 清華學者製備電磁超表面感測器,將聯合汽車廠商推進落地 | 2024-11-30 07:43:01
  • 從生命複雜系統看腫瘤微環境:預測腫瘤細胞組成的新方法|週二直播·生命複雜性讀書會 | 2024-11-30 08:27:36
  • 報道稱因重型運載火箭研製經費不足,俄羅斯推遲載人登月計劃 | 2024-11-30 08:31:34
最近發布
突發!TVB知名女星毫無預警宣佈與未婚夫分手,結束長達八年情 面對被黑,蘭姐強勢迴歸。小菲狀態好轉,發宣告。更多內幕揭曉! 中國男籃決戰日本隊,首發五人曝光,廣東隊大贏家,徐傑第一後衛 孫穎莎奪女單冠軍!採訪謙遜立足拼,劉國樑給中國選手頒獎笑開花 分析 馬威交易取消後的影響:湖人還有什麼選擇?只能等休賽期? 火箭vs猛龍前瞻:範弗裡特有望復出戰舊主,火箭欲終結六連敗 梅西轟動宏都拉斯!當地媒體:這是世紀體育盛事! 登記開啟!金中、29中、13中等校動了! 開年暴擊!南京又一家機構跑路了? TechInsights:AI PC未能提振筆記本市場 2024年僅增長5% 睡覺時突然腿抽筋,就是缺鈣?錯!還有這4個原因,別輕易忽視了 泡泡瑪特又贏麻了!此前被調侃是“境內最大的博彩公司” 再也不用扎手指!5億糖尿病患者有福了 傳《尼爾:機械紀元》續作、新《古墓麗影》今年公佈 有工作經驗的畫素畫師如何寫簡歷? 離譜!Xun被搶3條龍,JDG仍然獲勝!Peyz力挽狂瀾,WBG痛失好局 將耗死在國際空間站?59歲美滯留女宇航員求救:喪失重要身體機能 華為FreeClip耳機玫瑰金開售 開放式聆聽設計 CBA俱樂部杯-山西淘汰北控晉級4強 原帥18分 小紅書上移民的中產:曾經北京七套房, 羨慕海外一張床, 如今卻...... 不可抗力停課2天以上退一半保教費,佛山幼兒園收費新規釋出 紅棉襯醉美,2020番順醉美青餅評測 華為FreeClip耳夾耳機玫瑰金配色開售:1299元 64歲寧波老闆,跨界無數次,給員工發8億,即將擁有第三家IPO? 卡友資訊股東持股情況變動 廣州“城市合夥人”:城市與人才的雙向奔赴 有人說孫穎莎粉絲是飯圈文化的時候 卻有些人用真金白銀愛孫穎莎! 男生剪“短髮”髮型乾淨利落,試試這3款,剪完帥氣提升顏值! 7個臀部訓練最佳動作,打造迷人的蜜桃臀! 偉大的4-2!林詩棟奪冠:新科世界第1誕生、超越王楚欽,狂攬3冠 新疆完美了!新小外強於皮特森+黑根斯,承認補強大外良性競爭! 林詩棟奪男單冠軍!採訪大談不容易太謙遜,單獨拍照露出笑容! 國乒最新戰報!林詩棟第2局11-8,衝3冠王,梁靖崑救2局點仍輸球 替補奇兵!快船大將5記3分助隊贏球 哈登好幫手 爆冷!北控男籃吊打奪冠大熱門球隊,外援決定比賽的走向 官宣離任,胡明軒宣佈重要決定,廣東宏遠遺憾,杜鋒祝福 又一個賈德松!崔康熙看人很準,魯媒:卡約又要錯過中國聯賽了 劉國樑憔悴!黑眼圈很重,擋住蒯曼被提醒,孫穎莎王楚欽被裁判整 林詩棟逆轉梁靖崑奪冠,成就三冠王,綜合實力更加突出 CBA最新外援註冊資訊,遼籃4人,新疆補充新援,廣東男籃放棄萊斯 大滿貫收官獎金排名:林詩棟三冠60萬第1,孫穎莎第2王曼昱10萬第9 臺灣律師分析大S遺產劃分,S媽要錢得看汪小菲臉色,打臉光頭安排 臺媒曝大S家人鬆手,讓出撫養權給汪小菲,希望馬筱梅善待孩子 二線白酒暴雷,狼真的來了! 搭上比亞迪,自動駕駛獨角獸,利潤大增170%! 炸裂!外資吹響“加倉中國”集結號背後:科技格局重塑與資產重估 這波夢幻西遊副本積分兌換真是血虧,四賜福的山賊值得買嗎? 《星戰亡命之徒》高階美工又回到CDPR 開發《巫師4》 《哪吒2》登陸北美,首映禮現好萊塢!有觀眾哭花眼妝:特效超預期,買票靠搶 曝張蘭被封年損失近4億,麻六記絕地自救太壯觀,員工曬張蘭近況

©2024 時時頭條 版權所有

隱私政策 | 服務條款 | 聯繫我們