歡迎來到:自說自話的總裁


在這個世界上,有些革命誕生於聚光燈下,比如登月,或者原子彈爆炸。 但往往更深遠的革命,卻開始於死一般的寂靜之中……


引子:矩陣誕生

1925年6月,北海,黑爾戈蘭島(Helgoland)。 這裏沒有花,沒有樹,只有無盡的砂岩和狂風。 一個23歲的年輕人正蜷縮在懸崖邊的旅館中。 他的臉腫脹得像個麵包,眼睛幾乎睜不開。 嚴重的枯草熱,也就是如今花粉導致的過敏性鼻炎,讓他逃離歐洲大陸,逃到了這個寸草不生荒島上求生。 他叫做維爾納·海森堡 (Werner Heisenberg)。 在那些一個個因為過敏和哮喘而無法入睡的深夜裏,他沒有仰望星空,而是死死盯的著手稿上那一堆混亂的數字。 他試圖尋找原子的奧秘,卻發現所有經典的物理學公式,在原子領域全部失效。 電子幽靈一樣,忽左忽右,無法預測。 他因此痛苦至極: 以往的物理學家,看到的世界,都是有畫面的。 蘋果落地、行星運轉,他們腦海中都有物體運行的圖像,並可以做數學的分解與運算。 但到了原子層面,這些圖像卻消失了。 沒人知道電子怎麼跑,它罔顧因果,超越時空,一會兒出現在這裏,一會兒有閃現到那邊…… 甚至你看它的時候,那是一顆粒子,而你不看它的時候,它是一段波…… 就像我們先前聊過的量子世界一樣,這簡直無法理解…… 絕望中,海森堡做了一個瘋狂的決定。 他決定放棄「理解」,只做「計算」。 既然看不到電子的軌道,那就別看了。 他把所有的觀測數據,填進了一個個方塊表格裏。 他發明了一種只看結果、不問過程的「乘法表格」,而這詭異的表格,卻擁A乘以B,竟然不等於B乘以A的超現實規則…… 這在當時簡直是數學界的褻瀆。 海森堡過敏、恐懼、甚至感到呼吸困難,他以為自己瘋了,為什麼搞出這種毫無意義的數學怪胎。 但是,他錯了。 他在荒島上寫下的這組「乘法方陣」,後來在數學上被稱為——矩陣 (Matrix)。 這些矩陣,就像一個黑盒子,你只能算出了答案,但你不知道盒子裏發生了什麼。 從荒島回到哥廷根大學後,海森堡用這套矩陣黑盒的演算法,建立起了人類最早描述量子世界的方法——矩陣力學。 其核心思想就是,我雖然不知道電子、光子在它們那罔顧因果的量子世界中到底怎麼跑。 但我將觀測結果輸入矩陣,通過大量的乘法,就能算出,它下一秒最大的可能出現在哪里。 我無法理解,但我可以通過矩陣計算,知道結果。 海森堡因此被稱為量子天才,甚至擁有以一己之力,單挑全世界的能力…… 但好在,他意外「算錯了」,這才導致德國沒能搶先造出原子彈。 這個故事我們也曾經專門聊過,這裏就不扯遠了。 總之,矩陣黑盒因海森堡而誕生,他給了我們全新的工具: 原來,我們不用試圖理解上帝,我們只需要用計算,就可以暴力破解上帝…… 所以,當海森堡在荒島上寫下這矩陣黑盒的90年後,又有一眾AI天才發現。 矩陣黑盒不僅可以描述量子世界中的那個「上帝」,還能描述隱藏在人類智慧中的那個「上帝」。 我們不知道「上帝」如何操控我們大腦中那千萬億(10^15)個神經元突觸互相放電,產生智慧。 但我們卻可以用矩陣黑盒,暴力模仿,讓機器也擁有智慧。 接下來的故事,就來到了現在——這寂靜革命的破曉前夕——人類需要算力,只要我們有足夠的算力,就能模擬「上帝」,而這場有關算力的角逐,也將兩個萬億美金的商業帝國——穀歌與英偉達送上了殊死搏殺的戰場。 他們在最近10年,展開了一場「算力世界大戰」。 而這背後,這是一場關乎人類試圖用算力,把上帝關進晶片裏的故事。


第1章:皮衣客的「豪賭」

讓我們把時間先撥回到1993年。 在矽谷沙山路(Sand Hill Road)的一間辦公室裏,空氣安靜得讓人窒息。 坐在桌子對面的,是矽谷的風投教父,紅杉資本的創始人——唐·瓦倫丁(Don Valentine)。 如果你不知道他是誰,那想蘋果的喬布斯、雅達利的諾蘭,都是他一手扶上王座的。 而坐在他對面的,是一個30歲的年輕人,正在緊張地搓著手。 這個年輕人叫黃仁勳。 他正在向瓦倫丁推銷一個瘋狂的想法:我想做一塊專門用來畫圖的晶片。 瓦倫丁聽得直皺眉,他覺得這簡直是天方夜譚。 但他沉默了許久,還是簽下了那張支票。 就在黃仁勳準備松一口氣的時候,瓦倫丁突然抬起頭,死死盯著他的眼睛,說出了那句讓黃仁勳記了一輩子的狠話: 小子,我看在朋友的面子上給你這筆錢。但是聽好了——如果你把我的錢弄丟了,我就殺了你。 不是開玩笑。在那個野蠻生長的年代,這就是矽谷的法則。 這句話像一根刺,紮進了黃仁勳的心裏。 也就是從那一刻起——恐懼,成為了英偉達這家公司的原動力。 很多人問,為什麼黃仁勳後來那麼偏執? 為什麼哪怕英偉達市值幾萬億了,他還要每天喊:我們離倒閉只有30天? 因為他永遠忘不了1993年的那個下午。 他知道,在這個殘酷的算力鬥獸場裏,身後一直有一把槍指著他的腦袋。 他不敢輸。 他是一個愛穿皮衣的江湖人,我們曾經也專門聊過他的故事。 他出生在臺灣,8歲時,又在肯塔基州的寄宿學校裏學會了打掃廁所和在街頭混戰中生存。 這種危機感刻在了他的骨子裏。 於是,為了不輸,在2006年,他決定把槍口對準未來,進行一場更大的豪賭——CUDA。 簡單來說,他想讓原本只能用來畫遊戲貼圖的顯卡(GPU),變成一種通用的超級計算器。 你能想像嗎? 一個賣遊戲機的,竟然說要去算數學題? 這邏輯不通啊,而且,為了這個夢想,黃仁勳大量的電晶體塞進顯卡,導致成本飆升。 可當時的消費者——那些只想打遊戲的玩家,卻根本不在乎什麼超級計算器的功能。 英偉達的利潤被腰斬,股價暴跌80%。 這是英偉達的至暗時刻——有股東們沖進黃仁勳的辦公室咆哮: 沒人會用顯卡算數學題!你就老老實實做遊戲卡不行嗎? 但黃仁勳沒有退縮。 他的座右銘是:我們離倒閉永遠只有30天。 他就是像這樣一個偏執的皮衣客,強迫全公司將每年營收的20%——那是幾億美金的救命錢——全部砸進CUDA這個無底洞。 他在等風來。 但他當時還不知道,自己等來的不是風口,而是海嘯。


第2章:穀歌的「恐懼」

2013年,黃仁勳所等待的風口即將來臨。 在加州山景城的穀歌總部,傳奇工程師傑夫·迪恩 (Jeff Dean) ,正盯著手中的咖啡發呆。 在矽谷,有個笑話說: 由於光速的限制,編譯器無法跟上傑夫·迪恩寫代碼的速度。 但此刻,他面臨的問題,卻連他也無法用代碼解決。 ——隨著智能手機的普及,穀歌內部做了一個恐怖的數學推演: 如果穀歌安卓系統的所有用戶,每天只使用3分鐘的語音搜索功能,那麼穀歌現有的數據中心算力,必須翻倍。 這聽起來似乎只是錢的問題,穀歌還在乎在錢嗎? 可是,傑夫·迪恩知道,這不是錢的問題,而是物理學的問題。 如果要算力翻倍,穀歌需要新建幾十個巨型數據中心。 這除了意味著數百億美元的投入,更意味著穀歌會吸幹當地城市的電網。 所以,按當時的CPU技術,穀歌即將面臨一個選擇:要麼破產,要麼停止創新。 於是,在這個生死關頭,穀歌內部爆發了一場有關「算力」的路線之爭**。** 傑夫·迪恩主導著這場爭論,他所執掌的是一個被稱作「穀歌大腦(google brain)」部門,部門中大致醞釀出兩種路線: 第一,保守派:繼續買英特爾的CPU,同時下注黃仁勳的GPU。 雖然貴,但是安全,不用自己研發,穀歌算力也不會出現斷檔式的供應不足。 第二,改良派:主張使用半定制晶片,像橡皮泥一樣,可以隨時改變電路結構。 當時的微軟正在瘋狂押注這個方向,整個矽谷都認為,靈活可變的晶片,才是AI算力的未來。 回到這個喧鬧討論的穀歌大腦辦公室中,傑夫·迪恩不聲不響的看著手中的咖啡,始終沒有定奪。 但忽然,角落裏,一個年輕人舉起了手。 他叫喬納森·羅斯 (Jonathan Ross)。 羅斯當時並不是什麼硬體大神,他只是一個喜歡在「20%自由時間」裏搗鼓怪東西的極客。 他看著白板上複雜的GPU架構圖,皺起了眉頭。 他想到了海森堡,於是,對傑夫·迪恩說: GPU裏99%的功能都是為了畫圖設計的。 而我們未來要算的只是矩陣乘法。 為什麼我們不把那些多餘的緩存、分支預測、光柵化單元統統砍掉? 我們只需要造一個只會做乘法的傻子,但要讓它做得比誰都快。


第3章:微縮廚房裏的「叛軍」

這個提議在當時簡直是瘋了。 因為,羅斯,你這是要重頭開始——造晶片啊。 而造晶片通常需要3-4年。 在這個日新月異的算力時代,4年後的晶片可能剛出廠就成了電子垃圾。 但傑夫·迪恩看到了羅斯眼中的火焰。 他批准了這個代號為「O」的氧氣計畫。 羅斯和他的「叛軍小隊」,把示波器搬進了穀歌的一間著名的「微縮廚房」休息室。 為了保密,他們甚至不得不把測試伺服器用巨大的毯子蓋住,因為來來往往的穀歌員工可能會看到這個奇怪的硬體。 羅斯設計的核心,叫「脈動陣列 (Systolic Array)」。 這正是海森堡矩陣數學的物理形態。 傳統的GPU在計算時,就像是讓一千個小學生(核心)跑到黑板(記憶體)前抄題,算完再跑回去寫答案。這其中,小學生跑路的時間比算題的時間還長。 而羅斯的TPU脈衝陣列,則是讓這一千個小學生手拉手坐成方陣。 數據像血液一樣,隨著心跳的節奏流過他們。 第一個算完,直接遞給下一個。 沒有人在跑路,所有人都在計算。 這種設計,讓TPU在處理矩陣運算時,效率比同時期的GPU高出了15到30倍,耗能也因為沒有跑來跑去的無用功而大幅降低,理論能效比,竟然比同期GPU高了80倍。 但留給他們的時間卻只有14個月了。 這是一場甚至不能告訴家人的絕密任務。 羅斯回憶說,那段時間他們就像是在飛行的飛機上換引擎。 晶片行業有一個術語,叫「流片 (Tape-out)」。 這就好比製作印鈔票的母版。 按下確認鍵的那一刻,幾百萬美元就花出去了,不可更改。 這和軟體寫錯了,改一行代碼只需幾秒鐘完全不同。 晶片設計一旦錯了,哪怕只是只錯了一個微小的電晶體,這幾百萬美元的流片費就瞬間打水漂了。 更可怕的是時間。 重做一次流片需要半年。 羅斯知道,如果他失敗了,不僅是錢的問題。 穀歌很可能錯過AI爆發的整個窗口期,甚至最可怕的——讓穀歌的AI戰略,整個兒都活生生的機毀人亡…… 可是,2015年,羅斯的TPUv1流片成功。 當這塊晶片被插進穀歌的數據中心時,整個世界毫無察覺。 就像潛伏在深海的核潛艇,穀歌擁有了當時地球上最可怕的AI算力武器。 而此時的黃仁勳,還在開心地數著賣顯卡的錢,他正在感受風口帶著自己飛上天的感覺,卻全然不知道,一張足以將自己網下來的黑網,已然在深海潛伏……


第4章:來自倫敦的「上帝玩家」

喬納森·羅斯造出了TPU這把絕世好劍。 但是,誰來舞動呢? 如果不給這塊晶片注入靈魂,它就是一堆發熱的沙子。 可好巧不巧,就在大洋彼岸的倫敦,整有一顆「地球最強大腦」,正在等待這把「上帝之劍」。 他叫做哈薩比斯(Sir Demis Hassabis),在聊聊頻道我們也曾聊過他的故事。 這簡直就是一顆開掛的大腦。 4歲,成為國際象棋神童,橫掃倫敦棋壇。 17歲,當別人的青春還在迷茫時,他已經寫出了一款銷量幾百萬份的遊戲——《主題公園》。 如果你玩過這款遊戲,你會發現,它本質上是在模擬一種「上帝視角」。 但哈薩比斯覺得,做遊戲太無聊了。 他想玩一個更大的遊戲。 於是,他跑去劍橋大學和倫敦大學學院,分別拿了兩個電腦科學和認知神經科學的博士學位。 他研究人腦的海馬體,研究記憶和想像。 他也研究電腦,研究演算法和晶片。 他做這一切,只有一個目的——那就是和他那位英年早逝的英倫天才阿蘭·圖靈一樣: 弄清楚人腦究竟是如何運作的,然後,用代碼再把它重寫一遍。 2010年,34歲的他創辦了一家神秘的公司,名叫DeepMind。 公司章程裏只寫了一行字: 解決智能,然後解決一切。 2014年,當穀歌創始人拉裏·佩奇,花了整整5億美金,買下了這家小公司是,沒人看得懂。 花5億美金,就買一堆寫論文的科學家?瘋了嗎? 但拉裏·佩奇心裏很清楚,他在加州的山景城,有一間堆滿了TPU的「秘密軍火庫」。 而哈薩比斯,就是那個能復活這支機械大軍的「上帝玩家」。 果然,當哈薩比斯來到穀歌看到TPU後,他笑了。 他的深度強化學習演算法,雖然可以模擬上帝,但卻是一只巨大的吞金獸,需要天文數字般的算力。 而羅斯的TPU,毫無疑問,就是專門餵養這只吞金獸的飼料。 軟硬合體。 這就是歷史轉折的瞬間。 哈薩比斯帶著他的演算法,住進了羅斯搭建的TPU矩陣裏。 他們秘密醞釀了兩年。 直到2016年3月,他們決定向人類智慧皇冠上的明珠——圍棋,發起衝鋒。


第5章:圍棋背後的「人性」