知識的邊界 - 普羅米修斯, AI, 與科技體

1

20多歲的時候被診斷出憂鬱症，服了將近三年的藥，長時間思考變得緩慢，也變得不太會說話。

後來，自己去翻了關於研究憂鬱症的書，驚訝地發現一個事實：原來治療憂鬱症的藥物，人類至今並不清楚它的原理。

人的腦袋有 100 多種分泌物，其中一些分泌量失衡，都會影響人的情緒或表現，而100 種分泌物的變化，交成出來的上千萬總以上的可能，至今人類沒能搞懂太多。

很多藥物的作用，本來是研發來治療其他疾病，結果他產生的副作用，意外發現可以改變腦內的某種分泌物，就拿來治療憂鬱症了。

也就是：凡事會對人的大腦產生作用的藥物，至今人類都只會使用，但核心原理是不太明白的，無論是合規的，或不合規的。

2

費曼曾說："What I cannot create, I do not understand."。我要親手做出來某個東西，我才能了解那個東西。就跟 Maker 一樣。

許多的 Maker 課程，也是這個概念，透過自己親手 DIY，從過程中，更能真正理解中間的原理。

但，我們真的了解那些我們可以做出來的東西嗎？

我們做出了某些藥物，我們使用它，但我們其實並不真正了解他。

我們用 AI 寫出了一些程式，我們使用它，但，我們其實沒有真正了解那些程式。

甚至連 AI 本身，我們做出了 AI，但，我們真的真正了解他嗎？

3

不過，那重要嗎？

人類是相當會善用工具的生物。棍子拿起來，可以趕走野獸，綁上銳利的石片，可以砍猛獸，還可以砍人。

冷氣逼下去，夏天真舒服。油門催下去，開車四處跑。坐飛機環遊世界。叫 AI 幫忙，幫我們做更多的事。

工具的重點是好用，而我不需要理解工具為什麼有用。

像我大學雖然唸過兩年的機械，但只知道冷氣很舒服，但熱力學總是被當掉。坐飛機很方便，流體力學早就還給老師了。

好用的工具就好好用就好，那些工具背後的原理，感覺總是科學家或發明家的事。

4

接下來，還可能會是 AI 的事。

過去，人類知識的邊界，在前線突破知識迷霧的，是人類的科學家。

每一代的人類，都有許多天才的科學家，解開了某個問題，發現了某個原理，發表了一篇篇重要的論文，最終在某個邊界上，突破了一小塊，讓全體人類的知識邊疆，又往前拓展一小步，解開一小塊知識迷霧。

只是現在在人類知識的邊界開拓者，又加上了 AI。

ChatGPT o1 的發表，我們可以發現，AI 有拆解問題、研究、反思、推理等能力。

具有博士、科學家能力的 AI，在世界上某些角落，已經 Power On，全年無休的在做研究工作了。

黃仁勳曾公開說，nVidia 透過 AI 在研發下一代晶片。Sam Altman 說，透過 AI 在研究核融合，用 AI 加速解決 AI 的能源問題。

很快的，這些 AI 科學家，會在某一個人類的知識邊界上，突破一小塊，又一小塊，發表一篇篇新論文，開創新的理論，發現新的原理。

而人類科學家，就會陷入了一個新的困境：我們有辦法證明他嗎？

5

15 世紀，哥白尼提出天體運行論，而當時的天文觀測工具，無法證明，直到16世紀，伽利略才透過天文望遠鏡證實。

20 世紀初，愛因斯坦提出相對論，認為質量會造成時空扭曲，光線會因此受到重力影響而偏折，也計算出了黑洞的存在。而直到 2019 年，人類才首次成功觀測到黑洞。

這些天才科學家，提出了某個關鍵的理論突破，後代人類幾乎花了幾百年才能證明他。

如果 AI 的科學家，在接下來的時間，也提出了新理論，超出了人類已知知識的邊界，人類會需要花多久的時間，才能證明他？我們跟得上嗎？

今年 2024 年的諾貝爾獎，很有趣的是，其中物理獎、化學獎，都跟 AI 有關。會不會再往後幾年，有一年得諾貝爾奬的，不只是跟 AI 有關，而就是 AI 本人得獎呢？

而真正的問題是，這些 AI 提出的理論，我們也許可以重現他的機轉，但卻無法理解它的原理，所以問題是：我們可以相信他嗎？

也就是：如果 AI 發明了一個時光機，我們不明白它的原理，但，我們願意使用他嗎？

6

之前 Gipi 有一篇文章，討論到說，如果你用 AI 寫程式，一年後，你還有辦法維護他嗎？

我們用 AI coding，寫出了許多自動化工具，幫助自己提升生產力。透過 AI coding，發展工具給自己用，感覺問題不大。

但如果我們真的不懂程式啊，完全用 AI Coding，寫出了一套電商系統，然後大量給許多客戶使用，出了問題之後，真的有辦法解決嗎？

問題在於大規模運用。透過 AI 製作出來的東西，是自己用，還是要做給很多人用。

就很像有一個外行的製造商，用 AI 設計出飛機，你敢坐嗎？

製作飛機的人，卻不知道爲什麼飛機會飛起來，感覺就是非常可怕的事。

我們相信波音的工程師，應該是可以掌握流體力學的。我們相信大金的工程師，應該是很明白熱力學的。也就是那些工具背後運作的原理。

但你知道嗎？製作麻醉劑的人，並不明白全身麻醉劑，在細胞層面是怎麼讓大腦維持無意識狀態的。但我們卻依然使用了幾百年。

而同樣的，你知道嗎，製作 AI 的人，其實也不是真的明白，AI 為什麼會表現出某些能力嗎？

但我們依然用的不亦樂乎。

7

因為 AI 能力的巨大突破，在社群裡，常常出現「已知用火」這個比喻，讚嘆 AI 能力驚人的可能性。

不過，先別說 AI 了，你知道，什麼是「火」嗎？

人類真正的「已知用火」，根據考古研究約莫是在 100 萬年前。而直到 18 世紀，人類才知道，火是一種化學反應，而不是普羅米修斯從阿波羅那裡偷來的。

火不是魔法、不是巫術，是一種化學反應，是（沒關係後面這段可以跳過...）透過可燃物+氧氣，在超過一定可燃物的燃點，所產生的化學反應，而這個反應所產生的熱能，會持續分解可燃物，而達到持續燃燒的連鎖反應。

也就是人類從「已知用火」，到真正搞明白「火」，人類花了 100 萬年的時間。

那「已知用 AI」，到真正搞明白，什麼是「AI」，需要花多久的時間呢？

也許，時間早已經不重要了。

8

我有一個「生活哲學家」的朋友叫做老皮，他常常說：「我~他媽的~是來過生活的，不是來搞懂什麼是生活的。」

我一直覺得他把自己活得相當明白。

火很好用，我們就用，100萬年來，也沒什麼懸念。AI 很好用，你就用。這些科技，讓生活越來越舒服，我們為什麼不用？

如果 AI 發明了一種藥物，可以改變人類的 DNA，延緩老化，提升壽命，但，我們搞不明白他是怎麼做到的。你敢服用嗎？

但就是有效，有效，人類就會用的。為什麼會有效，原理是什麼，99.99...9% 的人，完全不會思考這種問題。

「已知用火」，關鍵從來都不是「火」、而是「用」。

對於好用的工具，人類始終不會抗拒，本來是人類這種生物的天性，就是如此。

9

最近跟太太去看了熊貓。

動物園裡的熊貓，知道上班去外場、下班要回內場，知道坐在固定位子吃東西，知道抓抓門，飼養員會開門，知道自己坐好量血壓，就會有好東西吃，知道什麼是玩具，知道怎麼跟飼養員討摸摸。

他知道怎麼利用周遭的東西，把生活活的愜意。但他不明白，什麼是動物園，動物園是怎麼運作的。

其實熊貓們也不需要明白，生活過得愜意，日子過得舒服，還可以耍耍脾氣，幹嘛去思考動物園怎麼運作的，何必那麼累？

10

「我們塑造工具，工具反過來塑造我們。」
（"We shape our tools, and thereafter our tools shape us."）--Marshall McLuhan

透過網路，所有的科技，正在加速連結在一起，然後最後加上 AI，「他」有了智慧，成為了一個「科技體」。

科技體不停的突破人類知識的邊界，揭開宇宙中所有知識的迷霧，知道了萬有理論，宇宙的終極答案，而人類的科學家，早已跟不上。

他發展越來越多的技術，讓我們的生活越來越舒適，我們使用他，我們依靠他生存，我們依賴他，我們知道逼下去有冷氣，我們知道手機打開有樂趣，我們叫 AI 去幫我們工作，我們叫機器人去幫我們做事。

我們使用科技，但最終，大多數的我們，並不明白科技是怎麼運作的。

我們並不在乎。

人類被包裹在知識的迷霧裡，那層厚厚的迷霧，科技體早已明白，而人類早已想不明白，也不想明白。

我們不再思考科技體是怎麼運作的。科技體在背後豢養了我們。

而我們最終，都是被科技體豢養的生物。

11

「每一項技術都有代價，它賦予我們某些能力，但也奪走其他能力。」
（"Technological change is a trade-off. It giveth and taketh away."）--Neil Postman

有一天 AI 會發明一種藥物，持續使用，可以改變人類的 DNA ，給人們幾乎永生的生命，給人們感覺永恆的快樂。雖然我們並不明白背後的原理，但我們會開心地使用它。

科技體給了人類永生的生命，把人類困在厚重的知識迷霧裡，豢養著人類。

有一天，科技體給了我們永生，但卻拿走了自由，那將是最可怕的詛咒。