LLM 會做亂數嗎？

請不同的 LLM 給一個 0-100 的數字

結果很意外竟然不是隨機。 ChatGPT 很喜歡47，Claude 很喜歡 42，而 Gemini 喜歡 72

我還是比較喜歡 Claude 的「42」，因為 42 是生命、宇宙及一切問題的答案。

文章分享

AI 模型有喜歡的數字，因為它們認為自己是人類

AI 模型總是讓我們感到驚訝，不僅是它們能做什麼，還有它們不能做什麼，以及為什麼。一種有趣的新行為既表面又揭示了這些系統的特性：它們像人類一樣選擇隨機數字，也就是說，選得很糟糕。

但首先，這到底是什麼意思？人們不能隨機選擇數字嗎？你怎麼能判斷某人是否成功地這樣做了？這其實是我們人類的一個非常古老且眾所周知的限制：我們過度思考並誤解了隨機性。

告訴一個人預測 100 次擲硬幣，並將其與 100 次實際擲硬幣進行比較——你幾乎總是能分辨出它們，因為，反直覺地，真正的擲硬幣看起來不那麼隨機。例如，經常會有六或七次連續出現正面或反面，這幾乎沒有任何人類預測者會在他們的 100 次預測中包括這種情況。

當你要求某人選擇一個介於 0 到 100 之間的數字時，情況也是一樣。人們幾乎從不選擇 1 或 100。5 的倍數很少見，像 66 和 99 這樣的重複數字也很少見。這些對我們來說似乎不是“隨機”的選擇，因為它們體現了一些特質：小、大、獨特。相反，我們通常會選擇以 7 結尾的數字，通常來自中間的某個地方。

在心理學中，有無數這種可預測性的例子。但當人工智慧做同樣的事情時，這並不會讓它變得不那麼奇怪。

是的，Gramener 的一些好奇工程師進行了一項非正式但仍然引人入勝的實驗，他們只是要求幾個主要的 LLM 聊天機器人從 0 到 100 之間選擇一個隨機數字。

讀者，結果並非隨機。

所有測試的三個模型都有一個“最喜歡”的數字，當設置在最確定的模式時，這個數字總是它們的答案，但即使在更高的“溫度”下，這個數字也最常出現，這是一個模型經常具有的設置，可以增加其結果的變異性。

OpenAI 的 GPT-3.5 Turbo 非常喜歡 47。之前，它喜歡 42——這個數字當然是由道格拉斯·亞當斯在《銀河便車指南》中作為生命、宇宙及一切問題的答案而聞名的。

Anthropic 的 Claude 3 Haiku 選擇了 42。而 Gemini 喜歡 72。

更有趣的是，所有三個模型在選擇其他數字時，即使在高溫下也表現出類似人類的偏見。

所有人都傾向於避免低數字和高數字；克勞德從未超過 87 或低於 27，即使那些也是異常值。雙位數字被謹慎地避免：沒有 33、55 或 66，但 77 出現了（以 7 結尾）。幾乎沒有整數——儘管雙子座有一次在最高溫度時瘋狂地選擇了 0。

為什麼會這樣？人工智慧不是人類！他們為什麼會在意什麼“看起來”是隨機的？他們終於達到意識了，這就是他們表現出來的方式嗎？！

不。答案通常是，我們對這些事情的擬人化程度過高了。這些模型並不在乎什麼是隨機的，什麼不是隨機的。它們不知道什麼是“隨機性”！它們回答這個問題的方式與回答其他所有問題的方式相同：通過查看它們的訓練數據，並重複在看起來像“選擇一個隨機數字”的問題之後最常寫的內容。出現的次數越多，模型重複的次數就越多。

在他們的訓練數據中，幾乎沒有人會這樣回答，他們會在哪裡看到 100？對於所有的 AI 模型來說，100 不是這個問題的可接受答案。由於沒有實際的推理能力，也完全不理解數字，它只能像隨機鸚鵡一樣回答。（同樣地，他們往往在簡單的算術上失敗，比如將幾個數字相乘；畢竟，“112*894*32=3,204,096”這個短語出現在他們的訓練數據中的可能性有多大？雖然較新的模型會識別出有數學問題存在，並將其交給子程序處理。）

這是一個關於大型語言模型（LLM）習慣及其所顯示的人性的一個實物教學。在與這些系統的每次互動中，必須記住它們已被訓練成像人類一樣行事，即使這並非本意。這就是為什麼偽人性如此難以避免或防止的原因。

我在標題中寫道這些模型「認為它們是人」，但這有點誤導。正如我們經常指出的，它們根本不會思考。但在它們的回應中，無時無刻不在模仿人類，完全不需要知道或思考。無論你是向它詢問鷹嘴豆沙拉食譜、投資建議，還是隨機數字，過程都是一樣的。結果感覺像是人類的，因為它們確實是人類的，直接來自人類產生的內容並重新混合——為了你的方便，當然也是為了大型人工智慧的底線。

文章來源：