為什麼我改變了對人工智慧的看法，你也應該改變

ChatGPIT 的推出無疑是一個具有重大歷史意義的事件，但這究竟是邁向超級智慧未來的驚人第一步，還是只是一個充滿人工智慧萬金油行銷者的世界的開始？長期以來，我一直認為大語言模型（人工智慧聊天機器人背後的技術）很有趣，但也有缺陷，這讓我陷入了萬金油陣營。但花了一周的時間編寫 Vibe 程式碼，發現了一些令人驚訝的事情：支持者和懷疑者都錯了。

首先，讓我解釋一下。如果你不知道，Vibe 編碼是 AI 研究員 Andrej Karpati 一年前創造的術語，他是 OpenAI 的聯合創始人並曾在 OpenAI 工作。它是指透過與人工智慧模型「互動」來開發軟體的過程，用簡單的語言指定它，同時允許產生原始程式碼。最近，我看到 Cloud Code 和 ChatGPT Codex 等較新的工具表示它們在編碼方面出奇地出色。 這 紐約時報 標題 ”我們一直在等待的人工智慧顛覆已經到來」。

我決定嘗試使用這些工具，結果令我感到驚訝。幾天之內，憑藉有限的編碼經驗，我創建了對個人有用的應用程序，例如用於檢查本地圖書館可用內容的有聲讀物選擇器，以及在我的手機上運行的組合攝像頭和提詞器應用程序。

這對你來說可能聽起來很無聊，但這很好，原因我稍後會解釋。重要的是，這個過程讓我比以前更深入地了解 ChatGPT 等產品。之前，我嘗試過一些小實驗，對通用寫作、阿諛奉承或不準確的搜尋結果猶豫不決，然後就放棄了。對於這些新的編碼項目，我的長期使用讓我意識到了一些我以前沒有意識到的事情——法學碩士的產生方式產生了一台我應該討厭的機器。

我們中很少有人接觸過「原始」法學碩士，我指的是在大量資料上訓練的統計模型，以產生真正具有代表性的文本。相反，我們大多數人都使用人類回饋強化學習（RLHF）過程介導的技術。人工智慧公司利用人類對原始法學碩士產生的文本進行評分，給出值得信賴、有用且有吸引力的答案，同時懲罰有害內容或阻止更多用戶使用其產品的答案。

這個 RLHF 過程會產生您可能熟悉的典型「聊天機器人聲音」。這是一個融入製作人隱含價值觀的過程，從普遍的「快速行動，打破陳規」的矽谷態度，到受馬斯克啟發的更具體的 Grok（備受爭議的 X 聊天機器人）意識形態。

目前，很難讓聊天機器人表達不確定性、對抗使用者或阻止前進的動力。當我的提詞器遇到棘手的問題時，這一點對我來說變得非常清楚。我正在嘗試創建一個在現有相機應用程式之上覆蓋文字的應用程序，我認為這比從頭開始創建相機更容易，但 ChatGPT 生成的程式碼不斷失敗。它反覆提出解決方案，敦促我繼續這個專案。就在那時，我意識到製作一體化應用程式是如此簡單，您不會對 Android 作業系統的複雜性感到厭倦。當我要求 ChatGPT 生成它時，它立即起作用了。

從中學到教訓，我開始指示 ChatGPT 不斷質疑我和我自己。我要求保持謹慎的懷疑。 「雅各希望助手默認證據優先的分析：避免外推，明確標記推理與證據，並且在不確定性或證據薄弱時更願意停止，除非用戶要求猜測，」這是我強加給它的記憶（自我生成）的框架之一。換句話說，我建立了一個專門針對我的心理特徵而設計的模型，小心地刪除了 OpenAI 值並用我自己的值替換。

它並不完美。法學碩士將很難接受 RLHF 培訓，並且默認情況下將繼續洩漏。但這意味著我現在有了一個可以充當有點有用的認知鏡子的工具。我沒有用它來寫這篇文章，因為它的寫作風格仍然很糟糕，而且因為 一位新科學家公平地說，對於人工智慧生成的副本有嚴格的規則，但我用它來思考這篇文章。我要求我的認知鏡子調查這些論點和反論點，拒絕其許多結論，認為它們是錯誤的或虛假的。我已經抓住了價值，但它需要細心和工作，而不是讓人工智慧承擔繁重的工作。本質上，我的大腦始終處於全神貫注狀態。

這讓我強化了我已經得出的結論：在幾乎所有情況下，參與其他人的人工智慧輸出在功能上都是無用的。透過自己提示人工智慧，你無法從人工智慧生成的文字中得到任何東西。我也繼續拒絕人工智慧實際上在任何方面都是智慧的觀點——相反，我認為法學碩士是像計算器或文字處理器一樣的認知輔助工具。有了這個框架，作為一個私人工具，而不是一個征服世界的機器，我現在看到了好處。因此，您最好不要關心我的提詞器應用程式。以自己的方式解決自己獨特的問題的前景讓您感到興奮。

我們目前的人工智慧範式引入了另一個問題。在我看來，最好的法學碩士是在您自己的電腦上運行的法學碩士，無論是私人公司還是私營公司。它應該被視為一個危險的、您可以完全控制的實用工具。我想到了軟體工程師迷因 將一把上膛的槍放在印表機旁邊，以防印表機發出他們無法辨識的噪音。不幸的是，由於多種原因，目前不可能運行自己最先進的法學碩士，其中最重要的是人工智慧的繁榮推高了你所需硬體的價格。

我還應該談談法學碩士的原罪：潛在的版權侵權。按照設計，這項技術只能建立在大規模資料之上，即人類的整個文字記錄。毫無疑問，像 OpenAI 這樣的公司在未經許可的情況下使用受版權保護的文字來建立模型，但這是否真的違法是正在進行的法庭案件的主題。私人法學碩士也會遇到同樣的問題，但我可以看到諸如公共部門模式之類的解決方案得到政府的有效寬恕，並為了所有人而不是私人公司的利益而自由分配。我還擔心資料中心對環境的影響，但在我們自己的機器上運行的法學碩士的廣泛分佈部分緩解了這種影響。

我承認有些人讀到這篇文章會指責我出賣了科技兄弟。我只能說的是，我並沒有改變我長期以來對法學碩士的看法，認為它是一種令人著迷、危險、有時不尋常的技術。

我意識到我們與科技接觸的主要方式是透過像 ChatGPT 這樣的狡猾的聊天機器人，許多傷害來自並被允許傳播到世界上。法學碩士不應該被迫安頓下來，並用閃亮的表情符號來生產我們生活的每個部分，希望成為你的朋友。如果我們牢記這些工具，增加摩擦，充分認識和警惕它們可能造成的潛在危害，那就更好了。在這裡，一個有用的比喻出現了。我不要 OpenAI 的萬金油。我想要蛇。