今天小編分享的科技經驗：陶哲軒自曝用了「滿血」GPT-4：人類對信息技術的期待全部需要校準，歡迎閱讀。
數學家陶哲軒剛剛自曝，在GPT-4發布之前就從微軟那裡獲得了訪問資格。
也就是和微軟 154 頁《AGI 的火花》論文裡同款，未經過安全訓練但能力更強的滿血版。
他讓 GPT-4 針對論文提出問題來準備講座。
他讓 GPT-4 生成數學證明，并發現過去閱讀人類作品的經驗完全不适用了。
對于 AI 在數學研究中的表現，他給出的大膽卻又嚴謹的預言：
當與形式證明驗證器、互聯網搜索和數學符号包等工具整合時，2026 年的 AI，如果使用得當，将成為數學研究中值得信賴的共同作者，而且在許多其他領網域也是如此。
除了數學研究，他也把 GPT-4 用在了生活中。
他經常使用 GPT-4 回答一些随意、措辭含糊的問題，這些問題以前需要在搜索引擎裡精心調整關鍵詞才行。
還有一位親戚拿到重症診斷的同事，被 GPT-4 寫的慰問信感動得哭了。
在對話中，GPT-4 可以充當富有同情心的傾聽者、熱情洋溢的反饋者、富有創造力的靈感來源、翻譯者或教師，又或是魔鬼的代言人。
……
微軟邀請他依據自己的體驗寫了一篇文章，在開頭處他總結到：
在過去的幾十年裡，人類已經習慣了從信息技術中期待某些東西……
随着 GPT-4 等生成式 AI 工具的出現，所有這些期望都需要重新校準，如果不是完全放棄的話。
以下是陶哲軒全文翻譯整理，由公開發行版 GPT-4 完成。
擁抱變化和重新設定期望
在過去的幾十年裡，人類已經習慣了從信息技術中期待某些東西。以下是其中的一些：
硬體和軟體将以摩爾定律的速度改進（例如性能、用戶體驗和可靠性），然後過渡到更加漸進式的改進。
單個軟體工具可以可靠地產生高質量的輸出，但輸入數據必須具有最高質量，并且必須以工具要求的特定方式精心格式化。
工具越先進，規範和邊界情況就越復雜，這使得工具之間（尤其是不同提供商之間）的互操作性成為一個重要的技術挑戰，除非有精心設計的标準。
人類将做出所有關鍵的決策；軟體工具通過成功或失敗地執行人類指示的命令來影響決策過程。
這些工具在處理含糊的（甚至略有錯誤的）自然語言提示或從網頁或 PDF 中提取的嘈雜數據時表現非常出色。
我可以将最近的一篇數學預印本的前幾頁 PDF 輸入 GPT-4，讓它生成半打有關該預印本的專家可能會提出的聰明問題。我打算使用這類提示的變體來準備将來的演講或開始閱讀技術復雜的論文。
最初，我努力使提示盡可能精确，這是基于我與編程或腳本語言的經驗。
最終在我放棄這種謹慎，并簡單地向 AI 提供大量原始文本時，取得了最好的結果。
這種魯棒性可能使 AI 工具與傳統軟體工具相結合，或者彼此相結合，或者與個人數據和偏好相結合。它将它将颠覆各種工作流程，而目前孤立使用的人工智能工具只是在暗示有這種能力。
在對話中，GPT-4 可以充當富有同情心的傾聽者、熱情洋溢的反饋者、富有創造力的靈感來源、翻譯者或教師，或者是魔鬼的代言人。
它們可以幫助我們在各個維度上繁榮發展。
由于這些工具允許各種各樣的輸入，我們仍在嘗試如何充分利用它們。
我現在經常使用 GPT-4 回答我過去需要使用精心準備的搜索引擎查詢的随意和含糊的問題。
我請它為我必須編寫的復雜檔案提供初稿建議。我認識的一些人已經利用這些工具驚人的人工情感智能來獲得支持、安慰和一個安全的環境來探索他們的感受。我的一位同事被 GPT-4 生成的一封安慰信感動得熱淚盈眶，這封安慰信是寫給一個近期收到毀滅性醫學診斷的親戚的。
它們可以幫助我們在各個維度上繁榮發展。
目前的大型語言模型（LLM）經常能夠在特定知識領網域（例如我自己所從事的研究數學）中令人信服地模仿正确的專家回應。但眾所周知，仔細觀察時，回答往往是荒謬的。
人類和 AI 都需要發展分析這種新類型文本的技能。
我過去依賴的用于 " 嗅出 " 錯誤數學論證的文體信号在 LLM 生成的數學中幾乎無用。只有逐行閱讀才能分辨出是否有實質内容。
奇怪的是，即使是無意義的 LLM 生成的數學，往往也引用了正确的相關概念。
通過努力，人類專家可以将這些不起作用的觀點改進為正确且獨創的論據。
2023 年水平的 AI 已經可以為從業數學家提供有建設性的提示和有前景的線索，并積極參與決策過程。
當與正式證明驗證器、互聯網搜索和符号數學軟體包等工具整合時，我預計，例如 2026 年水平的 AI（如果使用得當）将成為數學研究領網域以及許多其他領網域值得信賴的合作作者。
那麼接下來呢？這不僅取決于技術，還取決于現有人類制度和實踐如何适應。
當 AI 指導的研究生撰寫的入門級數學論文現在可以在不到一天的時間裡生成——并且具有未來 AI 工具更好的準确性時，研究期刊将如何改變其出版和引用實踐？我們的研究生教育方法将如何改變？我們是否會積極鼓勵和培訓我們的學生使用這些工具？
我們在很大程度上沒有準備好應對這些問題。将會有驚人的 AI 輔助成就展示和勇敢的實驗來将它們納入我們的專業結構。但也将出現令人尴尬的錯誤、争議、痛苦的破裂、激烈的争論和倉促的決策。
我們通常的技術範例将無法作為導航這些未知水網域的充分指南。也許最大的挑戰将是以盡可能安全、明智和公平的方式過渡到一個新的 AI 輔助世界。
One More Thing
陶哲軒還在個人博客中分享了這篇文章的創作中的一些花絮。
他自己和 GPT-4 先分别寫了一份。
又讓 GPT-4 看了自己寫的之後，要求 GPT-4 把它的文章改成自己的風格。
最後又讓 GPT-4 直接改寫了自己的初稿，并貼在一起方便大家比較。
（最後還是用了他自己寫的）
感興趣的話可以去看看～
原文：
https://unlocked.microsoft.com/ai-anthology/terence-tao/
4 個版本比較：
https://terrytao.wordpress.com/about/ai-generated-versions-of-the-ai-anthology-article/
參考鏈接：
[ 1 ] https://mathstodon.xyz/@tao/110534826121112802
