今天小編分享的教育經驗：哈佛大學講座,《三體》英文譯者劉宇昆演講:為什麼說大多數人都用錯了AI寫作?（附視頻），歡迎閱讀。
The following article is from AI 深度研究員 Author AI 工作坊
作者 | AI 工作坊
來源 | AI 深度研究員 管理智慧
咨詢合作 | 13699120588
文章僅代表作者本人觀點
" 為什麼說大多數人都用錯了 AI 寫作？"
在哈佛大學最近的一場講座上 ,《三體》英文譯者劉宇昆 ( KenLiu ) 給出了他的答案。作為科幻小說界的傳奇人物 ,Ken 不僅以其獲獎作品《蒲公英王朝》系列聞名于世 , 他的短篇小說《紙動物園》更創造了歷史 , 成為首部同時獲得雨果獎、星雲獎和世界奇幻獎的作品。Netflix 熱播劇集《萬神殿》的靈感來源《奇點》系列短篇故事 , 同樣出自他的筆下。
在這場引發廣泛關注的演講中 , 劉宇昆一開始就指出了當前 AI 寫作的一個普遍誤區：" 如果你去 YouTube 或者 B 站搜索 ' 如何用 AI 寫小說 ', 你會找到成百上千的教程。但如果你搜索 ' 這是一本我很喜歡的 AI 寫的小說 ', 卻幾乎找不到任何結果。" 這個現象背後 , 折射出了什麼深層問題？在他看來 , 把 AI 簡單視為人類寫作的替代品 , 是一種過于簡單的資本主義思維。
讓我先稍微介紹一下自己。我曾經是技術專家 , 基本上做了很多年軟體工程師 , 後來轉行當了律師 , 再後來成為全職作家。可以說我的一生都在跟符号打交道 , 構建符号結構。所以我經常思考這到底意味着什麼。
模仿的本質
我想通過給大家分享一個我用來思考 AI 的理論框架來說明這一點 , 然後給大家一些我在實際使用 AI 時的實用建議。莎拉剛才說的一點讓我很有共鳴 , 就是今天的 AI, 至少以這些大型語言模型的形式架構 , 比如轉換器架構 , 本質上是在模仿人類。我認為這是一個非常重要的觀點需要牢記。那麼 , 做人類的模仿意味着什麼呢？實際上 , 今天的 AI 基本上是在玩圖靈最初提出的那個遊戲 , 也就是用來定義什麼是智能和思維的替代方案。不過到現在我們仍然不知道這意味着什麼。如果你去看這個領網域發表的論文 , 蘋果的研究人員發表了一篇文章 , 基本觀點是認為 LLM 不會思考。而對這篇論文的回應基本抽成兩派 : 一半人說人類也不會思考 , 另一半說這太顯而易見了 , 有什麼好指出的？我覺得我們從未在一個行業中遇到過這種情況 - 頂尖研究者和思想家對這項技術的本質存在如此根本性的分歧。所以我們至今仍然不知道思維到底是什麼 , 也不知道 LLM 是否在進行思維活動。我們基本上還是在做圖靈告訴我們的事情 , 就是模仿 , 玩模仿遊戲。我們不知道什麼是思維 , 我們能做的就是模仿人類思維的結果。我認為這點很重要。這解釋了為什麼 LLM 生成的一切都具有這種模仿性質。它是我們智能的反映 , 以語言的形式被編碼 , 所以這算不算思維 , 現在無法定義 , 也不重要。但知道 LLM 只是給你人類思維的反映 , 可以讓你以創意、有趣的方式思考如何利用它。
無聊的内容
讓我給你們兩個思考點。第一 , 如果你去 YouTube 搜索 " 如何用 AI 寫小說 ", 你會找到成百上千的結果。這是現在網紅最熱門的話題之一。他們制作如何用 AI 寫小說的教程 , 然後放到亞馬遜上賣錢 , 有成千上萬這樣的視頻。但是 , 我要你再搜索一下 ," 這是一本我很喜歡的 AI 寫的小說 , 你應該讀讀 "。你會發現根本找不到這樣的視頻。我真的很用心地去找了。我很努力地想找到有人推薦具體的 AI 寫的小說清單 , 這樣我可以去讀讀看。我确實找到了一些這樣的書單 , 也看了這些書。結果發現這些書要麼在亞馬遜上沒有評論 , 要麼只有三條評論 , 而且都是一星評價。似乎人們對與 AI 合作很感興趣 , 但覺得最終的結果非常無聊。我想你們都能理解這一點。用 DALL-E 生成一堆圖片來開玩笑、思考、讨論很有意思 , 但你們當中應該沒人會真的買一張 DALL-E 的圖片 , 把它裝裱起來 , 去欣賞它 , 思考它更深層的意義。AI 生成的藝術很無聊 , 但生成的過程很有趣。請記住這一點。這是第一點。
第二點我想讓大家思考的是 , 當前關于 AI 的很多讨論在我看來都是很有誤導性的。很多人現在擔心和恐懼的是 AI 會寫小說、寫電影劇本、生成電影 , 導致所有藝術家都會失業。我認為這不是一個很好的思考方式 , 因為把 AI 當作一種更便宜的人類替代品 , 這種想法太過資本主義了。如果說資本主義有什麼特點 , 那就是它不太有創意。它只知道如何讓東西變得更便宜、更快 , 但并不知道如何創造真正有趣的東西 , 因為有趣的東西不一定能賺錢。
所以我們不應該把 AI 僅僅視為現有媒介的工具 , 而應該把它當作一種全新的媒介。這是什麼意思呢？如果你回到 19 世紀末 , 去那些展覽大廳 , 你會看到一種新機器在展出 , 叫做電影機。電影機這個詞是由希臘語 " 運動 " ( kine ) 和 " 書寫 " ( graph ) 構成的。所以它是一個運動書寫器 , 是一個運動畫面生成器 , 是用來捕捉運動并回放的機器。這些電影機最早拍攝的影片被稱為 " 現實片 "。這些現實片有點像原始的紀錄片 , 如果你去查的話會發現它們大約一分鍾長 , 因為膠卷就只有那麼長 , 大約 17 米。我想它們是以每秒 16 幀的速度播放的。總之 , 當你看這些視頻時 , 它們大約一分鍾長 , 展示的都是一些像婦女離開工廠、有人試圖騎馬、嬰兒想把手伸進金魚缸之類的場景。你可能會想 , 好吧 , 這是什麼東西？如果要你花一法郎去看一晚上的現實片 , 你可能會覺得被騙了 , 因為這不就是在看人們的日常生活動作嗎？
新媒介思維
想想看 , 這和很多 TikTok 視頻也沒什麼不同。當你看了這些視頻後會想 , 這到底是什麼？但不得不承認這确實有吸引人的地方 , 對吧？如果你只是看這些現實片 , 根本無法想象有朝一日運動畫面會成為我們講故事的主要方式。你想象不到。但僅僅是這些一分鍾長的現實片就有很吸引人的地方 , 因為看到人類的運動被捕捉并反映回來 , 這是全新的體驗 , 對吧？但你要明白 - 這是一個新媒介。人們必須學會開發一種電影語言 , 用運動畫面來講故事。真正的運動畫面不僅僅是拍攝的舞台劇 , 也不是小說的搬演 , 更不是那些簡單的東西。它是一種全新的講故事方式。這就是新媒介的意義。我的觀點是 , 今天 AI 輸出之所以如此無聊 , 是因為我們還在用它講述現有的故事 , 把它當作現有媒介的工具。除非我們弄清楚如何讓這個媒介發揮它自己的特長 , 否則它不會取得成功。
那麼新媒介會是什麼樣子呢？想想我們現在真正享受 AI 的方式。我們享受的是那些趨勢 , 比如讓健美運動員的肌肉越來越誇張 , 直到你看到銀河腦版的健美運動員 , 或者 AI 創作的蒙娜麗莎多元宇宙。我不知道你們有多少人熟悉這個。這是一年前的一個趨勢 , 人們用 ChatGPT 和 DALL-E 生成一系列圖片故事 , 講述不同國家的人如何互相搶奪蒙娜麗莎。比如這是美國人的典型一天 : 你看到這個人從平坦的床上起來 , 拿起槍 , 喝咖啡 , 開卡車去機場 , 飛到法國 , 拿走蒙娜麗莎 , 飛回來 , 開新聞發布會。這很有趣 , 因為這是一個社區共同參與的事情。重要的不是結果 , 而是參與的過程。
所以把這兩點結合起來 : 現在 AI 輸出的本質是無聊的 , 但過程是有趣的 , 而且你無法從最早的例子看出一個媒介将來會如何演變。這就是我今天作為作家使用 AI 的結論。因為 AI 本質上是在模仿人類 , 你得思考 , 一個人類的模仿者能為我做什麼有用的、有趣的事？所以第一 , 如果你想寫東西 , 講你自己的故事 , 讓 AI 直接生成結果是行不通的。為什麼？因為如果你想講故事 , 你必須創造自己的語言 , 而不是用陳詞濫調的語言。而 AI 作為一台捕捉陳詞濫調、提煉它們并反映給你的機器 , 在這方面特别糟糕。所以用它生成你自己的故事幾乎總是很糟糕的主意。
正确的 AI 用法
那你能做什麼呢？想想頭腦風暴這個概念。我用 AI 做的最有趣的事情之一就是和它一起頭腦風暴。但這裡有個重點 : 我不是用它來為我生成想法。我和它頭腦風暴的方式與和人類交流很不一樣。我是在利用它的機器特性。這是什麼意思？就像我之前提到的 , 電影機捕捉運動。我給 AI 取了個名字 , 叫做 " 概念機 " ( noemamatograph ) 。這個詞來自希臘語 "noema", 意為想法、概念或主觀性。它是一個主觀性捕捉機器。當前的 AI 很擅長捕捉和挖掘我們體現在語言輸出中的這些主觀性 , 然後把這些反映回來。
所以你得為你的 AI 塑造一個個性 , 然後以那種特定角色的方式與它合作。我的做法是這樣的 , 我對它說 :" 你是一個非常擅長采訪作家的采訪者。你喜歡和作家聊他們的項目。你喜歡問關于他們作品的挑釁性問題。你不是來給我想法的。你是來問我問題 , 逼我向你解釋我自己的。" 這就是 AI 有趣的地方。如果你讓 AI 給你想法 , 很難不讓機器的陳詞濫調控制你。但如果你強迫 AI 讓你回答它的問題 , 你很可能會想出很有趣的想法。AI 會不斷提問。它不知疲倦。它會一直推動你 :" 你為什麼覺得這個有趣？這個 - 好的 , 我以前見過。你能讓它更獨特嗎？" 它會推動你想出新想法。所以我很喜歡。很多主觀性 , 其實是互動主觀性。作為作家 , 我們被教導要獨自工作。我認為這其實很不自然。你們這些作家都知道 , 寫作的很多樂趣來自與他人合作。我和莎拉都做過作家房間。在作家房間裡最棒的事情之一是 , 與他人合作的互動主觀性讓你的創造力成十倍地增加。你會感覺更有創造力。讓 AI 成為推動你更原創、探索你的想法、解釋你的想法、更好地發展你的想法的夥伴真的很有幫助。它能讓你走出 " 我被困在自己腦袋裡 " 的狀态 , 實踐你的主觀性。這是第一種方式。第二種我覺得很有幫助的方式是讓 AI 給你反饋。你還是要靠它的機器特性。
語言的突破
你可以這樣告訴 AI:" 你是技術驚悚小說的專家讀者 , 是 TomClancy 的超級粉絲。這是我寫的一份手稿 , 我希望你從一個熱愛 TomClancy 作品的讀者角度來批評我的書。你不喜歡這本書的什麼？你喜歡什麼？" 這種方式真的很有趣。相比之下 , 如果你只是讓 ChatGPT 給你反饋 , 它是做不到的 , 因為它只會試圖給你所有捕捉到的主觀性的平均值。但如果你塑造它 , 讓它模仿特定的主觀性來給你批評和反饋 , 它就很擅長這個。它會檢測你作品中的模式、陳詞濫調和其他總體趨勢 , 告訴你什麼地方不行。然後你可以自己思考這是不是你想要的效果。所以我發現 AI 的其他有趣用法就是像莎拉說的那些。你可以讓它做研究助手。它很擅長模仿 , 而很多寫作其實就是模仿。當你寫技術驚悚小說時 , 你經常需要假裝自己是某個領網域的專家 , 試圖營造出那個領網域技術術語的可信感。就像你去看《星際迷航》之類的作品。這是作家必須做的事情之一 , 創造一個自成一體的語言領網域的幻覺。AI 在這方面很棒。你可以讓 AI 為你創造技術術語 , 批評你的技術術語 , 指出哪些不好 , 哪些部分好。所以對于這類事情 , 我喜歡用 AI 來幫我弄清楚什麼是有效的。
還有最後一件事 , 我覺得 AI 很擅長的是 , 派它去做我自己做不了的研究任務。比如 , 我讓 ChatGPT 去收集社交工程的有趣事件 , 它會搜集一堆故事回來給我。然後我可以審查這些故事 , 找出哪些可以作為潛在的創作素材。所以總的來說 , 我認為如果你想用 AI 直接生成最終輸出 , 像那些 YouTuber 說的 " 給我寫一本暢銷小說 " 那樣 , 這是行不通的。AI 在這類事情上表現得非常糟糕。但如果你是一個有明确目标的作家 , 試圖增強你的主觀性 , 試圖與你的故事保持聯系 , 試圖利用 AI 來提升你的水平 , 成為一個更有趣的創作主體 , 那它就能發揮很大的作用。你要想辦法讓 AI 推動你變得更有人性、更具創造力 , 寫出更好的作品。謝謝。
問答環節
觀眾 1：我是一個研究人類與 AI 互動的博士生 , 具體研究如何設計 AI 來補充而非替代人類。我的問題是關于專業知識的。你提到了主觀性 , 以及 AI 如何放大人們的主觀性。這是你們作為有經驗的作家所了解的。但新手作家可能一開始并不知道什麼是好的寫作。如果從一開始就使用這些工具 , 我擔心他們可能會缺乏發展這種專業知識的機會。關于專業知識和寫作 , 也許你們可以談談如何教導或使用這些工具來幫助年輕作家發展他們的個人寫作風格？
劉宇昆：是的。當我思考這個問題時 , 我試着把專業知識抽成兩類。一類是主題或領網域專業知識 , 作為一個作家 , 你想寫某個主題 , 你在試圖學習它。另一類是關于技巧的專業知識 , 也就是你是否真的是一個好作家 , 不管那意味着什麼。對于第一類專業知識 ,AI 非常擅長幫助你。但你要小心。你要避免鄧寧 - 克魯格效應 , 就是知道得剛好夠危險。麻煩的是 , 即使是今天的 AI, 也很容易產生幻覺 , 尤其在訓練材料不多的領網域 , 它可能會編造内容。而你作為那個領網域的非專家 , 根本無法分辨。所以我通常建議人們先通過讓 AI 來測試你 , 評估你自己的專業知識水平 , 看看你對這個領網域到底了解多少 , 建立一個基線。然後你讓 AI 去教你東西。當它講授教科書級别的材料時 , 你一般可以相信 AI, 也就是入門的知識。它不會誤導你。但當你進入具體細節時 , 你得自己去驗證 , 因為 AI 在那個層面可能會編造内容。除非你是專家 , 否則你很難看出問題所在。
我想你們都有這種體驗。我肯定有。每當我讀到關于技術或法律的新聞報道時 , 我發現它們充滿錯誤和誤解。這讓我意識到 , 當我讀到我完全不懂的領網域 , 比如金融或中東問題時 , 我得保持很大的懷疑 , 因為如果我能在我的專業領網域發現錯誤 , 那在那些不熟悉的領網域我就很難發現問題。AI 也是同樣的道理。你得時刻記住 , 你需要能分辨 AI 什麼時候在胡說八道。至于發展你的主觀性專業知識 , 那就難多了。我的看法不一定正确 , 但我覺得很深刻 - 作為一個藝術家 , 你真正想做的是用語言表達那些本來無法用語言表達的東西。那才是藝術。至少作為一個小說家 , 藝術就是用語言說出實際上無法用語言表達的東西。為了做到這一點 , 你得推動自己發明自己的語言。所有值得一讀的作家最終都做到了這一點。所以如果你剛開始寫作之旅 , 就依賴 ChatGPT 給你詞語或告訴你你的用詞好不好 , 我認為那是一個糟糕的方式。當你剛開始寫作時 , 你可以用 AI 來推動你發展想法 , 但你還是得通過與人互動來發展你對自己寫作技巧的評價。在你周圍沒有人的時候 ,AI 是作家工作室的好替代品。對某些事情來說 , 它甚至比人更好 , 因為它不知疲倦 , 可以一直進行下去。但對其他事情來說 , 你必須有真人參與。有些事情你不能依賴機器來完成。我很依賴我的測試讀者來看我的書。基本上 , 在我用 AI 進行批評之後 , 我還是得去找人 , 因為沒有什麼比一個真正體驗藝術的人更能告訴我這是垃圾還是有趣的東西。剛開始的作家絕對需要這樣做。我确實相信互動主觀性很關鍵。
觀眾 2:感謝你們的啟發性演講。作為一個同時主修 CS 和英語、在同一學期上創意寫作工作坊和算法課的學生 , 我有一個問題想問 Ken, 當然也想聽聽你的看法 , 是關于傾向于 GPT 的機器特性的。你們都提到了模仿 , 我理解這是 LLM 能力的體現 , 可能是通過 Word2vec 關聯 , 平均兩個完全無關或看似無關的向量。在你看來 , 這種機器特性和技能對翻譯或多語言工作有什麼影響？因為我覺得這裡有巨大的潛力 , 甚至可能是 GPT 更具生成性的用法 , 它可以給我不同語言的翻譯方式 , 而不僅僅是作為代理或助手。這對你的寫作所有權有什麼影響？
劉宇昆 :是的 , 我想對此做些補充。我想推進這個全新門戶的想法。我一直認為用 AI 只是模仿人類、做人類已經在做的事是一個死胡同。我不覺得那有意思。基本上 , 你得讓 AI 去做人類做不到的事。你提出了很多有趣的觀點。雖然我沒有完整的答案 , 但我有一些方向和讓我感到興奮的東西。你們很多人可能知道 , 現代 AI 革命的基礎 - 轉換器架構最初是作為翻譯技術設計的 , 你提到這一點很有意思。它的深刻見解是 , 你所需要的只是注意力機制 - 你關注所有部分以及它們如何相互連接 , 而不是順序輸出。從這個意義上說 , 它的機器特性對我來說非常有趣 , 因為這不是我們被教導去思考語言的方式 , 盡管在内心深處 , 我們可能也在做着類似的事情。但它開啟了思考語言的新方式。
所以我已經覺得閱讀這個領網域的論文很有趣。最近有一篇 DeepSeek 的論文 , 我不知道你們有多少人讀過。我建議你們讀一下。它揭示了一些有趣的發現。其中之一是 DeepSeek 團隊最初發現 , 當模型使用多語言方法時表現更好 , 也就是說你給它一個提示 , 它通過不斷在不同語言之間切換來思考 , 實際上比強迫它使用單一語言表現得更好。現在 , 你可以從多個角度來看待這個現象。一個角度是人類的多語言方式有着深深的迷人之處 , 我們的集體智慧編碼在這些語言語料庫中實際上是不同的 , 意思是不同領網域有不同的專業知識 , 如果我們都是多語言的 , 在某種意義上會比單語言更好。另一個更平凡的解釋是 , 訓練語料庫在某些語言中對某些主題的覆蓋比其他語言更好。所以 AI 不得不這樣做。順便說一句 , 團隊最後還是強迫模型使用單一語言 , 只是因為用戶覺得模型在不同語言間切換很不安 , 這我覺得非常能體現人性。很有趣的是我們為了舒适而讓事情變得更糟。
另一件我覺得關于語言很有趣的事是思考實際的翻譯過程。當你談論人類翻譯時 ,《星際迷航》的通用翻譯器模型實際上給我們幫了倒忙 , 因為它暗示翻譯只是一種映射。而轉換器架構顯示它實際上不是映射的問題。它深深依賴上下文 , 裡面嵌入了主觀性。讓我給你舉個例子 :EmilyWilson 是最有趣的古典文學翻譯者之一 , 她和其他像她一樣的翻譯者經常被批評在翻譯中注入了主觀性 , 這反映了人們對某些主觀性的根深蒂固的偏見。如果你真的和古典學者交談 , 他們會說這才是關鍵。正如 EmilyWilson 自己所說 , 一種語言中的任何語言表達都包含着多種真相 , 不是單一的 , 而是多種。根據解釋者的主觀性 , 不可能将所有這些真相完全編碼到另一種語言的另一個表達中。你必須選擇要講述哪種真相。
原文鏈接：https://www.youtube.com/watch?v=ZeTeHYHOtuw&t=1262s
