今天小編分享的互聯網經驗:江西98年小夥,大廠辭職後全職創業,打造中國爆火Prompt社區,歡迎閱讀。
來源丨創業邦(ID:ichuangyebang)
作者丨劉楊楠
編輯丨海腰
圖源丨 midjourney
今天的 AI 界,從不缺造神的故事。
技術小白和技術大牛之間,往往就相差了若幹 Prompts 的距離。
最近,17 歲高中生調試 80 多版打造的神級 Prompt(名為 Thinking-Claude)引發争議,有人感嘆又一位天才 Prompt 少年橫空出世,也有人提醒廣大 LLM 的應用開發團隊,不要被情緒衝昏頭腦,認為這個 Prompt 過于復雜且可維護性較低,堪稱最糟糕的 " 代碼屎山 "。
過去一年,類似的争論屢見不鮮,LangGPT(中文名稱為 " 結構化提示詞 ")創始人雲中江樹已經見怪不怪。他将各方觀點轉進社群,呼籲大家學習可取之處,同時理性看待争論。
目前,LangGPT 是國内最大的 Prompt 社區。
2023 年 5 月,LangGPT 在 GitHub 正式上線後,便迅速獲得開發者喜愛,并與通義千問、Kimi 等模型廠商達成合作,共同推出官方 Prompt 模板。
直到今天,LangGPT 在 GitHub 上的 Star 數仍在增長。目前,LangGPT 國内飛書知識庫的訪問量已達 20 萬,全網傳播超 100 萬,微信私網域社群成員超 4000 人。
今年 4 月,雲中江樹辭去自動駕駛工程師的工作,全職投身 LangGPT 創業。過去一年多,借助 LangGPT 的平台,雲中江樹看到了一個 AI 時代 " 萬花筒 " 般的切面。
" 這麼簡單的東西,
居然能這麼火?"
2021 年,正在武漢大學讀研究生的雲中江樹,在一篇論文中看到了 "Prompt tuning" 這個概念,頓時眼前一亮。
" 當時很多 AI 應用都是通過微調完成的。先預訓練,然後用數據集微調模型的輸出層,實際微調多少層,多少參數等等都是可以變化的,甚至可以全參微調。微調有很多好處,缺點也很明顯,依賴高質量标注數據,需要調試訓練超參數,常常訓練失敗,甚至性能不如預訓練模型。而 Prompt tuning 不需要訓練模型,只需要調整提示詞即可,由于模型參數不會更新,所以能充分利用預訓練模型的泛化性。"
之後,雲中江樹便開始自學 Prompt tuning,逐漸接觸到了變量、模板、結構化等概念。
2022 年底,ChatGPT 推出後,雲中江樹探索了上百個 AI 項目,整理成 ChatGPT 中文指南開源後,連續數天登上 GitHub 全球熱榜。他發現這些項目的核心都在于 " 如何更好調用大模型能力 "。而 Prompt 工程,便是調用大模型能力的起點。
當時,國内外社交媒體上關于 Prompt 工程的熱度越來越高。這讓雲中江樹有些意外:" 當時我們都很驚訝,這麼簡單的東西居然這麼火?"
"2023 年初大家覺得 ChatGPT 很驚豔,對一切都很感興趣,大家都想知道别人用 Prompt 改變了什麼,很多人在社交軟體上随便發一些奇奇怪怪的 Prompt 技巧就有很多人來學。" 他回憶道。
于是,雲中江樹開始有意識地梳理、提煉自己寫 Prompt 的經驗,并逐漸從專業開發者視角,轉變為普通用戶視角,試圖找到一種 Prompt 方法論,讓自己能用 20% 的實驗精力,去降低技術小白們 80% 的使用 AI 的門檻。
經過幾個月的迭代,2023 年 5 月,LangGPT 在 GitHub 正式上線,迅速獲得開發者喜愛,之後與通義千問、Kimi 等模型廠商達成合作,共同推出官方 Prompt 模板。
直到今天,LangGPT 在 GitHub 上的 Star 數仍在持續增長。目前,LangGPT 的飛書知識庫訪問量已達 20 萬,全網傳播超 100 萬,私網域社群成員超 4000 人。
圖源:雲中江樹
目前,LangGPT 社群成員大致有兩類,一類是廣大的 AI 使用者,一類是前沿應用的開發者。而應用開發者中,有人想提升個人工作效率,更關注有效的 Prompt 模板;有人想下場創業,更關注應用場景。讓雲中江樹有些意外,但很驚喜的是,有公司組織技術或產品人員甚至組團加入社群,學習如何用 Prompt 工程開發 AI 應用。
最火熱的時候,雲中江樹一度感受到了一股 " 全民學習 Prompt" 的浪潮,下到十幾歲的青少年,上至七八十歲的老人,各有各的好奇與狂熱。" 有一位七十多歲的老人,是一個旅遊協會的副會長,幾乎沒有缺席過任何一場社群線下活動。" 他回憶道。
不過現在回想起來,雲中江樹也坦言,這種感受或許也是一種 " 幸存者偏差 "。畢竟對于 14 億中國人而言,Prompt 工程還是一個太小眾的話題。
進入 2024 年,ChatGPT 激起的喧嚣褪去,社群裡的人來來走走。大浪淘沙之後,留到最後的,都是真正希望用 AI 改變些什麼的人。
AI 應用開發離不開 Prompt 工程
Prompt 工程從出現在公眾視野的那一刻,就伴随着唱衰的聲音。
當時,包括 Sam Altman 在内的一眾大佬都認為,随着大模型性能提升,模型對世界的理解足夠充分時,就不再需要 Prompt 工程。Altman 曾表示:" 五年後我們将不再需要 Prompt 工程,或者只需在這方面做少量工作;将來的 AI 系統不會因為增補了某個特定詞就產生截然不同的輸出,而是可以較好地理解自然語言。用戶只需以文本和語音形式輸入指令,就可以讓計算機完成影像生成、資料研究、心理咨詢等復雜任務。"
雲中江樹從不避諱談論 Prompt 的消亡。他坦言,自己最初也認為 Prompt 可能會像三分鐘熱度一樣過去,但事實卻并非如此。
毫無疑問,今天的模型已經越來越擅長理解人類意圖。雲中江樹也發現,國外開發者似乎不太關注 Prompt 工程了,但國内對于 Prompt 工程的熱情卻是只增不減。
總體上,雲中江樹認為,模型進展仍低于預期,很多 AI 應用開發仍然離不開 Prompt 工程。OpenAI 發布 o1 時,他便在社群内表示:"o1 指出了一個有前途的方向,對學術研究而言是座金礦,能立馬投入,但對于應用者來說,仍然是不實用的玩具,很慢、很卡且不能控制細節。"
這種情況下,要想快速推進應用,Prompt 就是一個性價比更高的着力點。
但過去兩年,雖然大模型用戶對 Prompt 的學習熱情高漲,各家大模型廠商對 Prompt 的實際重視程度卻并不高。除了 Anthropic 工程師近期對外詳細分享了 Prompt 工程心得外,國内外頭部模型廠商或 AI 應用開發者都鮮少公開分享 Prompt 工程經驗。
這種不重視甚至直接反映在產品設計中。Anthropic 工程師 David Hershey 在近期的分享中也提到,跟客戶合作時發現,很多人在設計模型時總是想象着用戶會在對話框裡輸入完美的内容,但很多用戶可能連大寫字母都從來不用,幾乎每個詞都有拼寫錯誤。
" 實際上,Prompt 工程在 AI 應用開發中的 ROI 很高,開發者花費 20% 的經歷就可能讓產品用戶體驗提升 80%。"雲中江樹表示," 目前市面上發布的 Agent,主要價值都體現在 Prompt 工程。在構建 AI 應用的過程中,所有的 idea 都要先通過 Prompt 去驗證。"
好在,雲中江樹觀察到,國内很多企業正在意識到 Prompt 工程的重要性。" 很多去年做微調的應用企業今年都放棄微調,轉而在 Prompt 工程上投入更多。畢竟即使是微調,也要面臨昂貴的算力成本。"
值得注意的是,Prompt 的門檻雖然不高,但要做好也需要投入足夠的時間、精力。
模型技術仍在快速迭代,對 Prompt 的要求也在不斷變化,要想通過 Prompt 讓模型實現想要的功能,就難免要大量調整 Prompt 的細節,在大量失敗中總結一些奇奇怪怪的方法和技巧,個人很難憑一己之力窮盡所有可能。
LangGPT 這類開源社區真正的價值所在,就是匯集四面八方的集體智慧,盡可能釋放 Prompt 對模型應用落地的價值。
結構化 Prompt 成為主流選擇
随着模型快速迭代,大牛們對 Prompt 工程的方法論也在不斷迭代。
目前,一個最新共識是,Prompt 的核心在于 " 清晰的表達 "。
" 最初我認為 Prompt 是 AI 時代的編程語言,後來發現這仍然沒有跳出上一代的局限性,現在我更傾向于認為,Prompt 是自然語言和編程語言結合的交叉點。‘怎麼寫’不是最重要的,更重要的是‘寫什麼’。" 雲中江樹表示。
" 專業的技術人員反而不一定能寫出很好的 Prompt。因為技術人員有時會陷入 Prompt 的形式,而忽略表達的内核,寫了很多冗餘的規則,但沒說清楚自己的具體需求。"
Anthropic 負責 Prompt 的工程師近期也在一檔播客節目中表達過相似的觀點:" 很多時候,需要做的只是寫一個非常清晰的任務描述,而不是嘗試構建抽象的東西。你得把自己腦海中所有你知道但模型不知道的東西整理清楚,然後寫下來。"
但在過去一年的 Prompt 實踐中,Prompt 工程師們無形中也在表達形式上形成了一種默契——結構化 Prompt 正逐漸成為主流選擇。
Anthropic 工程師 David Hershey 表示,一個好的寫作者不一定會成為一個好的 Prompt 工程師。"Prompt 是一種很特别的模式,你寫的是一段文本,但要像對待代碼一樣對待它。"
雲中江樹也感受到,結構化寫作 Prompt 正在成為共識,國内尤其如此。
這個結論從現存 Prompt 社區的活躍程度上也能看出一二。2023 年 12 月,創業邦在《歡迎來到 Prompt 的美麗新世界》一文中寫道,2023 年國内外出現了很多大小不一的 Prompt 社區,大致可分為 " 技術派 " 和 " 非技術派 " 兩類。現在回看,LangGPT 作為技術派的代表,已成長為國内規模最大的社區。
對此,雲中江樹自己也分析了背後的原因:" 一方面,早期很多社區只是簡單整合市面上的 Prompt 模板,而我們一直在系統輸出自己的方法論;另一方面,從結果導向來看,結構化的 Prompt 實操性更高,能讓應用開發的工作流更高效運轉。"
簡單來說,對技術系統本身來說,通過 Prompt 調動 AI 的某項能力只是第一環,更大的挑戰在于後期維護和版本更新;而從 AI 應用的開發流程來說,往往涉及一個上下遊協作的 Prompt 工作流。
橫向來看,在協作開發的過程中,一個工作流下遊的開發者需要準确知道上一個節點的開發者對 Prompt 做了哪些調整;縱向來看,第一個應用版本開發出來後,随着模型不斷更新,還面臨一系列版本更新和代碼維護,同樣需要以上一版 Prompt 為基礎進行迭代。
因此,從實操效果來說,結構化 Prompt,是讓整個工作流高效運轉的最佳方式。" 退一步講,即使是獨立開發者自己調 Prompt,也經常忘記自己之前具體寫了什麼,結構化的形式讓工作流的各個節點更清晰。" 雲中江樹坦言。
不過,随着模型性能提升,Prompt 工程要解決的問題也越來越難以捉摸。
最近,讓雲中江樹感到困擾的是,模型性能提升後,它犯的錯誤也越來越隐蔽,這也增加了工程師調試 Prompt 的難度。" 要解決這個問題,只能用一些 " 笨辦法 ",例如大量試錯,盡可能多的試出那些奇奇怪怪的錯誤,并最終由人類開發者對項目兜底。" 他表示。
可見,在 Prompt 工程師和 AI 之間,Prompt 工程這場關于時間和耐心的拉鋸戰,短期内還不會結束。
什麼是 Prompt 社區的歸宿?
現階段,除了應對技術變化,雲中江樹正在面臨的另一大課題,是如何讓 LangGPT 真正可持續地運營下去。
"LangGPT 能有今天的成績,是理想主義的成果," 雲中江樹坦言," 但用愛發電走不遠,也做不大。"
今年 4 月,碩士畢業近一年後,雲中江樹辭去滴滴自動駕駛算法工程師的工作,開始全身心投入 LangGPT 的運作,并着手探索商業化。
雲中江樹透露,LangGPT 的社區運營和商業化探索将分開進行。
一方面,他希望 LangGPT 繼續以開源社區的形式存在,作為 Prompt 創意的聚集地,并繼續為想要學習 AI 的人系統性地輸出有價值的内容;另一方面,"Prompt 本身不适合商業化,單純做 Prompt 的交易利潤很薄,很難走得長遠 "。
這并非 LangGPT 獨有的難題。無獨有偶,國外最大的 Prompt 社區 FlowGPT 今年也開始在定位上尋求轉型。
将時間拉回 2023 年,FlowGPT 發布時,OpenAI 還未發布 GPTs。
2023 年 1 月,還在伯克利大學就讀的黨嘉成(Jay)用 3 天時間做出了 FlowGPT 的網站原型。網站正式上線後便迅速出圈,不到一年時間,全球月活便超 400 萬。2023 年 5 月,FlowGPT 獲得 DCM Ventures 的種子輪投資。
今年 2 月,FlowGPT 又完成新一輪 1000 萬美元 Pre-A 輪融資,由矽谷風險投資基金 Goodwater Capital 領投,老股東 DCM Ventures 跟投。與此同時,FlowGPT 的定位也從 Prompt 社區轉型為 AI Native APP/Agent 平台。
對于這次轉變,黨嘉成曾對媒體表示,"Prompt 就是 AI Native 的代碼。用戶在平台上用 Prompt,和用一個軟體沒有區别。之所以當時以 Prompt 為主體,是因為大家覺得這個詞最克制。3 月的時候意識到可以做 AI Native APP。Prompt 需要迭代,當時很多人願意去分享 Prompt,是希望知道怎麼能提高 Prompt 本身。
創作者創作出來之後就希望大家能用,用了之後能留反饋,創作者能根據反饋去做修改。這個事本身就很像產品迭代的過程。"
這種面向 C 端創作者開源、免費的模式讓 FlowGPT 網站上沉澱了大量優質創意,但内容倫理的風險也随之而來。黨嘉成對媒體坦言:" 如果你想讓大家做任何事,就會有人做任何事。我們決定在保證這個平台不被查封的情況下,給大家最大的自由度。"
鑑于國内外市場環境差異,不同于 FlowGPT 的 to C 策略,LangGPT 選擇從 B 端切入。目前,LangGPT 會根據客戶需求,向客戶提供一整套裝務,包括智能體的定制、SaaS 工具、技術咨詢、Prompt 方法論培訓等形式。同時,對于徘徊在灰色地帶的内容,LangGPT 均不予收錄。
具體到落地場景方面,雲中江樹表示,LangGPT 社群衍生出的應用中,内容方面的應用是效果最好的。" 現在 AI 比我們還要懂人性,它可以将創作者的創作風格、目标閱聽人畫像以及内容平台的流量規律總結出一套公式,成為内容行業的‘效率殺器’。"
目前,除了文字 Prompt,雲中江樹也在嘗試多模态 Prompt 所能調動的模型能力邊界。
關于未來,雲中江樹依然要面臨巨大的不确定性,一方面來自于模型能力更新對 AI 應用產品的 " 降維打擊 ",另一方面則來自于商業和人性的深不可測。
現在,雲中江樹仍在不斷推演 LangGPT 更優的商業路徑。" 我們還是希望找到真正的高價值場景,幫客戶提效。" 但萬般變化中,不變的是雲中江樹投身未來的笃定:
" 只幹技術對人的異化太強了,我希望能真正投入這個時代,希望在有生之年見證 AGI 的實現。只要确定是未來,哪怕再小的機會我也要去嘗試,在全新的生态裡找到自己的位置,然後全力以赴。我很相信二八法則,如果我在細分領網域裡做到前 20%,同樣能產生很大的價值。"
本文為創業邦原創,未經授權不得轉載,否則創業邦将保留向其追究法律責任的權利。如需轉載或有任何疑問,請聯系 [email protected]。