今天小編分享的科學經驗：ChatGPT大更新！OpenAI奉上程式員大禮包：API新增殺手級能力還降價，新模型、4倍上下文都來了，歡迎閱讀。
ChatGPT 一夜間再次進化，OpenAI 一口氣推出大量更新！
最核心的是 API 新增函數調用（Function calling）能力，與網頁版的插件類似，API 也能使用外部工具了。
這個能力被交到開發者手上，ChatGPT API 原本不具備的能力也都能靠各種第三方服務解決了。
有人認為，這是一個殺手級特性，也是自 ChatGPT API 發布以來最重要的更新。
另外這次關于 ChatGPT API 的更新每一個都很重磅，不僅能力加量，價格還更低了：
推出新版本 gpt-4-0613 和 gpt-3.5-turbo-0613 模型
gpt-3.5-turbo 上下文長度增漲 400%，從 4k 增長到 16k
gpt-3.5-turbo 輸入 token 降價 25%
最先進 embeddings model 降價 75%
GPT-4 API 大規模開放，直到清空排隊列表為止
消息到了國内，也有網友認為這是國内大模型面臨的重大挑戰。
何時使用工具，API 自己決定
根據 OpenAI 官方介紹，函數調用同時支持新版 GPT-4 和 GPT-3.5。
開發者只需要模型描述需要用到的函數，何時調用哪個函數都是模型根據提示詞自己決定的，與 ChatGPT 調用插件的機制一樣。
對于具體使用方法，官方給出了三個例子：
第一，聊天機器人調用外部 API 執行操作或回答問題，如 " 給某人發郵件 " 或 " 今天的天氣如何？"。
第二，将自然語言轉換為 API 調用或數據庫查詢，如 " 上個月有多少訂單？" 會自動生成 SQL 查詢語句。
第三，從文本中自動提取結構化數據，如只需要定義好需要的 " 人名、生日、位置 "，再給個網頁鏈接，就可以自動提取一篇維基百科文章中提到的所有人物信息。
這一新功能讓廣大網友、特别是開發者為之歡呼，表示有了它工作效率将大大提高。
以前，想要讓 GPT 調用函數需要借助 LangChain 的工具才能實現。
……
盡管 LangChain 理論上擁有更高的運行效率，但可靠性要遜于經過專門調教的新 GPT。
更新版本，更低價格
目前，新版本的模型已經逐步開始迭代。
最新版 gpt-4-0613、gpt-3.5-turbo-0613 與擴充上下文長度的 gpt-4-32k-0613 都支持函數調用。
gpt-3.5-turbo-16k 不支持函數調用，提供 4 倍上下文長度，意味着一次請求可支持約 20 頁文本。
舊模型也開始逐步廢棄。
使用初始版本 gpt-3.5-turbo、gpt-4 的應用将于6 月 27 日自動更新到新版本
需要更多時間過渡的開發者也可以手動指定繼續使用舊版本，但9 月 13 日之後所有舊版本請求将徹底廢棄。
說完這個時間線，我們再來看看價格。
更新之後，OpenAI 不僅沒有讓產品漲價，反而下調了價格。
首先是使用量最大的的 gpt-3.5-turbo（4k token 版）。
輸入 token 的價格降低了 25%，現在 0.0015 美元每千 token，也就是 1 美元 66.6 萬 token。
而輸出 token 每千 token 的價格則為 0.002 美元，也就是 1 美元 50 萬 token。
換算成英語文本的話，大致是 1 美元 700 頁。
嵌入模型（embeddings model）的價格更是大跳水，直接降低了 75%。
每千 token 只需 0.0001 美金，也就是1 美元一千萬 token。
此外，新推出的 16K token 版 GPT3.5-Turbo 提供了 4K 版本四倍的處理能力，但價格只有兩倍。
輸入及輸出 token 的價格分别是 0.003 和 0.004 美元每千 token。
另外還有少數網友反應，當月賬單直接從 100 到降到幾美分了，目前還不清楚具體什麼情況。
最後，有需要的話也不要忘記去排隊 GPT-4 API 的測試資格。
（傳送門放在文末）
OpenAI 捕 "Chain"，微軟在後
不少網友指出，OpenAI 新出的 " 函數調用 " 基本就是Langchain裡 "Tools" 的翻版。
也許接下來，OpenAI 還會翻版 Langchain 的更多功能，如 Chains 和 Indexes。
Langchain 是大模型領網域最火的開源開發框架，能夠把各種大模型能力整合起來快速構建應用程式。
團隊最近也剛剛獲得 1000 萬美元種子輪融資。
雖然 OpenAI 的這次更新還不至于直接 " 殺死 "Langchain 這個創業項目。
但是開發者們本來需要 LangChain 才能實現一些功能，現在确實不再需要了。
再看 Langchain 一方的反應，求生欲也确實很強。
在 OpenAI 官推發布更新的10 分鍾之内，Langchain 立馬宣布 " 已經在做兼容工作了 "。
并且不到一個小時就發布了新版本，支持官方新功能之外，還可以把開發者已經寫好的 tools 轉換成 OpenAI 的 functions。
一眾網友除了排隊感嘆這快得離譜的開發速度，還思考起一個無法回避的問題：
OpenAI 把你的創業項目給做了怎麼辦？
對此，OpenAI 首席執行官 Sam Altman 最近剛好做過一次表态。
在 5 月底 Humanloop 舉辦的交流會上，Altman 曾表示：
除了 ChatGPT 類型的消費級應用之外，盡量避免與客戶競争。
現在看來，開發工具似乎不算在避免競争的範圍之内。
而與 OpenAI 形成競争關系的除了創業公司，還有一個不可忽視的存在：
微軟，OpenAI 最大金主，通過 Azure 雲也對外提供 OpenAI API 服務。
就在最近，有開發者反饋，從OpenAI 官方 API 切換到微軟 Azure 版本後，性能顯著提升。
具體來說：
median latency 從 15 秒減少到 3 秒
95th percentile latency 從 60 秒減少到 15 秒
平均每秒處理的 token 數量增加了三倍，從 8 個增加到 24 個。
再算上 Azure 給的一些折扣，甚至比原來還便宜了。
但微軟 Azure 的更新速度一般要比 OpenAI 慢上幾周。
開發階段快速迭代用 OpenAI，大規模部署轉去微軟 Azure，你學到了麼？
更新公告
https://openai.com/blog/function-calling-and-other-api-updates
GPT-4 API 排隊
https://openai.com/waitlist/gpt-4-api
參考鏈接：
[ 1 ] https://news.ycombinator.com/item?id=36313348
[ 2 ] https://twitter.com/svpino/status/1668695130570903552
[ 3 ] https://weibo.com/1727858283/N5cjr0jBq
[ 4 ] https://twitter.com/LangChainAI/status/1668671302624747520
[ 5 ] https://twitter.com/hwchase17/status/1668682373767020545
[ 6 ] https://twitter.com/ItakGol/status/1668336193270865921
