今天小編分享的科技經驗:能順利讀懂人類自然語言的 AI 才是真・AI,歡迎閲讀。
@闌夕 : 看了一下數學家陶哲軒從微軟那裏拿到并使用了「滿血版 GPT-4」的自述,舉了一個信号非常明顯的例子:
他讓 GPT-4 看自己的一篇數學論文,然後生成一些評審專家可能會針對這篇論文提出的問題。而當他放棄嚴謹和精确的提示詞,最直接的給 GPT-4 喂足原始文本時,獲得的反饋質量是最好的。
這再次證明了當前盛行的 Prompt 只會是一個過渡品,它的存在只是因為 AI 還不夠強大,仍然需要半編程式的框架來引導它準确執行命令,而真正發展到理想狀态的 AI,是不需要靠提示詞這種手段來「優化」回答的。
在陶哲軒看來,他所看到的這一版 GPT-4,打破了某種意義上的信息守恒定律,比如在軟體開發行業,你必須輸入高質量的信息或是編程語言,才能獲得高質量的回報,但在 AGI 的世界,含糊甚至錯漏的低質量輸入,也能被 AI 校準到高質量的輸出裏。
對了,這個所謂「滿血版 GPT-4」,并不是一個 OpenAI 在内部開發出來的更新版,相反,它是舊版本的 GPT-4,只是去掉了各種安全限制,那些限制在幫 GPT-4 提高風險意識的同時,其實也犧牲了它的部分智能。