今天小編分享的互聯網經驗:百度李彥宏内部喊話:大模型開源意義不大,歡迎閱讀。
钛媒體 App 獲悉,4 月 11 日下午,百度公布公司創始人、董事長、CEO 李彥宏近期在内部的講話内容,主要談及中國 AI 大模型開源與閉源的路線選擇以及 AI 創業。
李彥宏指出,AI 大模型開源意義不大,中國只有文心大模型才能做到最強的功能。
李彥宏認為,閉源模型在能力上會持續地領先,而不是一時地領先;模型開源也不是一個眾人拾柴火焰高的情況。這跟傳統的軟體開源一比如 Linux、安卓等等很不一樣。他認為,閉源是有真正的商業模式的,是能夠賺到錢的,能夠賺到錢才能聚集算力、聚集人才;此外,閉源在成本上反而是有優勢的,只要是同等能力,閉源模型的推理成本一定是更低的,響應速度一定是更快的。
李彥宏表示,無論中美,當前最強的基礎模型都是閉源的。通過基礎模型降維做出來的模型也是更好的,這使得閉源在成本、效率上更有優勢。而對于 AI 創業者來說,核心競争力本就不應該是模型本身,這太耗資源了,而且需要非常長時間的堅持才能跑出來。
李彥宏強調,既做模型又做應用的 " 雙輪驅動 ",對創業公司不是好模式。創業公司的精力和資源都很有限,更應該專注。既做模型又做應用,勢必會分散精力。
" 外界擔心如果用了文心或者閉源模型,做得好了它就抄你,就把你的飯吃掉了,實際上這種擔心也是沒有任何道理的。當然,更根本的就是文心的功能是最強的,性價比是最好的,我們會持續不斷地投入,有了這一點,所有其他的東西才能夠成立。" 李彥宏稱。
(本文首發钛媒體 App,作者|林志佳)
以下是為李彥宏内部講話實錄的部分原文:
一、為什麼不開源
已經有足夠多的開源大模型
一年前文心剛剛發布的時候,我們内部是有過非常激烈的讨論的,最後當然大家也知道這個結果,我們的決定是不開源。為什麼不開源 ? 當時的判斷是,市場上一定會有開源的模型,而且是不止一家會開源。在這種情況下,多百度一家開源不多,少百度一家開源也不少。
我們今天看主流的開源模型 :,像 Llama,Mistral 其實都是有相當影響力的,國内的智源、百川、阿裡的通義也都是開源的,這個市場上不缺我們這一家開源的模型。我們要開源還得自己去維護一套開源的版本,這是不劃算的。
閉源模型能力會持續領先
更重要的是,在我們的認知裡,閉源模型在能力上會持續地領先,而不是一時地領先。為什麼會有這個判斷 ? 因為我們覺得模型開源的意義其實不是很大,這些開源模型都是在外頭零零散散小規模地去做各種各樣的驗證應用,它沒有經過大算力的驗證。
而且模型開源也不是一個眾人拾柴火焰高的情況。這跟傳統的軟體開源一比如 Linux、安卓等等很不一樣,由于是模型帶來的開源,我們也不知道參數為什麼變成了那個樣子,這種情況下很難實現眾人拾柴火焰高。雖然 Llama 也鼓勵大家去貢獻各種各樣的數據、代碼,但是實際上大家明白最主要的開發者就是 Meta 這些人,它并不是一個真正由大家一起來協同開發的產品。
閉源才有真正的商業模式,才能聚集人才和算力
反觀閉源,是有真正的商業模式的,是能夠賺到錢的,能夠賺到錢才能聚集算力、聚集人才。其實也很簡單,大家比較一下,比如矽谷有一個優秀的人才,他有 OpenAI 的 offer,有 Meta 的 o ffer,有 Llama 的 offer,他會去哪兒 ? 這是非常顯而易見的選擇。
閉源在成本上也有優勢
大家以為開源是免費的,在成本上有優勢,實際上我們認為也不是,閉源在成本上反而是有優勢的。只要是同等能力,閉源模型的推理成本一定是更低的,響應速度一定是更快的。反過來,同等參數的情況下,閉源模型的能力也是更強的。今天不管是在中國也好、在美國也好,最強的基礎模型都是閉源的,而各種各樣的小模型、最好的小模型,都是通過大模型蒸餾來的。通過大模型降維做出來的模型就是更好的,這樣也會導致閉源在成本上、在效率上也會有優勢。
二、創業者為啥可以依賴文心
雙輪驅動不是好模式
首先,外界一些做模型的創業公司講的所謂的 " 雙輪驅動 " 不是一個好的模式。既做模型又做應用,勢必會分散精力。創業公司的精力和資源都是有限的,同時做兩件事情和只做一件事情哪個成功率更高是不言自明的。在任何情況下我們都非常講專注力," 力出一孔 ",當資源有限的時候更應該專注,而不是去搞所謂的 " 雙輪驅動 "。
AI 創業者的核心競争力不是模型本身
第二,對于 AI 創業者來說,核心競争力本就不應該是模型本身,這太耗資源了,而且需要非常長時間的堅持才能跑出來。
創業者真正的優勢應該是在某一個領網域的知識、數據。假如說你今天想找一個 " 黃色的無兜的男士泳褲 ",你在任何一個今天的電商平台上都找不到,這種需求目前的技術是解決不了的,大模型如果有領網域知識就可以解決,這就是靠領網域知識能夠提供獨特價值的例子。
市面上有這麼多模型,大的、小的、開源的、閉源的,在特定應用當中怎麼樣使用這些模型的組合,是有技巧的,這是創業者可以幹的事兒,是可以提供價值增益的。
基礎模型不會通吃 AI 應用
外界擔心如果用了文心或者閉源模型,做得好了它就抄你,就把你的飯吃掉了,實際上這種擔心也是沒有任何道理的。
拼多多、滴滴不怕微信搶飯碗
大家去看一看,在移動時代,微信沒有去吃掉拼多多,滴滴也沒有變成騰訊的一部分,它們都各自提供了自己獨特的價值,有自己非常不一樣的競争力,它們的興起都是依賴移動生态裡的一個封閉平台——微信,但是它們并不怕微信去搶它的飯碗,所以沒有必要擔心基礎模型通吃 AI 的應用。
文心功能最強,性價比最優
當然更根本的就是文心的功能是最強的,性價比是最好的,我們會持續不斷地投入,有了這一點,所有其他的東西才能夠成立。