今天小編分享的互聯網經驗:TOB AI,跑通了?,歡迎閲讀。
文 | 王智遠
最近,朋友給我反饋:Kimi 廣告投放真猛。
聽網易音樂、刷 bilibili 都能看到,説產品給普通用户使用的,這點兒毋庸置疑。不過,8 月才過半,Kimi 一些行動卻讓人感覺有些不同。
不同在哪呢?
一方面,8 月 2 日,Kimi 的母公司月之暗面 ( Moonshot AI ) 宣布正式發布了 Kimi 的企業級 API。這種企業級模型,相比普通用户版,提供了更強的數據安全保護和更快的處理速度,能夠幫助企業處理復雜的工作和大量數據。
緊接着,他們宣布将 Kimi 開放平台的上下文緩存 Cache 技術的費用下調,從原來的 10 元每 1M tokens 每分鍾降到了 5 元。我了解到,這項降價從 7 月 1 日就已經開始在開放平台上進行公測了。
讀到這裏,也許你會好奇,緩存 Cache 到底是什麼?
簡單來説,它的作用是提前存儲那些可能會被反復使用、經常被查詢的文本或數據,從而在不增加成本的情況下提高模型的推理效率。
所以,這些動作讓我不禁思考,AI 在 B2B 領網域,是否已經找到了一條有效的道路?經過一圈調研,我認為:是的。
01
先説一個行業共識:AI 應用無疑是模型成功的關鍵。
今年,世界人工智能大會上,百度 CEO 李彥宏讨論了他對大模型應用的一些看法。他説:盡管 C 端開發很重要,但 B 端應用場景,才是大模型能夠取得更好成果的地方。
他認為,AI 時代,能夠深刻影響產業,顯著提高效率的應用更具備價值,他預見,在醫療、金融、教育、制造、交通和農業等領網域,将會根據各自的特點和數據資源,開發出定制化的智能體,未來智能體将達到百萬級别,形成一個龐大的生态系統。
今年,百度在醫療、金融、能源、環保和交通等多個領網域得標了 17 個項目,涵蓋大型國企、行業領頭公司,金額也非常可觀。
顯然,李彥宏認為,AI 應用要快速落地到智能體上。
咱不説具體落不落到智能體上,那麼多标書,也要一個個交付,一年半載不作出個成型的東西來,客户肯定是不願意的。
我們再看 ( Moonshot AI ) 創始人楊植麟怎麼看。
6 月份,極客公園創始人張鵬與楊植麟的一次對話中,楊提到他們并不完全排斥 B 端,但主要還是專注于 C 端。他的產品 Kimi 在 AI 領網域已經達到了頂級流量和使用量。
盡管如此,用户在高峰時段經常體驗到由于算力不足而導致的問題。為了應對這種情況,他們采取了一些措施來降低運營成本并提高效率。
其中之一,是通過緩存技術來優化模型的推理性能,這項技術使 Kimi 在處理復雜請求時能夠更快響應,減少了重復計算的需要。
這種改進不僅提高了系統的響應速度和處理效率,還确保了對話或文本生成的連貫性和準确性;這在未來,面對可能做 B 端生意時,要大量集中處理數據請求時,顯得尤為重要。
因此,楊植麟認為,若想轉向 B 端,首先必須解決算力問題,确保算力的穩定是基礎。
另一方面,我覺得,做 C 端生意不那麼性感,他主要通過廣告投放換轉化,長期看,沒有那麼引人注目。
我從多名廣告從業者口中了解到,從 2024 年上半年開始,人均轉化成本在不斷上升,每一個 Kimi PC 端的用户轉化,基本達到 40 元 / 人,這個數據我沒有求證官方。
不過,就大趨勢看,C 端場景下的 AI 市場競争成本不斷提高,無疑推動許多 AI 公司,重新評估他們的市場戰略。
所以,C 端市場雖然潛力太,但 B 端的應用場景,才是實現大模型深遠影響和高效成果的關鍵領網域,畢竟,只有為企業實現真正的降本增效,才能推動行業乃至整個產業的進步。
02
既然共識正确。那麼,智能體、或 AI、大(小)模型如何有效切入 B2B 領網域呢?第一個辦法是,做 B 端的上遊。
什麼意思呢?
所謂 B 端上遊,即供應鏈的源頭。舉個例子:假設有家醫藥公司,有利用 AI 的需求和應用場景,但作為大模型公司切入很困難怎麼辦?
這時,你發現這家醫藥公司正在使用某種 SaaS 軟體,AI 大模型公司可以考慮與軟體供應商合作;這樣,AI 就能被加到現有的軟體產品裏,醫藥公司就能在用軟體的同時,順利過渡到使用 AI。
這是很多傳統 B 端業務人的思考方式。
其實,B2B 軟體有多種部署形态。首先,本地化部署,将軟體安裝在客户自己的伺服器或設備上,讓客户能控制數據和安全。
這種方式需要定期更新,維護起來麻煩且成本較高。比如,以前奔馳、寶馬這些大廠商,為了管理代理商,會采用傳統的 CRM 系統作為本地化部署。
但本地化部署在實現 AI 集成時面臨很多挑戰,尤其要預先訓練好的模型;這樣的模型一旦安裝,即便在不聯網的情況下,也能夠響應客户的查詢。
雖然許多 ToB 公司都有意嘗試,但現實操作的復雜性很高。例如,醫藥集團或醫院,他們的數據管理需求龐大,一旦需要更新軟體集成新的 AI 功能,整個過程将極為復雜。
另外,對項目負責人來説,他們要向老板解釋,為什麼要花大筆錢引入 AI 功能。
比如:
花 2000 萬搞一個模型。聽起來好像很厲害,我們有了 AI 能力,但實際情況可能讓人覺得,這不過是一個 AI 知識問答系統。這麼看,總覺得不太劃算。
還有一點,即便企業引入一個模型,萬一員工用不去來怎麼辦?那這筆錢不就打水漂了?于此,怎麼算都不合适,當然,一些公司甚至連知識庫都沒有,更沒必要引入 AI 能力了。
而 SaaS 模式,作為另一種形态,允許用户通過訂閲方式支付費用,如飛書等協同工具。這種模式下,SaaS 公司可以直接集成 AI 功能,甚至有能力繞過小模型公司,直接從大模型公司購買服務,進行流程改造。
在所有這些形态中,SaaS 模式集成 AI 功能最為簡便,因為服務提供商可以在後端統一更新和維護 AI 功能,客户無需擔心技術細節。
因此,從上到下看,提供 AI 解決方案的公司可能拿下一些訂單,但真正讓客户成功的過程可能相當艱難,付出與收獲往往不成正比。
03
那麼,有沒有一種新的解法呢?有。不妨自下而上看。
我們要建立一個新認知:
在公司裏使用 AI,實際上,是找到了一個突破口,它主要幫我們提高做事的效率,AI 一般用來加強已有的工作流程,而不是徹底重新開始。
什麼是徹底開始?
即從頭開始,完全重新制定某個事物的流程,不依賴任何現有的結構和計劃;在工作流程或項目管理的語境中,這意味着放棄舊的方法和系統,采用全新的方法來解決問題或執行任務。
比如説,一個公司原本使用一個非常傳統的客户關系管理(CRM)系統。随着時間推移和業務的增長,這個系統無法滿足公司的需求了。
公司決定不再對老舊系統進行修改或更新,決定從頭開始開發一個全新的 CRM 系統,這個新系統将使用最新的技術棧,設計更符合現代業務流程的功能,并且可以更好地集成最新的數據分析工具。
這就是一個 " 徹底開始 " 的例子。但是,你知道嗎?AI 颠覆流程再造的過程,AI 大部分時間是在處理人類已經很熟悉的工作,不用重復再造輪子。
當一個公司開始用 AI 模型時,這些模型得和公司自己的工作流程緊密結合。比如,有些公司在醫療或教育領網域想用一些高級的大模型,但這過程可能會碰到很多難題。
因為每個公司的業務和流程都是特别的,AI 需要的數據也特别,所以通用的大模型可能不太合适,在公司裏要真正用上這些寬泛的理念,通常很難。
怎麼辦?這個時候,有一個小模型、小助手就好辦了。
比如説:
中小企業的會計通常用金蝶、用友、暢捷通這些軟體。這些軟體裏已經存了很多數據;對于操作員來説,他們只是想用 AI 的力量快速找到一個數據,或者得出一個結論就行了,不用去大改原來的軟體。
所以,要把 AI 用到企業(ToB)的場景中,一個好方法是把復雜的業務流程分解成很多小任務,或者是具體的小場景,然後在每個小場景中用 AI 來幫忙做改進。
我們還看到,像微軟這樣的 OpenAI 的投資方,以及作為 CRM 行業領頭羊的 Salesforce,他們并沒有用 AI 開發出全新的產品。
雖然他們不斷地為產品加上新功能的标籤,但實際上,是在現有業務流程或產品功能中,利用大模型進行輔助和增強。
也就是説,它們把小模型,精煉成了一個助手,或者説一種增強能力,這樣可以更好地融入并優化現有系統,而不是完全替換它們。
這有點像最近很多 AI 公司在 PC 端做的那些插件。你只要輕輕一滑滑鼠,或按下快捷鍵,AI 就能彈出來幫忙。它們的核心功能,是幫助我們做出更好的決策。
04
不信,你還可以思考下:對于 ToB 企業來説,真正需要 AI 來做什麼?
經過智遠調研認為,他們主要是用數據來幫助做運營、管理、決策和營銷方面的決定。那麼,對 AI 公司來説,怎麼樣才能做到既實用又省錢呢?關鍵就是要實現快速復制,用很低的成本覆蓋多種場景。
怎麼復制?
一個辦法,把 AI 封裝成一個智能體,它可以調用本地數據。這就是為什麼 Kimi Chat 會降低緩存 Cache 的費用;因為把那些被頻繁使用的本地文本存下來,可以幫助提高小助手的準确度。
但這裏有一個問題,怎麼做到既準确、又通用,同時成本還低呢?
對此,我們可以這樣定義 " 高準确率 ":業務能用就行,準确率足夠高,即使偶爾出錯,用户也能識别出來,并且能解釋為什麼會這樣。
" 低成本 " 則意味着項目初期的成本必須低,能在單一機器上部署,并且使用和維護都很簡單。現在很多大模型的硬體成本很高,如果公司還不确定能賺多少錢,肯定不願意投入太多。
大模型的優勢在于解決了早期 AI 算法的通用性問題。
理論上,一個模型可以應對所有場景;實際上,我們要對它進行微調。所以,我們将 " 高通用性 " 定義為能夠實現工具化和自動化,這樣就能大規模復制,實現低成本落地。
一個億級大模型已經實現了超過 95% 的準确率,然後,我們從這個大模型衍生出一個小模型,把它封裝成助手,這樣就解決了使用入口的問題。
想象一下,大模型公司有一個超級強大的大模型解決方案,它就像一個父模型,支撐着整個企業的廣泛需求。
這個大模型特别厲害,可以處理復雜的數據分析,給出非常準确的見解。它特别适合需要大量計算資源和進行大規模數據處理的 B 端公司。但其實,并不是所有 B 端公司都要這麼龐大的系統。
對于更多的中小型企業來説,一個更小、更專注的模型就足夠了。我們可以視作大模型的 " 子模型 "。
這些小模型從大模型中繼承了核心能力,但經過了優化和調整,這樣它們能更好地适應具體業務需求和小規模的操作環境。
小模型不用大模型那樣多算力,而是專注特定的任務,能夠根據不同需求調整,比如生成智能的分析報告或者進行智能分析。
這就使得資源有限的小型企業也能用上 AI,提高工作效率和決策質量。
所以,小模型像從大模型中提煉出來的精華,它只要有基本的知識庫能力就夠,關鍵是把它做成一個小助手,嵌入到工具中使用。
千萬不要認為這代表邏輯正确。經過智遠調研,目前已經有 AI 產品落地到了 B 端企業中;所以,對于 TOB 來説,AI 應用場景,是智能體,是插件。
這麼做還有一個好處即容易交付,不用投入昂貴的成本。
總結
TOB AI,沒走老路。
如果説小模型是 TOB 關鍵點,那麼,将其做成智能體、小助手,就是連接 TOB 最後一公裏的關鍵環節,畢竟,自下而上,是以人、以任務為中心,不是以軟體為中心。