今天小編分享的互聯網經驗:暢談AI大模型產業價值:有驚喜,也需遠慮,歡迎閲讀。
環境持續變化,時代總在迭變,"商業之王"們緊随時代浪潮,堅持創造,謀求新動能。立足中國經濟大轉型的當下,WISE2024 商業之王大會,一同發現真正有韌性的"商業之王",探尋中國商業浪潮裏"正确的事"。
11月28-29日,為期兩日的36氪WISE2024 商業之王大會于北京隆重召開,作為中國商業領網域的全明星盛典,WISE大會今年已經是第十二屆,在不斷變化的時代裏見證着中國商業的韌性與潛力。
2024,是有些模糊且變化多于穩定的一年。相比過去十年,大家的腳步正放緩,發展更加理性。2024,也是尋求新的經濟動力的一年,新的產業變化對每個主體的适應性提出了更高的要求。今年WISE大會以Hard But Right Thing(正确的事)為主題,在2024,什麼是正确的事,成為我們更想交流的話題。
機器人、人工智能與數據技術正通過賦能與優化,助力效率與創造力的躍遷:技術賦能推動了從智慧社區到商業運營的全面更新;智能化產品為社會創造了更便捷、更個性化的服務;同時,AI成為創新的加速器,激發了人類創造力的新邊界。
在11月28日的UP圓桌環節,來自大象機器人、趨境科技、瑞安新天地、中科聞歌、網易雲商的五位嘉賓,從AI產業角度讨論了AI大模型的產業價值。
從智慧社區到商業模式的重塑,科技不僅在貼近人們日常生活、創造温度與價值連接,也在揭示信息背後的故事,推動社會持續進化。未來,技術的核心在于賦能與放大人類的創造力,而非取代。
來源:36氪
以下為對話實錄,經36氪編輯整理:
國產芯片的崛起,不僅是我們國家科技自立自強的有力證明,更是為眾多前沿技術提供了堅實的硬體支撐。
而提到前沿技術,就不得不提到近年來備受矚目的大模型技術。近年來,以大模型為代表的人工智能技術,正在成為引領新一代產業變革的核心驅動力。與生產生活中的實際應用場景結合、為千行百業賦能增效是人工智能大模型的必然發展方向。
在這場由AI大模型引領的產業變革中,我們究竟收獲了哪些令人振奮的驚喜?又該如何未雨綢缪,妥善應對可能遇到的挑戰與風險?接下來我們将進入"UP局"環節,把舞台交給36氪資深記者鄧詠儀女士,同時有請大象機器人董事CMO陳昊天先生、趨境科技CEO艾智遠先生、瑞安新天地社區創新助理總經理魏天天女士、中科聞歌副總裁文皓先生、網易雲商副總經理周丹先生給我們帶來主題分享,有請!
鄧詠儀:歡迎大家來到WISE大會,非常感謝大家,我是36氪的鄧詠儀。WISE大會是個比較特别的日子,未來過兩天就是OpenAI發布的兩周年,我相信這兩周年裏面,全世界都感受到了AI的價值以及對行業内的人來説,推背感更加強烈,經常有采訪對象跟我説:一覺醒來又要變天了,不知道工作怎麼做了。
所以今天非常高興,能邀請到五位嘉賓跟我們分享一下,AI在落地這個層面的體感跟觀察。
首先還是想請五位嘉賓自我介紹一下,談談在這兩年裏面,自己看到的,AI改變了生活或者工作裏面驚豔的時刻。
大象機器人CMO陳昊天
陳昊天:大家好!我是大象機器人的CMO,大象機器人從工業、商用到消費做了三類產品線:協助機械臂、仿真寵物、人形機器人產品,在過往的歷程中我們跟人工智能有不少結緣的地方,分享兩點:
首先,在OpenAI推出ChatGPT不到兩個月的時間,微軟官方就發布了一個案例,這個案例做什麼?他是用ChatGPT自動寫代碼,自動訓練模型,讓機械臂做分撿模式。
其次,空間智能這個概念,他是做什麼?相當于讓機器人可以感知、理解,甚至做推理,最後可以自主完成在物理世界的運動,完成相應的任務。這是跟我們目前機器人所在的領網域是息息相關的,今年在國内,同濟的團隊也復現了這樣一個案例,也是基于我們的機械臂產品,在今年上海的人工智能大會上,發布了這樣一個DEMO,這些案例都可以在b站、公司公眾号做分享。
圖注:趨境科技CEO艾智遠
艾智遠:我來自趨境科技,我們是清華系的一家大模型推理加速AI廠商。
可能大家不是特别了解這個領網域。現在有底層芯片,有很多大模型,但怎麼讓大模型在芯片上跑的更快?這就需要推理優化方面的工作,我們就是做這個的公司。比如Kimi,由于Mooncake的分離推理架構設計,能夠增加他們承接流量75%以上。
我們的目标是想讓百億、千億大模型的落地門檻降下去,這樣才能走進千行百業的企業、部門裏面去。
從我的認知來講,現在大模型還達不到完全取代我們工作的這種水平,但它可以輔助或者處理我們日常相對重復、繁瑣的工作。
但是讓我覺得比較驚訝的點是什麼?我們公司有很多程式員,讓程式員花錢是比較難的,他們能自己做大概率就不會買,但我發現公司研發同事基本上會兩個螢幕,左邊是GPT,右邊是開發環境,他們也為OpenAI GPT每個月充帳号。消費習慣改變了,證明GPT對他們來講确實有用處、有幫助。
大模型的出現讓人們覺得在日常工作過程中需要這樣的工具來輔助、提速,而不是完全取代他本身,這對我來講還是影響比較大的。
圖注:瑞安新天地社區創新助理總經理 魏天天
魏天天:我們公司叫瑞安新天地,是香港公司,旗下開發的項目包括上海新天地等系列。我的部門做的事情特别一點,是做社區的商業創新和風險投資,所以我們會關注未來城市有哪些底層的結構性變化,圍繞城市未來更加可持續、智慧化、以人為本,我們進行商業内容孵化和早期科技項目投資。
我覺得有意思的一點是,我們對AI的認識往往是從應用端或者是消費者需求端去看的。這兩年寵物經濟很火,大家也知道現在線下發生了很多變化,我看過一個新聞是説硅谷的團隊做出了一個轟動很多人的視頻,有一個主持人拿着自己的GPT講了一句人的語言,并翻譯成了狗狗的語言,狗狗聽懂了,把搖控器拿了回來。
這樣的場景讓我們非常激動,因為從我們的角度來説,第一次看到了技術的進步——它站在了更細分人的需求角度,不僅是功能性的回應,還是情緒性的回應,這也是我們關注科技,覺得非常有趣的點,我們在人文、關懷、科技的交叉點去看新機會。
中科聞歌副總裁文皓
文皓:大家好,能夠堅持到現在的都是真愛粉絲。
我是中科聞歌文皓。中科聞歌的創辦源于一位教師帶領學生創業的故事。這位老師是1985級中科大少年班的成員,于1995年前往美國學習人工智能,師從人工智能名師Katia教授,她是多智能體的提出者和推動者之一,在1995年,他就發表了關于強化學習、貝葉斯學習和多智能體的相關學術論文,學術引用率數千次,對相關領網域的研究產生重要推動作用。2007年他歸國後,便開始帶領多名學生,包括中科聞歌的董事長與CEO,承接了多個國家級的大數據項目,并持續為多個政府部門提供服務。
在此,我想分享一個案例——新華社的智媒工程。新華社在全球100多個國家擁有記者,為其提供媒體采編發布平台。這個案例團隊產業化進程的一個小小縮影。到了2017年,恰逢國家鼓勵創新創業,團隊在原先的產學研用的積累上,成立中科聞歌。創業至今,我們在大數據、小模型、人工智能大模型、語言大模型及視頻多模态大模型等領網域不斷進步和創新。
談到人工智能的實際應用,我們不能不提到中醫。中醫作為中華文化的瑰寶,曾在歷史上多次幫助我們戰勝瘟疫,展現出獨特的治療價值。去年,我們與中國中醫科學院共同研發了"大醫金匮"大模型,成功地将傳統的"黑盒"診療方法與人工智能相結合,開創了全新的應用模式。值得一提的是,"大醫金匮"通過中醫執業醫師資格測試得到高分。
基于"大醫金匮"大模型,我們推出了同系列的中醫診療APP。有一位用户在使用該應用後反饋,他因發熱症狀進行了多輪問診,通過首診判斷其為風寒感冒,而非風熱感冒,并得到了相應的食療建議及OTC藥物,該用户在服藥後症狀得以緩解,對我們的服務給予了高度評價。
人工智能正在不斷為我們帶來驚喜,未來,我們對相關技術的發展充滿期待。謝謝大家!
網易雲商副總經理周丹
周丹:大家好!我是來自于網易雲商的周丹,我們網易雲商是面向企業的SaaS運營商公司,我們2016年的時候就發布了自己的智能客服產品,大家或多或少都在生活、工作中有所使用。
我們在2016年網易集團内部立項的時候就是以智能化、AI作為自己差異化的點。可能正是因為如此,所以説在幾輪客服產品的更迭中順利發展到現在。
在2023年Q3的時候,我們就已經把大模型結合到我們的產品中去,包括9月份的時候我們發布了客服領網域第一款垂直大模型——商和大模型。大家知道網易雲商還是一家比較擅長打造產品的公司,在過程中我們還是認為比較平穩、穩健的。
讓我印象深刻的點,有兩個吧。第一個我們的員工、產品經理、研發在做大模型產品的時候,他自發的會去購買一些AI工具,我們發現确實能提升員工個人效率。第二點,當AI真正開始在組織裏面運作的時候,我們會發現一個現象就是員工腦子裏的知識可以非常快的變成組織的共有資產,優秀員工的才能或者説沉澱,更有可能變成其他員工被吸收掉,成為組織裏的資產。其實我的老板,我們的CEO也在去年説過,讓組織像AI一樣自我迭代,自我更新。其實我們的組織在當時做AI產品之後,也像AI一樣自我做更新,這點對我還是印象比較深刻的。
AI如何從線上走向現實世界?
鄧詠儀:謝謝幾位嘉賓的分享,從普通的個體到整個組織都能感受到AI的價值,今天其實五位嘉賓來自的領網域比較多元,我們可以看到比如説像陳總來自硬體領網域、艾總、文總、周總都是在模型層或者是應用層去發掘AI的價值,魏總則是在線下的商業空間。
第二個問題想請各位嘉賓談談,在這兩年裏,AI落地在各自領網域裏是怎麼見證他產生價值的,這塊可以結合自己的業務來聊聊,這兩年裏,比如説我們做了哪些AI的探索,看到AI實際產生的價值是怎麼樣的?
周丹:AI還是比較早落地的,產品落地的時候我們就已經拿AI作為核心的技能點,那時候的AI技術主要是NLP搜索相關的技術,提供了像分類、歸納的能力,但是這個能力還是比較初級,所以我們只能做一些比較簡單點對點的問答,沒有到ChatGPT的感覺。後面大模型出來之後,有了總結、理解、内容輸出能力,這時候我們的產品就有可能去幫一個客服團隊做流程改進。
我這邊舉個例子,每一次客服服務人員服務完客户之後需要做總結:用户的問題是什麼,解決方案是什麼,用户的問題是不是解決掉,是否滿意,以及有什麼信息需要傳遞給客服?原來需要30、40秒時間記錄下來,可能總結還不一定到位,有了AI之後可以解決80-90%,AI總結的比較清楚。
再往後AI或者大模型結合Agent框架之後,有了決策以及自主行動這部分能力,我們可以把一些更為復雜的流程任務,需要一些經驗沉澱的決策交給AI做。
舉個例子,電商場景中有一些比較復雜規則的退換貨流程行動,或者説自主性產品營銷、產品銷售任務,原來AI是不可能做的,因為AI編寫需要靠人,沒有辦法把所有編寫完成。當AI結合Agent之後是有機會去做的,更復雜的工作又可以讓AI去做。
鄧詠儀:上了大模型之後,整體效率提升多少,人工坐席減少多少?
周丹:效率提升還是比較明顯的,典型的客户提升50-70%左右,但是人的規模不一定會減少,AI負責整個調測、适配、内容整理,會把客服資源放到後端做高階梳理的工作。
鄧詠儀:相當于瑣碎的事情不用他們做了。
文皓:中科聞歌在去年成功自主研發了雅意大語言模型,并于今年9月完成了視頻平台的訓練,推出了優雅大模型。用户可以基于該平台,通過簡單的文字輸入,生成視頻或影像,從而大幅提升生產效率。至今,全國超過500個縣市的融媒體中心,已在實際工作中應用了這一平台,極大地提高了工作效率,這是我們在媒體方向的應用。
第二個領網域是金融領網域。我們依托AI技術,在金融行業打造了多個标杆案例,特别是在信貸審核方面。我們為某大型銀行開發了一套信貸審核系統,該系統能夠通過大數據分析客户的歷史記錄及相關交易,迅速評估客户的信用可靠性、潛在風險以及是否符合放貸标準,顯著提升了信貸部門的工作效率,這是我們在金融領網域的應用。
第三個領網域是政務治理。中關村街道作為全國院士最多的街道,其居民包括大量的高端人才,也有許多普通市民,他們的需求多種多樣。在街道層面,面對社保、環保、民生教育等復雜事務時,基層工作人員需處理大量信息和事務,這對于普通工作人員來説是一項巨大的挑戰。為此,我們開發了"關芯客服"、"關芯助手"和"關芯智巡"三大產品應用。"關心客服"提供智能問答服務,市民在辦理事務時,可以通過自然語言查詢相關信息,邊問邊辦,提升辦事效率。"關心助手"則為街道工作人員提供了一個知識助手,幫助他們快速查閲關于教育、民生、環保、社保等相關政策信息。"關心智巡"則通過二維碼技術,允許市民或巡查人員實時反饋環衞、異常天氣等問題,确保信息快速流轉并及時處理,從而保障社會治理的順暢運行。這三個應用領網域的實踐,充分展示了人工智能在提升公共服務效率、推動社會治理現代化中的巨大潛力。感謝大家的關注!
鄧詠儀:像一個外挂大腦,更多地方的人或者市民都可以實現最多跑一次,辦什麼業務都更快了。
文皓:對。
魏天天:我們地產行業有相對完整的產業鏈,大家可能熟悉的就是從投資拓展到融資。剛才文總提到的,再到實際的建設,再到最後的商業資產管理。
在每個環節中,現在都能看到AI的身影。那天我看到一個挺有意思的報告,它説今天中國頭部的地產企業會認為AI相較于這兩年新出的一些新的其他的科技概念,其中90%的人認為AI最能夠給我們這個產業帶來新的變革。
舉幾個我們自己的例子,在融資端,AI特别能夠幫我們做融資材料審核、監管,包括像我們這類需要融資的企業(我們去年發行了綠色債券),在綠色債券發行過程中,大家會需要了解你這個企業在整個產業鏈的環節裏面,到底有多麼的可持續,我們上下遊有5000多家供應商,怎麼管理每一個環節的信息?其實AI給了我們很大幫助,所以我們也有自己的雲平台是專門做供應鏈管理的。
第二塊説到建設,過去幾年,智慧工地管理公司确實是根本上幫我們解決了工地的高危監管、安全作業問題。我們自己也投資孵化了一家企業,創始人來自同濟大學教授,這家企業通過AI賦能工地未來的施工管理,這位創始人另一個比較有意思的地方是他同時還是我們國家的綠色建造委員會編委,所以他也要從政策端看行業是否做好好迎接AI時代的準備,有的時候政策往往會推動技術變革。
最後一個例子是在資產管理上,我們新天地的公共街區綠化面積是非常大的,大家很喜歡在我們街區裏走來走去。我們有一個合作公司,可以幫助我們從線上平台高效的實時看24萬方的公園,比如説苗木有沒有問題等等各方面實際運營監管中的問題。
鄧詠儀:5000個供應商怎麼管理?你剛剛提到的例子裏面。
魏天天:這個是建築碳中和裏面非常大的痛點,怎麼check供應商碳排?現在有部分供應商有一些計量方法,但整個建築行業現在又是剛剛起步的階段,所以特别需要AI幫助賦能管理。
艾智遠:我們是一家做大模型加速的,最大的感知的變化這兩年之内,實際上是大模型變得更大了,不管是去年3.5、4出來的時候,效果變得确實很好,但是也有變慢的趨勢,包括現在o1相對更慢了,但是效果變得更好了。
我們客户面臨的問題就是他想用更大号的模型,而且他想用更低的成本,既要還要,所有客户都希望這樣。我們怎麼樣把本地化部署的效果做到更好,需要全系統聯合做設計。
我們推出的主要是一體機,也就是軟硬一體來做大模型推理加速的一體機,我們自己提出了兩個比較核心的技術:以存換算和全系統異構協同推理,以存換算是通過存儲降低重復計算的量,全系統異構協同是希望把機器裏面CPU、GPU、内存、磁盤的算力資源利用上。這樣才能把成本降下去。
客户側的感知就是我們最近和一家做安全的頭部公司合作,他們原來在自己的設備上跑不起來千億級别的大模型,通過我們的技術就可以在一張卡、兩張卡的情況下跑起來千億的大模型。模型的效果肯定是會更好,也能更好的服務于安全很多的場景,這是比較有價值的。
而且我覺得AI Infra,需要通過一些軟體算法、更多的硬體協同,才能更好把端側成本降下去,因為雖然國產化芯片也不停在做革新,但是我們芯片和英偉達的芯片還有一些差距,僅靠GPU的能力是不行的。類似于,IBM當時的大型機很有價值,但是小團隊,或者普通人用不上,因為買不起;後來出現了PC化的機器,變成每個人人手一台電腦,每個人的辦公和日常都能使用。所以成本降低還是挺重要的事情,也需要從硬體、軟體、模型廠商合作推進模型的快速落地。
鄧詠儀:咱們是承上啓下的角色,上面要在算法層面有一些改進,讓應用能以更低的算力跑更多的運算,下面要讓芯片發揮出更好的性能。
艾智遠:是的,現在芯片市場挺多產品的,大模型的產品也很多,有一次盤點清華大模型相關的可能有幾十個,大模型榜單幾百個,怎麼選、怎麼兼容,對用户來講是很困難的,所以我們想在Infra這一層降低大家對于選型、适配的負擔,同時能夠把底層所有硬體資源都充分發揮起來,因為畢竟一張卡還是挺貴的,一台機幾百萬,在有限的成本裏發揮最大的效率和價值就是我們在做的事情。
鄧詠儀:給大家省錢了,現在卡比較缺,説不定在資源匮乏的環境下,我們能做更多創新。
陳昊天:前面四位嘉賓分享了包括營銷端、醫療端、政務端、商業地產、模型視角做的工作,我從另外的視角跟大家復盤一下從國際上,人工智能是什麼時候開始提出這個概念,再到最後進入機器人領網域轉捩點的問題。
最早是在1950年前後在美國會議上提出人工智能概念,一個技術不是突然降臨,他經歷長期起伏過程,從1950年開始人工智能經歷了多次起伏,我們就以最近一次大的時間點,在2015、2016年前後AlphaGo,基于大量專業的圍棋高手棋譜,機器人進行自我博弈學習,最後打造這樣的阿爾法GO,甚至能夠打敗國際圍棋大師,也驗證了深度學習、強化學習能力的潛力。
但在當時有很多個人用户,他們認同這樣的深度學習的系統可以在專業領網域,像是圍棋,依然缺乏泛化的能力,人工智能後來又經歷了熱點下行期。直到OpenAI對科研和開發者推出了GPT2.0這樣一個開源的產品,讓很多當時使用的開發者看到了,基于泛化的語義理解大模型的產品,他其實已經到了新的高度,大家在那個時候,科研工作者就能預想到在不久的将來會有現象級的產品推出,那就到我們最熟悉的2022年年尾OpenAI推出了ChatGPT,基于GPT3.5基于數億的參數集,推出現象級的產品。
他的熱點在于每個個人用户可以在自己手機、電腦上,用着這樣一個大模型的系統,大家會發現人工智能成熟度已經到了可以在一定程度上理解上下語境,甚至對專業的用户來説,可以幫助你解決一些工作上的問題,幫助你獨立處理一些任務,這個時間點就是整個世界輿論,對人工智能是不是可以進入大家的生活了進行激烈的讨論。
對于機器人領網域來説什麼是轉捩點?2024年就是今年,大模型或者説人工智能技術在機器人領網域,他做什麼事情呢?抽象來説,他是把一個本身在計算機世界的能力延伸到物理世界。舉個例子,如果大家下了ChatGPT或者kimi,你問他蘋果是什麼,他肯定回答你蘋果是什麼顏色,怎麼樣成熟,營養價值是什麼。但是你問你的手機,你把遠處的蘋果拿給我,手機做不到,計算機也做不了,因為他沒有機械結構,但是如果有了具身智能或者空間智能的機器人,他可以做到,他可以抓取,把蘋果拿給你。
他把本身遙遠的,存在于計算機世界的能力,已經可以進入到我們真實生活的物理世界,所以他的價值是可以想像,他是很難去表達的有多麼盛大,這就是我們機器人行業的歷程,跟人工智能發展的關系。
鄧詠儀:今年具身智能是特别火的話題,機器人大會大家如果去到現場的話,不管是中國、美國都有一些廠商,大家各自把自己具身機器人,人形的也好,四足的也好,花樣非常多。我今年甚至還看到中醫機器人,可以推拿,随着大模型能力提升,機器人智能水平也逐漸提高,可以幫人類社會幹更多的事情。比如説不是很方便的人群也可以借助他出行,或者完成更多的工作,感覺對物理世界意義和影響都非常深遠。
挑戰與機遇并存
鄧詠儀:在驚豔到我們這些時刻之外,也想和大家探讨一下目前行業存在的挑戰跟瓶頸,可能在業内大家看到的角度更加多元。比如説在自己的領網域裏,各位看到現在AI落地還存在什麼樣的問題跟挑戰,以及現在行業裏面有沒有一些有效的解決辦法?
陳昊天:比較有意思的是,我昨天從深圳來到北京,參加校友的人工智能創新創業小聚,北京四通八達,能十幾個人聚在一起,在望京做這樣一個技術型、創新型的探讨是很難得的,基本全員到場。
他們的背景,我的同學、校友們,他們有學心理學、金融、人員管理,各種各樣行業的同學聚在一起。這反映一個好消息就是,人工智能仿佛在多個場景、多個應用中已經被大家開始熟知,開始覺得有一些發展潛力,是不是能改善他們的工作,改善他們的生活。
但側面來看我感受到很大的焦慮,大家發現人工智能時代是不是要來了,對他們來説在過去的兩年,很有可能他們的賽道遇到了各種各樣的問題,尤其對于一些剛畢業的學生來説,也遇到了工作上,職業發展上的挑戰,人工智能這個賽道是不是他們現在可以轉型,可以all in,可以成為他下一個職業發展目标的賽道。他們帶着這個問題來,帶着各種各樣的問題來,我想這也是很多觀眾朋友留在這裏跟我們交流的原因,可能你們也有相關的問題,但作為行業從業者來説,我可能要潑一潑冷水。
反映兩個現象,第一個現象是大家去想ChatGPT或者國内的Kimi,他們融了很多錢,但是商業化做的怎麼樣?可以問身邊的朋友,有多少人為ChatGPT付費了,有多少人用Kimi,如果是排除對這樣新的技術的好奇心,排除害怕不了解人工智能技術可能會被淘汰的心理因素,真實的用這些產品能改善自己的工作、生活、創造價值的目的去購買的又有多少?
資本市場已經告訴了我們一個比較明确的答案,今年下半年,資本對于大模型的投融資,不僅是冷靜期,可能是冷凍期了,因為To C端的商業大模型沒有達到預期,所以大家開始收緊了腳步。
第二,我們所在的空間智能賽道上,有什麼樣的問題?其實大家很好理解,人工智能永遠是數據驅動,物理世界的數據目前遠遠少于我們基于文本處理的數據集,所以在具身智能賽道上,數據是遠遠達不到,可以實現一些非常智能的場景需求,按斯坦福教授李飛飛的原話,迫不及待,但是依然很遙遠,遙遠是什麼意思?可能三五年之後才能落地,但對于科研工作者遙遠是什麼意思?他可能有更長遠的顧慮。
回到這樣一個痛點,面臨行業的問題,該怎麼樣去解決他?坦白説,我們堅信空間智能會在某一天實現,但我們能做的就是推動加速這樣一個進程。
能做的事情其實比較好理解,就是更多的數據產出,無外乎就是當下有更多物理世界的機器人做訓練,采集數據,以及當下的熱點就是在虛拟仿真環境不斷的訓練自己的模型,讓更多的數據產出。
另外,我們鼓勵更多的科研工作者加入大模型,人工智能領網域的科學研究,這個領網域是非常值得all in的,包括清華團隊也是説all in大模型,但這不代表商業化的all in,代表科研領網域的投入。當產出一些科研成果,也鼓勵大家開源共享,共同幫助推動大模型技術的落地進程。
鄧詠儀:比如説你們缺什麼樣的數據比較多,因為物理世界裏的AI,機器人這塊,文字大模型、影像大模型互聯網已經有很多數據了,你們缺特定場景裏的影像,還是其他什麼數據?
陳昊天:舉個最簡單的例子,把門打開,我們作為一個正常人,我們不會想,我們知道要把門推開,但是機器人沒有辦法弄懂什麼叫把門打開,你需要拆解開門這個動作,識别把手在哪裏,不同的把手是往下,還是推拉式,不同的門,用多大力開,這是必須要通過長期數據積累和訓練才能打開的,簡簡單單的開門動作對于機器人來説,在陌生環境開門就是很艱難、痛苦的事情,所以他需要大量數據訓練,才能完成這樣一個行為。
鄧詠儀:相當于拆解整個流程,每一步都要做訓練。
陳昊天:好在大模型賦予了文本理解、任務拆解的能力,你問大模型把門打開分為幾步,他會告訴你,這樣去做任務的拆解的能力,對于我們所謂的物理世界的空間智能來説,這就是大模型的潛力。
艾智遠:陳總講的特别好,他講了大家的痛點,大模型很熱,應用落地稍微慢一點,效果沒有想象中那麼好,陳總潑了冷水,我再救回來一點。
當前大模型實際上很多,落地過程中有這樣一個問題:大模型所提供的價值與他所付出的成本之間的Gap是存在的。比如説我們買一輛自行車,日常代步,花幾百塊錢對我來説這件事情價值很大,因為可以解決我日常通勤的問題,如果買一輛自行車幾十萬,這時候我們就要想一想,還不如買一輛汽車。大模型大概兩年多的時間,技術革新也很快,基本上過一個月就會有新的東西產生。
雖然它還不如大家所預期的樣子,但在朝那個方向發展,可能大家也在想從GPT4到o1,好像好長時間沒有太多的信息。但盡管如此,大模型整體熱度和推進速度還是比較快的,最起碼在科研領網域論文推動速度還是挺快的,每天有各種各樣新的研究產生。
回到成本角度來講,成本還是要持續的降低才能讓大家真正用起來,再反推大模型的不斷進步。雖然現在通過我們的技術,能夠把當前大模型成本和延遲降一個數量級左右,但依然挺貴的。
比如谷歌廣告費用是高過搜索成本的,所以他能賺錢,但是大模型調用成本是比較大的,從總價值跟成本的Gap上來講,用大模型就很難賺到錢。就像OpenAI的訓練成本也遠超過收入,所以我覺得落地成本是要持續降低的。
那成本的降低是從下而上的過程。我們希望的是大模型将來能夠用到端側,比如在機器人上,通過自然語言改變我們操作的邏輯。
但其中也存在很多問題,一方面有底層芯片算力制約,一方面大模型就是那麼大,就是要計算那麼多的量。這個東西就那麼多的計算量級,所以要靠軟體的配合等等其他的方式來降低成本。
剛才陳總也講了需要開源的推動,我也很認可。也跟大家推薦一下,我們跟月之暗面Kimi、清華、阿裏、華為、面壁一起發起了開源的項目Mooncake,Mooncake是大模型推理架構,通過以 KVCache 為中心的 PD 分離和以存換算架構來提高推理吞吐、降低成本。我們希望通過開源的貢獻大家一起努力,把大模型開源的生态推動下去,可以真正在咱們的工作、生活等方面提供輔助,也在一定程度上幫助企業做智能化的轉型。
魏天天:我認為在實際應用解決方案上還不夠成熟,尤其在我們這個行業。商業地產行業與其他工業、醫療等行業都不一樣的地方在于,他有很強的再定性,且行業是高度分散的。
過去幾年,我們也接觸過很多四小龍公司,或者大公司跑來跟我們説想要就地產行業做全行業解決方案,但這個其實是很難很難的。當他深入你的case,做定制化的時候,他的成本算不過來,這是我們看到的大痛點。
相比來説,初創企業想要做這件事情,甚至可能一個團隊追着你就做這一件事情,恨不得半年幫你磨出一個產品,但他的穩定性是很大的問題,作為企業這麼多資產和辦法賭在初創企業,所以這個時候往往是錯配的。
鄧詠儀:你們的顧慮會是什麼,當AI的技術落地的時候,你們會考慮哪些方面的因素,比如成本、穩定性、準确率,還是什麼方面?
魏天天:穩定性是肯定的,現在地產并不是高科技行業,所有工作人都可以做,只是説有一些工作機器做了會更安全、高效。在這種情況下,我用機器去替代的意願沒那麼高。比如説我到月球上這件事情,人的身體是有限的,所以我們行業會有這類普遍存在的問題。
在這種情況下,我用機器去替代這件事情,我的意願沒那麼高。比如説我到月球上這件事情,人的身體是有限的,所以我們行業會有這個普遍存在的問題。
文皓:為什麼大模型當前備受關注,卻在實際應用中面臨高成本、融資困難、難以盈利等諸多痛點?在分析這些痛點時,我認為可以從以下四個方面進行思考:
首先,大模型的初衷是通向通用人工智能(AGI),而非為某一行業提供特定工具。因此,大模型與行業應用之間存在較大的工程化挑戰,包括對行業深刻理解的需求以及行業本身的復雜性。
其次,大模型發展速度極快,每三個月到半年就會迎來一次技術進步。在這種快速迭代的背景下,試圖将大模型與行業應用深度結合,往往會面臨技術進步和行業需求之間的巨大差距,進而影響了應用的實際效果。
第三,中國各行各業的數字化進程存在顯著差異。正如魏總所提到的,許多傳統行業的數字化進程尚未啓動,或者仍停留在信息化階段,距離智能化應用還有較大差距。在缺乏足夠數據積累的情況下,如何實現智能化應用便成了一大難題。
第四,工程化落地方便,在我們開發中醫大模型的過程中,我們深刻感受到了一些挑戰。特别是在将名醫的醫案和病人問診記錄轉化為數據、用以微調模型時,如何将傳統中醫的知識與數字化技術有效融合,如何與那些沒有計算機背景的中醫專家進行溝通和協作,都是需要花費大量時間和精力的關鍵問題。
不過,也正因為中科聞歌專注于To B和To G的業務模式,即便開發周期較長、市場競争激烈,客户仍然願意為我們的成果付費。因此,我們在這一領網域仍然能夠保持一定的生存優勢,獲得相對穩定的業務發展。這是我們的一項獨特優勢。
鄧詠儀:其實人工智能背後還是需要非常多的人工,要做很多dirty work,數據先有了,才有智能。
周丹:大模型在場景下的落地,我們有些客户,特别是自己有研發能力的客户,他們從他們的IT部門或者從數科公司開始説想自己搞一個大模型,大模型他們也要落地,落地其實現在最容易的兩個場景。
1)企業内部知識管理;
2)客户服務。很多客户自己想落地的訴求來看,落地的非常困難,我們總結起來主要是幾條,第一個還是需要行業know how,數據集。
在整個軟體工程跟算法,有很多問題需要解決,來讓這個模型輸出更加有效,更加穩定。比如説客服領網域,某些答案是不能潤色,不能改一個字的,比如營銷活動就是按照市場部的營銷活動,一字不差的表述出來,有些情況下我的服務可能是需要給用户提供情緒價值,需要讓大模型來做一些相關的潤色,給客户提供一些價值。
所以本身為了保證好用户的體驗,其實我們對大模型還是要做監控跟質檢,在特殊情況下要及時的切換回人工服務,在這些體系下面,其實我們都需要產品背後的技術的能力、以及團隊對于這個行業的認知能力,需要獨特的數據集來保證我們大模型的效果是真正能夠提升的,這也是我們原先做SaaS產品的解決方案或者優勢吧。
鄧詠儀:我聽到一個關鍵詞:可用性。大模型在這兩年裏面相當于打了地基,但是在垂直場景裏面落地的話要做到可用性足夠高,出錯率不能超過多少。如果沒有達到這個層面,很難進入到更復雜的生產環節。
關于這個話題,五位嘉賓都給了非常精彩的回答。最後一個話題,想再回到相對輕松一點的氛圍。説到底雖然現在gap很多,挑戰很大,但是大模型這個事情出來才兩年,所以想請問五位嘉賓,結合自己所在領網域,比如説用一句話簡單展望一下,AI大模型未來還會帶來怎麼樣新的變革,或者説3-5年裏最希望看到AI改變什麼東西?
陳昊天:空間智能變革的不僅僅是機器人,而是大部分的自動化設備,最終會讓自動化設備自主地完成。
艾智遠:我們還是希望大模型能夠重新塑造互動層,改變一些軟體的原有形态,随着大模型落地,企業側、政府側的算力中心建設,也會更多向推理層轉變,希望大模型真的有一天能夠在核心業務上發揮更大價值。
魏天天:我挺認同今天上午一位嘉賓説的一句話,他説我們處理文字的大模型已經跑的很快了,但關于剛才講到的空間這塊,比如説聽覺、視覺還是有很大的市場可以做。
線下端今年的奈飛,他很多的内容也有AI輔助生成的成分,但他馬上在美國,費城、達拉斯要開奈飛樂園,跑到線下去,他要有互動,在這個過程中,我們今天的視覺大模型、聽覺大模型等如果能夠再往前跑一跑,那麼人在線下的互動其實會是非常有想象力的,這是很大的市場。
文皓:在科技寒武紀大爆發時代,AI将深刻的改變我們的生產生活的方方面面,謝謝。
周丹:我們希望AI能夠真正的去重塑客户服務的模式,為用户提供真正無與倫比的服務體驗。
鄧詠儀:感謝五位嘉賓今天給我們帶來精彩的圓桌環節,我相信未來随着大模型的發展逐漸深入,在各行各業,包括在座的各位觀眾生活場景裏面肯定有更多可以體現出來的價值點,也希望明年或者説更久以後,36氪也一直能陪伴這個行業一起成長,感謝各位嘉賓的分享,謝謝大家!