今天小編分享的互聯網經驗：英博數科總經理周韡韡談算力服務平台：英博數科匯集領先客戶助推產業數字化轉型，歡迎閱讀。
2023 年 4 月 26 日，第六屆數字中國建設峰會之 " 有福之州 對話未來——鼓樓論見 算力時代 " 論壇在福建福州舉辦。論壇由中共福州市鼓樓區委、鼓樓區人民政府主辦，新華社國家重點實驗室戰略支持，福州市鼓樓區商務局、鴻博股份、北京英博數科科技有限公司和钛媒體協辦。
英博數科總經理周韡韡表示，ChatGPT 是 AI 作為新一代生產力變革下的生產工具，就像現在每個企業都已經離不開互聯網一樣，不久的未來所有的企業都将完成數字化更新，英博數科作為一個新興的公司敢于挑戰 ChatGPT 和大模型訓練的底氣來自于自身算力的儲備和在 GPU 雲協同工具的開發部署，作為國内少有的提供專業 AI 訓練的算力服務平台，在英博數科的智算平台上已經匯集了在國内外均處于行業領先地位的無人駕駛、大模型訓練方面的客戶，英博數科期待看到這些客戶的落地應用盡快面世，讓大家直接地感受到算力為產業賦能、數字化轉型帶來的加速和改變。
論壇現場，周韡韡還就算力發展對人工智能和每個人工作生活的影響等問題，與英博 ChatGPT 小 e 進行了對話，小 e 是與 OpenAI 同源、英博自行開發語料，利用北京 · AI 創新賦能中心的冗餘算力訓練而成的小參數 AIGC 聊天機器人，目前已經參與到英博數科的各類可行性研發報告整理、文案創作等工作中，并面向部分公共用戶開放免費測試使用。
英博數科總經理周韡韡
以下是周韡韡演講實錄，略經钛媒體 APP 編輯：
各位嘉賓，各位行業大咖，大家上午好！我是英博數科 CEO，也是北京 AI 創新賦能中心的負責人周韡韡。首先在這裡要感謝福州市鼓樓區區委、區政府，感謝這次大會給我們新興企業這麼好的展示平台和承辦會議的機會，再次感謝各位領導的支持。
我們今天的主題是算力時代，算力是最近這個階段在我們生活中高頻出現的一個詞語。究竟什麼是算力？算力能給我們普通人的生產生活帶來什麼改變？我想并不是那麼多人都能像展院長那樣講得如此清楚。于是帶着這樣的疑問，我希望今天借福州有福之州這塊寶地，與英博數科的虛拟管培生小 e 聊一聊這個問題。
小 e 是英博數科在與 ChatGPT2.5 的同源環境下、使用了 Megatron 訓練框架、利用我們北京 AI 創新賦能中心的冗餘算力和自行研發的語料，去訓練出來的一個算是小參數 AIGC 内容生成式的聊天機器人。前面這一串話或許很抽象，那我們不如現場直接請小 e 來介紹一下自己：
小 e 現場演示畫面
這看似很簡單的問題，其實是目前國内鑑定 ChatGPT 真偽的照妖鏡，因為有很多企業只不過是接入了美國 OpenAI 的端口，就号稱自己掌握了這個技術，所以聊天機器人在面臨這樣問題的時候，通常會回答我是 OpenAI，或者來自谷歌，但還好，我們小 e 知道它是來自英博數科的 AI 助理。看來對人類的終極問題 " 我是誰 " 的這個問題，小 e 回答的還 OK。
其實我們今天在這裡，應該說是國内的第一場以現場直播，而不是錄播的形式，來展示企業對 ChatGPT 研究的實際應用。
我們再問一下小 e 你怎麼理解算力，怎麼看待算力時代下英博數科的挑戰與機遇。這個問題有一點長，而且這個問題裡面有復合性以及一系列的疊加性的問題。我們來看一下小 e 的回答是什麼樣。
我們稱 ChatGPT 叫做 AIGC 生成式，就是強調從訓練的開始就使用深度學習和神經網絡，像我們人一樣，對同一個問題，多次的詢問是可以給出多個答案的，這個是非常大區别于我們常見的智能客服。在此我們不如就這個問題再問她一次，看她是給一樣還是不一樣的答案。小 e，請問你如何理解算力時代下英博數科的挑戰和機遇？
我們看到她給出了一個略有不同，但有很高相似度的答案，這說明我們的小 e 目前已經具備了一定的創造力，但肯定還存在繼續訓練和改進的空間的。因為時間關系，我們今天在這裡對小 e 的展示就暫時到這個段落，在這次數字中國的主展區是有小 e 的展台的，感興趣的朋友可以到展區與小 e 做更多直接的互動，我們也非常歡迎大家通過掃碼的方式關注英博數科的公眾号，在裡面可以在後台去申請小 e 的免費測試帳号。
相信通過簡單的展示大家就可以感受到為什麼 ChatGPT 在當下如此的火爆。在過去二十年裡，互聯網從端到端的時代進入到移動互聯網時代，再到現在元宇宙的時代，是湧現了大量優秀應用的，可是為什麼這些應用不能像 ChatGPT 一樣給我們帶來如此高的關注度和震撼感？我覺得這裡可以借用合作夥伴的一個描述：這個技術從出生之後到現在的 100 多天的時間裡，幾乎每天都在帶來一個對自己革命性、颠覆性的更新提升，從來沒有過任何一款應用能夠像 ChatGPT 一樣，給每個 C 端用戶帶來如此鋪面而來的、直觀的衝擊力和震撼感受。
看過剛才小 e 的回答之後，我在這裡也給大家分享下，小 e 已經是參與到英博數科目前很多的内容文案創作工作中，比如兩周之前我們給另外一個福建當地政府提供的智算中心建設規劃，在一周内 1 萬多字的文案出了 5 個不同的版本，就是在小 e 的幫助下完成的，這對我們普通人類工作人員來講的話會是一個很大的挑戰。我們可以看到用自然語言方式與我們溝通的 AI 已經不再是工具屬性，而更是一個陪伴屬性。我們可以看到在不久的将來，這種訪問鏈接一定是會被陪伴所取代，我們常見免費的廣告一定是會被優質的付費内容所取代。有了 ChatGPT 之後，我們每個人就等于擁有了一個無處不在，而且是無所不知的随身助理，一個人加上一個 OpenAI 這樣類型的 ChatGPT，就可以完成一個項目，甚至可以開辦一個公司。這樣的生產效率提升，可以說是又一場工業革命的開始。
當然，這樣颠覆性技術的研發是有非常高的難度系數的，有多難？即使像臉書這樣的企業，哪怕是努力再努力，投入了那麼多人力和财力之後，似乎做出來的應用也不是那麼理想。是什麼樣的原因能夠給英博數科這樣新型的公司有這種挑戰大模型、挑戰自然語言處理、挑戰多模态的勇氣和底氣？應該是算力，是目前我們北京 AI 創新賦能中心是國内少有的可以提供專業 AI 訓練，特别是針對大模型的 GPU 訓練環境的公共算力服務平台。
其實在去年我們投建的時候是面臨一個抉擇的，究竟是選擇數字基建先行還是選擇應用的集成先行，在做選擇過程中如果做數據基建勢必面臨非常重度的資金投資，如果是做集成則有可能是投資更輕，且帶來的市場關注度也會更高。帶着這個疑問，我與我們的顧問，也是剛剛的演講嘉賓數字中國研究院的展院長做了一次溝通，他一句話就點醒了我，他說 " 如果算力不自由，則數據無意義，更多的應用就無法落地，無法產生 "。所以，當時我們就毫不猶豫選擇了重度投資之路，先投建了北京 AI 創新賦能中心，現在不到一年時間回過頭看，再由 ChatGPT 和大模型引爆市場對算力的渴求，尤其是對高端人工智能算力渴求的市場的當下，這個選擇毫無疑問是非常的正确。而且算力的重要性也越來越被更多人所接受。在之前清華大學、浪潮，和國際上 IDC 研究院所推出的報告中，算力指數已經成為繼 ChatGPT 指數之後另外一個全球公認對區網域經濟發展的衡量指标，大家都認為在區網域經濟中每一元錢對算力的投入可以帶來 GDP 三到四元錢的增長，這也是為什麼在最近數字中國建設規劃中政府明确指出對于夯實算力基礎設施以及算力基礎設施建設的程度被列為各地方政府明确的業績考核的指标，因為這一種通過市場化運營的算力是真正能夠幫助到 AI 創新型企業的發展、真正助力到地區產業數字化轉型的。根據我們這一次協辦方钛媒體之前的媒體報道，我們國家在過去若幹年，對算力和數據中心的市場投入超過 8 萬億，可是我們市場仍然面臨着一個算力短缺的問題，這究竟是什麼原因？因為在以往我們的算力大部分投建的數據中心都是以溫冷數據的存調中心為主，就是我們常使用的貴州雲、蘋果雲這樣的平台，在這樣的平台存儲型的算力對 AI 當下的發展的滿足程度非常的有限。應該說市場上的算力短缺是一個相對的概念，其實是指在 AI 上的算力短缺，這種短缺情況還在逐步加劇：市場上的算力需求是每三到四個月可以翻一倍的情況，而根據我們 AI 創新賦能中心平台上的實際反饋，我們的客戶模型的規模幾乎是每個月就會增長 3 到 4 倍的情況。
在這樣的情況下，我們是要把之前的這些存儲型的算力通過數據中心的更新改造變成更多可以直接轉化成 AI 時代生產效率的算力。我們北京的 100P 算力在一期投建完成之後，短短的時間内已全部售罄，目前我們正在計劃一個 30 到 40 倍的規模擴容，而且這一部分的算力，80% 以上現在都已經被售出了。
講到這些的時候會有在座嘉賓好奇，算力需求如此火爆，你為什麼還有冗餘的算力去訓練小 e？我覺得這個問題也是市場和很多調研機構在跟我們私下溝通的時候經常會問到的問題。這裡可以向大家介紹我們接下來工作中的重中之重：我們即将推出的搏博雲服務 ( BOB Cloud ) 的解決方案。算力需求是不會一直處于一個峰值狀态的，就像在電力系統中，我們會對電力進行削峰填谷和平衡調度，這種方式在算力的服務上也同樣适用。我們在這個階段搏博雲上首先要滿足的是通過善用彈性計算，來進行一個對 GPU 的雲調度，例如在一台 5P GPU 算力的伺服器上，就可以實現 56 個實例同時并行訓練。在下一個階段，根據我們了解到的大模型客戶的一些痛點，這些大模型客戶在面對 GPU 計算需求的時候會把任務放在不同的雲平台上進行，比如放在阿裡雲一個模型，同時另外一個是放在亞馬遜雲的，這也是為了他們本身的項目安全。在這樣的情況下，跨雲的溝通成為了一個剛性的需求，而且人工智能的算力在進行 GPU 訓練的時候也要面臨大量的 CPU 對數據的清洗和管理的工作。在這個時候如何協同 CPU 和 GPU 的高效協同和訓練效果，就成為我們客戶的一個必須的剛性需求，這個也是我們接下來的搏博雲需要解決的跨雲溝通，和在 GPU 和 CPU 上協調訓練的需求。
目前在北京 AI 創新賦能中心和搏博雲的平台上，已經有包括例如自動駕駛、量化交易訓練等這樣的大模型訓練，這些全球頂尖解決方案客戶的入駐已經帶來了大量實際應用。我們也特别期待通過我們對算力的擴容，通過我們加強自己的互動的能力，能夠早日實現平台用戶和更多創新型企業的算力自由，早日看到他們能出現對标工業時代像飛機、輪船、火車這樣的跨時代的大模型應用的出現，早日真正實現我們國家企業的算力自由，也早日實現我們英博數科的企業夢想：匯聚全球頂尖科技，助力中國產業數字化轉型。
以上是我的分享。謝謝各位！
更多精彩内容，關注钛媒體微信号（ID：taimeiti），或者下載钛媒體 App
