今天小編分享的科學經驗:“元腦企智”EPAI:讓企業AI應用從“手工作坊”到“工廠高精產線”,歡迎閲讀。
長假過後,總會有不少職場人患上 " 節後綜合征 ",不僅上班打不起精神,連自己以前是幹什麼的都快忘了。
這時候,大家特别羨慕鋼鐵俠,可以把各種瑣碎的事情都交給智能助手 " 賈維斯 " 來完成,自己只管發明創造、實現自我。
但開發專屬于自己的 " 賈維斯 ",這就難倒了不少人。
我們曾報道過,浪潮信息的 " 元腦企智 "EPAI(Enterprise Platform of AI),可以高效開發部署生成式 AI 應用。實際效果到底如何?很多讀者特别好奇。
最近我們得知,浪潮信息售前部門使用 " 元腦企智 "EPAI,一群不懂編程的售前人員,靠自己完成了大模型精調、知識庫、RAG 等技術活,手搓出了 AI 助手 " 元小智 "。
在其他銷售人員節後狀态還沒恢復,為招投标書的文山會海而苦惱時," 元小智 " 可以幫助浪潮信息售前進行招投标的文檔閲讀、分析、處理和生成,讓售前人員可以輕裝上陣,堪稱是攻克 " 節後綜合征 " 的最強助攻。
與其羨慕電影虛構的鋼鐵俠,不如把目光放到現實中,放到這群剛剛給自己手搓了一個 AI 助手的浪潮信息售前人身上。從他們的職場故事中,找到也能讓自己化身 " 超級英雄 " 的助攻力量。
鋼鐵俠和超級英雄們的故事,總會從拯救一場地球甚至宇宙的危機開始。而浪潮信息售前人員,都是一群不懂編程、以前也從沒幹過 AI 開發的人,當他們決定自己動手開發 AI 助手,還真有點超級英雄們 " 雖萬難而吾往矣 " 的精神了。
那麼,他們又遇到了什麼危機呢?
售前崗位的核心價值是理解客户需求,敏鋭洞察市場,并将公司的產品方案,通過強大的溝通技巧,撰寫适配于客户需求的解決方案,并與之深度交流讨論。然而現實中,售前人員并不能将所有時間精力都投擲在需要發揮創造力、溝通力的工作内容上。
他們面臨着 " 三座大山 ":
任務多。每天閲讀和分析冗長的招标檔案,随時關注并跟進市場的最新動态,對齊投标檔案的格式、檢查錯漏等,重復枯燥,耗時耗力。
壓力大。一個招标項目往往只有一兩周的時間,售前人員要在有限的時間内完成工作,加上商務信息敏感,不能假手于人,時間精力不夠,工作壓力山大。
開發能力要求高。大模型爆火之後,售前部門意識到,文本整理、信息搜集、數據查詢類大量的重復低效工作,都可以交給 AI 自動化完成。但是,由于 IT 售前技術名詞多、術語多、專業技能要求高的崗位,有大量的知識 know-how 沒有被文本化,通用大模型學不到。此前沉澱的售前數據,包含了各種格式的文檔,還需要進一步處理才能被大模型所用,而這些開發步驟所涉及的技能,超出了售前人員的能力邊界。
這種情況下,售前人員一開始想呼叫援助,找軟體部門幫忙,但是,浪潮信息内部的智能化更新也很迅猛,很多業務部門都在擁抱 AI 大模型,來改造工作流,開發人員的需求已經排長隊了。而且,售前 AI 助手的開發,還需要業務和開發一起碰需求、定方案、敲細節,雙方團隊你等我、我等你,不知道要等到什麼時候。
移除售前工作中的 " 三座大山 ",浪潮信息售前部門急需自己動手,來打造一個類似于 " 賈維斯 " 的專屬 AI 助手,把自己寶貴的精力從繁瑣工作中解放出來。
這時候,售前部門想到了浪潮信息已經發布的一站式工具賦能平台 " 元腦企智 "EPAI。
在元腦企智 EPAI 全棧技術的助力下,不懂編程的售前人員,只靠 1 人 1 月,就完成了模型微調、應用開發和發布,打造出了智能售前助手 " 元小智 "。
并且," 元小智 " 能力強大,身兼數職。" 元小智 " 可以是秘書,幫助業務人員一鍵處理招标檔案,對招标檔案中的重要信息進行全面且準确地解讀;可以是百科全書,為售前人員快速進行浪潮信息全系列在售產品及方案的查閲,生成產品優勢、核心參數等信息,輕松應對客户問題;可以是搜索引擎,為售前人員快速掌握業界資訊與競品信息,把更多時間放在需求洞察、競品分析、方案定制、客情維護等更高價值工作上。
售前人員終于可以像鋼鐵俠一樣,把後背交托給 AI 助手,自己去馳騁職場了。
是什麼讓售前人員無懼 AI 應用開發?
究其原因,是元腦企智 EPAI 具備 " 上手快 "" 精度高 "" 易部署 "" 安全可靠 " 四大特點,而這恰好滿足了售前部門在各個開發階段的需求。
數據準備環節:
售前 AI 助手需要專業、全面地了解分析公司產品和招投标文檔,而產品資料、解決方案、招投标項目書與行業報告等檔案,涉及各種模态和數據格式,有的是結構化數據,比如產品參數表格;有的是非結構化數據,比如客户溝通紀要,要想充分利用起來這些信息,就得構建專用知識庫。
售前人員借助 " 元腦企智 "EPAI 的數據處理工具,對結構化數據進行自動解析,轉化為标準格式的知識庫條目;對非結構化數據,也能自動提取有用信息并進行高效存儲。
最終,從 1500+ 的 pdf、docx、doc、xls 等多種格式在内的數據中,構建了 8 大業務線全部在售產品的知識庫。
微調環節:
有了售前知識庫,通用基礎大模型相當于上了專業課,但還沒有經過職場歷練,不懂招投标工作中的真實業務邏輯,所以還需要微調。
微調過程中,售前人員需要做兩件事:一是基于業務真實數據,構建高質量的微調數據集,涉及數據的清洗、過濾等準備工作;二是微調,要經過多次調參,不斷迭代,找到最佳的微調效果。其中涉及的繁瑣工作也并不少。
售前人員利用元腦企智 EPAI 的全鏈路數據治理工具,首先完成了數據生成,從種類多樣、場景復雜、規模龐大的招投标檔案、產品信息、行業報告中,自動抽取生成微調數據。接下來,借助評判大模型,對生成的每一條微調數據進行自動打分,剔除低質量數據,最終形成了數十萬條高質量微調數據。然後,再利用零代碼微調工具進行模型微調,實現模型專業能力提升。
產品功能環節:
通過知識庫和微調,售前人員擁有了符合業務需求的招投标大模型,但大模型是很難被業務人員直接使用起來的,還必須經過產品化、功能性開發,讓 AI 好用、易用。此外,在日常使用中,還需要考慮到招投标的信息敏感性,實現 AI 應用的安全可靠。
這一系列問題,通過元腦企智 EPAI 也得到了很好地解決。平台提供的多種應用開發工具,支持多種參數的設定、修改。内置的對話式應用支持多輪對話、長文本分析、單文檔對話、網絡檢索等互動功能,可以滿足使用大模型的多種功能需求。
同時支持本地化部署,企業可以通過元腦企智 EPAI,完成大模型應用的私有化本地開發、部署,在确保數據絕對安全的同時保證應用的高可用。
所以,總結一下 " 元小智 " 在元腦企智 EPAI 上的開發特點:
1. 快速。用時短,效率高,很快完成應用的研發上線。
2. 專精。結合了售前專有數據和知識庫,讓 AI 應用真正成為生產力工具。
3. 極簡。零基礎、零門檻也可上手開發。
" 自己的降落傘自己先跳 ",浪潮信息售前人員用元腦企智 EPAI 為自己打造了一個解放職場生產力的 AI 助手,似乎是理所應當的。
我們能從中學到什麼呢?
通過 " 元腦企智 "EPAI ,AI 應用開發已經從軟體開發工程師才能搞定的 " 職人技 ",變成了自動化、标準化生產的工業品。
也就是説,規模化批量制造 " 賈維斯 ",和其他各種 AI 應用,已經不再遙遠了。
當前 AI 在各行各業的整體滲透率不到 10%,大模型落地的最大阻礙,就在于懂業務的人不懂、不會 AI 開發,導致大量企業的獨特需求,以及長尾場景的定制需求,無法被充分滿足。
AI 大模型想要在千行萬業中落地,迫切需要改變生產模式,從編程人員的 " 職人技 ",變成普通人也能輕松搞定的 " 工廠高精產線 "。
這正是 " 元腦企智 "EPAI 想要解決問題,從售前手搓 " 元小智 " 來看,确實做到了。怎麼把 AI 應用開發的門檻打下來,浪潮信息用了三步:
第一步,細致拆解,所以全面。通過細致拆解,搞清楚 AI 應用開發工作流的每一步都包含哪些内容,以及每一個環節可能遇到的開發難點是什麼。舉個例子," 元腦企智 "EPAI 的工具顆粒度,細致到了某一個開源或閉源模型怎麼調,一個問答對怎麼構建,都進行了全面的考量,這就減少了普通人在 AI 應用開發中遇到問題而中途放棄的可能性。
第二步,标準化,所以高效。拆解完成之後," 元腦企智 "EPAI 對 AI 開發中可以被自動化、标準化的步驟,進行了工具研發,比如數據準備、模型訓練、知識檢索、應用框架等,都有趁手的工具,減少開發工作量,提高開發效率,縮短開發周期。
第三步,全鏈貫穿,所以有實效。我們都知道,全鏈路貫通可以發揮出 1+1>2 的效果,讓生產效率指數級增長。試想一下,如果開發者不得不在 A 工具上清洗數據,在 B 平台上訓練模型,在 C 平台上進行部署,中間會帶來多少兼容性問題、中斷和等待?所以,AI 應用開發必須全鏈路貫通," 元腦企智 "EPAI 端到端開發平台的特性,讓企業人員的 AI 應用開發過程暢通無阻,真正提高生產力,發揮出提質增速的實效。
當将 AI 應用開發變成 " 工廠高精產線 ",千行百業的創造力才能被充分釋放出來,真正擁抱 AI 和大模型,開啓規模化普及時刻。
所以,元腦企智 EPAI 可能是 AI 應用最理想的生產車間。
科幻電影中,人類社會遭遇的許多危機,最終都只有靠人的創造力、勇氣與情感才能應對。鋼鐵俠需要多個 AI 助手,來讓自己更專注于跟夥伴合作、解決復雜問題。
從這個角度講,越來越多的人憑借元腦企智 EPAI,加入 AI 應用開發的行列,化身智能時代的 " 超級英雄 ",我們将會進入一個人類創造力大爆發、AI 生產力大爆發的全新階段,将曾經和未來的危機都一一解決,人機協作的新世界會更美好。