大酷樂
  • 汽車
  • 理财
  • 軍事
  • 科技
  • 遊戲
  • 互聯網
  • 娛樂
  • 财經
  • 科學
  • 社會
  • 親子
  • 電影
  • 健康
  • 教育
  1. 首頁
  2. 科學

大模型一體機塞進這款遊戲卡,價格砍掉一個數量級

2025-04-10 简体 HK SG TW

今天小編分享的科學經驗:大模型一體機塞進這款遊戲卡,價格砍掉一個數量級,歡迎閱讀。

家人們,你知道近段時間大火的各種大模型一體機,裡面到底是什麼卡嗎?

相信很多小夥伴的第一反應,或許就是 N 卡。

但在我們接觸、體驗了真實的大模型一體機之後,發現了一個大寫的" 萬萬沒想到 ":

沒錯,裡面也可以是英特爾的銳炫™   顯卡!

那這性能到底能不能跟上呢?

帶着這個問題,在體驗之餘,我們還 " 抓 " 來了一個正在為這種一體機開發方案的軟體公司進行了一番 " 盤問 "。

這家公司叫飛致雲,主要是把大模型一體機用在了自家的MaxKB上(一款基于大語言模型的知識庫問答系統)。

他們是把 4 張銳炫™   A770 顯卡和 2 張 N 卡放到一起,做了一下對比測試:

對于同一個相對規模較大的任務,搭載 N 卡的一體機大約耗時半小時,而搭載銳炫™   A770 顯卡的一體機則需要 50 分鍾。

但是!

買半張 N 卡的錢,就能輕松搞定 4 張銳炫™   顯卡。

由此,飛致雲給出了這樣一個結論:

基于銳炫™   A770 顯卡的大模型一體機,在性價比上真的是太香了。

它非常适合 30-50 人規模的團隊來使用。

一個 " 性價比 " 關鍵詞,道破了為什麼大模型一體機裡面會出現英特爾遊戲卡。

畢竟之前企業要私有化部署一個目前最流行的 DeepSeek 一體機,那個價格可是動辄便破百萬元。

但現在,英特爾靠着自家的遊戲卡,把這個價格直接就砍掉一個數量級。

因此,現在的大模型一體機,有了另一種更高性價比的選擇。

而且有一說一,除了一體機本身,若是聚焦在AI 推理的任務上,現在可以說是處處都有銳炫™   顯卡的影子。

搞 AI 推理,請記住全新英特爾 GPU+CPU 組合

首先要說明的一點是,搞大模型一體機,英特爾靠的不僅僅是自家遊戲卡那麼簡單。

它的背後其實是一記組合拳的模式:

英特爾銳炫™   顯卡  +  至強 ®  W 處理器。

  銳炫™   顯卡在這裡面的角色不用多說,主要是推理的" 加速器 "。

而至強®  W 處理器不僅能充當 "大腦" 的角色,來負責通用計算與系統協調,還能在一些開源軟體平台,如 KTransformer 或英特爾自己開發的工具,如 FlashMOE 的幫助下,與顯卡協作進行異構加速,例如在 DeepSeek 中承擔一些稀疏 MOE 的處理工作。

為了充分發揮銳炫™ 顯卡的能力,英特爾通過優化顯存帶寬(如 A770 卡間通信達 20G/ 秒)和低時延技術(如内存拷貝優化),解決了多卡并行時的性能損耗問題,提升了吞吐量(如 70B 模型支持 12 路實時聊天)。

即便對于不同規模場景,英特爾也能做到适配——從供 AGI 開發人員使用的工作站(2 卡)到裝載 4 卡或 8 卡的大尺寸一體機,能滿足多樣化且差異化的需求。

例如我們剛才提到的飛致雲的MaxKB,在知識問答、智能客服、内容生成、文檔合規檢查等場景中就實現了效率提升、成本優化和風險控制。同時依托高性能硬體解決了 AI 模型私有化部署與算力需求問題。

除此之外,我們發現還有好多企業都在選擇構建英特爾這對 CPU 與 GPU 組合的一體機系統、軟體或整體解決方案。

超雲,便是其中之一。

超雲基于英特爾的平台,打造了三種不同形态的設備。 

例如适應普通辦公環境的塔式工作站、小型液冷一體機,支持包含英特爾銳炫™   顯卡在内的 2-4 張 GPU 卡。

再如最高可配 8 卡的大尺寸高端一體機,可運行 32B-70B 參數規模的大模型。

據了解,所有這些機型都已經投入到了實際使用當中,主打:

企業内部 AI 助手:超雲自身使用開源模型搭建知識庫系統,實現自動化報價、報銷審批;

金融行業智能投顧:基于 32B 蒸餾模型,提供實時數據分析與投資建議;

海量文檔處理:使用智能 OCR+ 大模型,實現公文自動歸檔與檢索。

與之類似的還包括雲尖。

它推出邊緣推理工作站,支持 4 張 GPU 卡,适用 7B-32B 輕量化模型,可以滿足文檔 OCR、智能質檢等企業本地化 AI 應用。

此外,已經 pick 英特爾平台的一體機解決方案還有很多,未來可能還會有更多,而如此多合作夥伴的一致選擇,也就不難從側面印證一點:

不論是單純的 AI 推理應用,亦或是融合了推理及各種可視化生產力應用的復合場景,英特爾這套組合拳,已然成為了一種業界公認的、高性價比的新選項。

一體機,為什麼紛紛選擇英特爾平台?

自春節前 DeepSeek-R1 驚豔亮相,經過兩個多月的沉澱,從行業落地情況來看,明顯呈現出一個趨勢:

越來越多的企業選擇以一體機的形式将 DeepSeek 融入業務。而這一趨勢,也在影響其他大模型落地的 " 姿式 "。

而部署速度快,正是這一趨勢得以率先顯現的原因。

一方面,得益于一體機開箱即用且方便為各垂直行業深度定制化的特點,預裝模型、優化軟硬體協同,讓企業無需自行復雜調試。

另一方面,啟動成本低的優勢讓企業能先用一體機把大模型跑起來,再慢慢迭代。

當然,對于眾多企業而言,在選擇一體機時,除了追求速度優勢之外,實際上還有着更多深層次、全方位的考量因素,這些因素綜合起來影響着企業的決策:

性能與成本更平衡,運營成本降低

一體機可實現性能與成本的精妙平衡,其憑借強大高效的硬體配置和優化的軟體系統,為企業提供穩定高效算力,滿足業務需求,避免使用雲算力的持續費用,降低運營成本。

運維簡化

傳統 IT 系統由多種硬體設備和軟體系統組成,運維管理復雜繁瑣,企業需投入大量人力、物力和時間進行安裝、配置、維護和更新。而一體機将軟硬體深度集成為統一整體,簡化了運維流程,企業統一管理維護即可應對業務需求和技術挑戰,運維效率大幅提高,而管理難度和成本都顯著降低。

穩定可靠

對 AI 業務而言,連續性和穩定性很重要。一體機軟硬體經嚴格集成測試與優化,能在復雜環境長時間穩定運行。同時可以專機專用,避免雲服務在高峰期造成速度和可用性上的波動。

英特爾所推出的銳炫™   顯卡與至強 ®  W 處理器的組合,正是一套滿足以上因素的極具潛力的解決方案。

像這樣的配置,不光能夠很好地支持 DeepSeek R1 系列,同時還與 Qwen、Baichuan、Llama 等多個開源模型兼容适配。

這意味着在不同的應用場景和業務需求下,這個組合都能靈活應對,為企業帶來多樣化的選擇和更豐富的功能體驗。

這些選擇,這些體驗,目标都只有一個,那就是 AI 普惠或者說AI 無處不在。

站在歷史的角度,一體機要承擔的使命,正是要将強大的 AI 模型引入各行各業,這與計算機從大型機時代發展至個人電腦(PC)時代的進程類似。

包括 DeepSeek 在内的大模型前沿創新企業選擇開源,是激發這一進程的起點,而整個進程能否迅速演進,就要靠全行業的共同參與了。

英特爾在此時,就像穿越回了上世紀 80 年代,那時它曾憑借開放架構和高性價比方案重新定義了 PC,并拉着全球的合作夥伴們一手促成了 PC 真正意義上的 " 個人化 " 普及,而今,到了在 AI 世界復刻這一成功經驗的時候了。

熱門排行
  • 王治郅:楊瀚森主要的問題是速度 他的速度跟不上現代籃球的節奏 王治郅:楊瀚森主要的問題是速度 他的速度跟 郟君昊 | 2025-05-05
  • 貿易戰燒進電影院:特朗普拟重稅打擊外國電影 逼好萊塢等回美拍片 貿易戰燒進電影院:特朗普拟重稅打擊外國電影 習又夏 | 2025-05-05
  • 貸款追高炒黃金的人後悔了!有人一天虧掉6年工資,賣掉舍不得,不賣扛不住 貸款追高炒黃金的人後悔了!有人一天虧掉6年 寸飛蘭 | 2025-05-05
  • 手機電池突破8000mAh?矽碳技術的回旋镖:「折壽」換容量 手機電池突破8000mAh?矽碳技術的回旋镖:「折 衛青柏 | 2025-05-05
  • 貸款追高炒黃金的人後悔了!有人一天虧掉6年工資,賣掉舍不得,不賣扛不住 貸款追高炒黃金的人後悔了!有人一天虧掉6年 繁綺文 | 2025-05-05
  • 任天堂對Genki提起Switch 2商标侵權訴訟,後者回應稱将嚴肅對待 任天堂對Genki提起Switch 2商标侵權訴訟,後 郜萌運 | 2025-05-05
  • 哪吒汽車APP和官網恢復正常 知情人士:之前斷網因流量欠費 哪吒汽車APP和官網恢復正常 知情人士:之前斷 袁曼雁 | 2025-05-05
  • 極越汽車 CEO 夏一平名下青島/義烏兩家公司被列入經營異常 極越汽車 CEO 夏一平名下青島/義烏兩家公司 集玲琳 | 2025-05-05
  • 全國經濟第一大省明确,推動組建農商聯合銀行 全國經濟第一大省明确,推動組建農商聯合銀行 佼昌翰 | 2025-05-05
  • 桑保利:亞馬爾有配合意識&有點像梅西 姆巴佩更專注進球&更像C羅 桑保利:亞馬爾有配合意識&有點像梅西 姆巴佩 甄正浩 | 2025-05-05
  • 高露現身上海虹橋機場 黑色外套點綴亮色愛心裝飾俏皮亮眼 高露現身上海虹橋機場 黑色外套點綴亮色愛 惠惠君 | 2023-05-02
  • 《歧路旅人2》:向光而生 《歧路旅人2》:向光而生 衛青柏 | 2023-05-02
  • vivo X90S曝光:處理器更新為天玑9200+ 安卓最強芯 vivo X90S曝光:處理器更新為天玑9200+ 安卓最 袁曼雁 | 2023-05-05
  • “懶癌”發病率上升,定期體檢别忽視 “懶癌”發病率上升,定期體檢别忽視 幸聽楓 | 2023-05-02
  • 曹操墓,裡面都有啥? 曹操墓,裡面都有啥? 衛青柏 | 2023-05-02
  • 宋慧喬獲百想視後 韓素希發圖手動加愛心表情慶祝 宋慧喬獲百想視後 韓素希發圖手動加愛心表 賁芳蕤 | 2023-05-02
  • 十年了,他們終于要HE! 十年了,他們終于要HE! 惠惠君 | 2023-05-07
  • 中央部署經濟工作,釋放5大信号 中央部署經濟工作,釋放5大信号 郜萌運 | 2023-05-02
  • 高德上線手機彎道會車預警功能 高德上線手機彎道會車預警功能 習又夏 | 2023-05-02
  • 陳自瑤抱病為愛女做蛋糕慶生,王浩信點贊沒露面 陳自瑤抱病為愛女做蛋糕慶生,王浩信點贊沒露 賁芳蕤 | 2023-05-02
  • 《雲襄傳》終于抬上來啦,男O女A讓人好上頭! 《雲襄傳》終于抬上來啦,男O女A讓人好上頭! 集玲琳 | 2023-05-02
  • 等比例長大的童星,李蘭迪算一個 等比例長大的童星,李蘭迪算一個 郟君昊 | 2023-05-02
  • 這些被抓來做實驗的流浪狗,最終拯救了無數糖尿病人 這些被抓來做實驗的流浪狗,最終拯救了無數糖 集玲琳 | 2023-05-02
  • 普京籤署總統令,批準對俄刑法典相關法條的修正案 普京籤署總統令,批準對俄刑法典相關法條的修 集玲琳 | 2023-05-02
  • 高端國產車:軍車血統,目前電動車越野的“天花板”? 高端國產車:軍車血統,目前電動車越野的“天花 謝飛揚 | 2023-05-02
  • 21家A股遊戲公司2022年收入651億 今年“遊戲+AI”能否逆風翻盤? 21家A股遊戲公司2022年收入651億 今年“遊 衛青柏 | 2023-05-04
  • 與周立波夫婦鬧糾紛成老賴,唐爽被司法拘留15日 與周立波夫婦鬧糾紛成老賴,唐爽被司法拘留15 寸飛蘭 | 2023-05-05
  • 信用風險釋放趨緩,結構性風險需重點關注 ——2023年一季度債市信用風險回顧與下階段展望 信用風險釋放趨緩,結構性風險需重點關注 — 袁曼雁 | 2023-05-02
  • 解除資格!停止一切合作 解除資格!停止一切合作 佼昌翰 | 2023-05-02
  • 3699起 聯想小新mini主機上架 13代酷睿标壓處理器 3699起 聯想小新mini主機上架 13代酷睿标壓 習又夏 | 2023-05-05
  • 中銀證券給予南京銀行增持評級 中銀證券給予南京銀行增持評級 袁曼雁 | 2023-05-03
  • 前董事長被免,天山生物全面進入“中植系”時代?股價曾在一月内暴漲超400% 前董事長被免,天山生物全面進入“中植系”時 惠惠君 | 2023-05-02
  • 瘋成這樣,怎麼還能被全網吹捧? 瘋成這樣,怎麼還能被全網吹捧? 郜萌運 | 2023-05-02
  • 狂吼11次“讓一下”!交警咆哮開道嘶吼到吐 狂吼11次“讓一下”!交警咆哮開道嘶吼到吐 寸飛蘭 | 2023-05-03
  • 摩根大通收購美國第一共和銀行 摩根大通收購美國第一共和銀行 謝飛揚 | 2023-05-02
  • 台劇赢麻了,又來一部8.9 台劇赢麻了,又來一部8.9 衛青柏 | 2023-05-02
  • 事關農村土地承包和農民權益,《農村土地承包合同管理辦法》5月1日起施行 事關農村土地承包和農民權益,《農村土地承包 郟君昊 | 2023-05-02
  • 下降45分,上漲35分!34所自劃線院校復試分數線漲幅匯總 下降45分,上漲35分!34所自劃線院校復試分數線 袁曼雁 | 2023-05-07
  • "三高"已盯上青少年,做好這件事是關鍵 "三高"已盯上青少年,做好這件事是關鍵 習又夏 | 2023-05-05
  • 五一檔沒一個能打的 五一檔沒一個能打的 集玲琳 | 2023-05-05
  • 恐怖韓劇下神壇,這次膽小可入 恐怖韓劇下神壇,這次膽小可入 袁曼雁 | 2023-05-05
  • 200戶連夜疏散,原因讓人憤怒!“損失超一億”,官方通報 200戶連夜疏散,原因讓人憤怒!“損失超一億”, 袁曼雁 | 2023-05-03
  • 這劇是不是用ChatGPT寫的呀? 這劇是不是用ChatGPT寫的呀? 惠惠君 | 2023-05-02
  • 性騷擾慣犯,滾出娛樂圈 性騷擾慣犯,滾出娛樂圈 謝飛揚 | 2023-05-05
  • 48歲何炅自曝已老花眼,黃磊睡前認老,《向往的生活》證實将停辦 48歲何炅自曝已老花眼,黃磊睡前認老,《向往的 佼昌翰 | 2023-05-02
  • 一個《長月燼明》倒了,《狐妖》《長相思》《與鳳行》…在路上了 一個《長月燼明》倒了,《狐妖》《長相思》《 惠惠君 | 2023-05-02
  • 當年輕人開始不随份子錢 當年輕人開始不随份子錢 袁曼雁 | 2023-05-02
  • 張天愛假期曬“酷”存照 卷發披肩穿黑色吊帶裙大秀好身材 張天愛假期曬“酷”存照 卷發披肩穿黑色吊 嬴覓晴 | 2023-05-02
  • 畢滢用8年時間成功逼宮?曾被傳已婚生子的她,不容小觑 畢滢用8年時間成功逼宮?曾被傳已婚生子的她, 幸聽楓 | 2023-05-03
  • 宋慧喬獲視後首次曬照,拿獎杯笑容溫柔 宋慧喬獲視後首次曬照,拿獎杯笑容溫柔 郜萌運 | 2023-05-02

©2022 大酷樂 版權所有

隱私政策 | 服務條款 | 聯繫我們