今天小編分享的科學經驗:比LoRA更高效的模型微調方法來了——以常識推理為例,在參數量減少 8~16 倍的情況下,兩種方法能達到相同效果。新方法名叫LoRA-Dash,由來自上海交通大學和哈佛大學的研究人員提出,主要針對特定任務微調模型往往需要大量計算資源這一痛點。研究完成的主要工作是:對高效微調過程中的 TSD(Task,歡迎閱讀。…
今天小編分享的科學經驗:比LoRA更高效的模型微調方法來了——以常識推理為例,在參數量減少 8~16 倍的情況下,兩種方法能達到相同效果。新方法名叫LoRA-Dash,由來自上海交通大學和哈佛大學的研究人員提出,主要針對特定任務微調模型往往需要大量計算資源這一痛點。研究完成的主要工作是:對高效微調過程中的 TSD(Task,歡迎閱讀。…
今天小編分享的科學經驗: 無雲世界秋三五,共看蟾盤上海涯。 在中國文化中,中秋節是團圓的節日,同時也是表達友誼與思念的節日。同在一輪明月下,全球各區網域的企業機構能夠跨越時區,跨越地理與語言的界限,達成緊密合作。這或許就是獨屬于數智時代的 萬裡共婵娟 。談到數智世界的合作,不能不提到技術密集型行業——金融,尤其是全,歡迎閱讀。…
今天小編分享的科學經驗:OpenAI 用 o1 開啟推理算力 Scaling Law,能走多遠?數學證明來了:沒有上限。斯隆獎得主馬騰宇以及 Google Brain 推理團隊創建者 Denny Zhou 聯手證明,只要思維鏈足夠長,Transformer 就可以解決任何問題!通過數學方法,他們證明了 Transforme,歡迎閱讀。…
今天小編分享的科學經驗:提及無人機,我們腦海中往往浮現出它們在廣闊天空中自由翱翔的畫面。然而,有一個特殊的領網域正等待着無人機去探索,那就是深邃而神秘的隧道。在隧道中,衛星信号被屏蔽,傳統的導航方式失去了作用,這就如同讓無人機在黑暗中迷失了方向。但科技的力量是強大的,隧道無人機的無衛星信号自主導航技術,如同為無人機裝上了一雙,歡迎閱讀。…
今天小編分享的科學經驗:新型圖基礎模型來了——AnyGraph,基于圖混合專家(MoE)架構,專門為實現圖模型跨場景泛化而生。通過 MoE 架構、路由算法、SVD 方法和 MLP 網絡等,AnyGraph 解決了跨網域和網域内圖異構性問題,并進行了高效跨網域模型訓練。能夠精準建模多樣化的結構模式和特征空間。在38 個不同領網域數據,歡迎閱讀。…
今天小編分享的科學經驗:伏羲,華夏民族人文先始,三皇之一,是神話故事中人類的始祖。他在勞動技能低下的漁獵時代,發明了捕魚、捕獸、捕鳥的網罟,開創了畜牧養殖業。近日,以伏羲命名的 伏羲一号 在廣東汕尾成功建成并投入運營,引起外界廣泛關注。 伏羲一号 是一種超大型風漁融合網箱平台,該平台建于中國南海開放海網域,可正,歡迎閱讀。…
今天小編分享的科學經驗:自從Ilya Sutskever的名字出現在 OpenAI o1 背後團隊名單中,他在 o1 中發揮了哪些作用,一時間成為不少網友的關注焦點。這不,機器學習工程師 Rohan Paul 剛剛發帖表示,去年 5 月份 Ilya 合著的一篇論文不能錯過。論文題為 Let ’ s Verify Step,歡迎閱讀。…
今天小編分享的科學經驗:南方的油皮和痘肌女孩,你們還好嗎?北京今年雨水多的啊,熱乎乎,潮乎乎,渾身黏糊糊,讓我體驗了一把南方小夥伴們蒸桑拿的溼熱,我這個大油皮也進入了困難模式。高溫刺激着油脂瘋狂分泌,早上出門沒一會兒就油光滿面,一到下午就撞臉豬剛鬣,睡前剛洗的頭,早起劉海就打了绺 ......來不及代謝的油脂、廢舊角質堆積,歡迎閱讀。…
今天小編分享的科學經驗:大家好,這裡是環境小喇叭欄目的第 18 期。這一期,我們為大家搜羅了以下值得一看的環境研究和新聞:1)希臘幹旱,水下村莊重出水面2)把湖染成粉色!竟然是為了科學……3)中秋月餅,用空氣做的?4)鐵打的泰坦尼克号,快要消失了5)汽車也要無線充電?充電樁:我自由啦!希臘幹旱,水下村莊重出水面前有龐貝古城,歡迎閱讀。…
今天小編分享的科學經驗:( ⊙ _ ⊙ ) 每天一篇全球人文與地理微信公眾号:地球知識局NO.2676- 中國人湧入土耳其文字:那日蘇 制圖:板栗 / 校稿:辜漢膺 / 編輯:板栗今年,外國人來中國旅遊的 China Travel 非常火爆,144 小時過境免籤的政策吸引了大量來華的外國遊客。那麼,中國遊客現在出國喜歡去,歡迎閱讀。…
今天小編分享的科學經驗:在我國南部地區的野外或公園中,常會遇到天南星科(Araceae)海芋屬(Alocasia)多年生觀葉植物海芋(Alocasia odora),四季常綠、株型優雅,極具觀賞價值。作為林下草本植物,海芋的葉片為了能獲取林冠透下的光斑,在經歷了長期進化後,葉片變得越來越大,如今的長寬可達 1m 以上。海芋,歡迎閱讀。…
今天小編分享的科學經驗:拔草星人的好消息來啦!中科院自動化所和阿裡雲一起推出了街景定位大模型,只要一張照片就能實現街道級精度的定位。有了模型的幫助,再也不用害怕遇到種草 謎語人 了。比如給模型看一張舊金山的街景之後,它直接給出了具體的拍攝位置,并列舉了附近的多個候選地址。該模型名為 AddressCLIP,基于 C,歡迎閱讀。…
今天小編分享的科學經驗:小型創業團隊打造的 最強開源模型 ,發布才一周就被質疑造假——不僅官方宣稱的成績在第三方測試中大打折扣,模型還被質疑套殼 Claude。面對浩大的聲浪,廠商 CEO 終于發文道歉,但并未承認造假,表示在調查有關原因。被指控造假的,就是宣稱 幹翻 GPT-4o 的 70B 開源大模型 Re,歡迎閱讀。…
今天小編分享的科學經驗:OpenAI 傳說中的 草莓 終于正式上線!不僅可以勝任更復雜的推理任務,在數學、代碼和其他科學領網域也能解決更難的問題。OpenAI 這次 無預警發布 震撼了科技圈,o1 更是被 CEO 奧特曼稱它為了一種新範式的開始。發布之後,各路大神和網友都紛紛用各種問題測試 OpenAI o1,歡迎閱讀。…
今天小編分享的科學經驗:警告!不要在 ChatGPT 裡問最新 o1 模型是怎麼思考的——只要嘗試幾次,OpenAI 就會發郵件威脅撤銷你的使用資格。請停止此活動,确保您使用 ChatGPT 時符合我們的使用條款。違反此條款的行為可能導致失去 OpenAI o1 訪問權限。大模型新範式 o1 橫空出世不到 24 小時,就已,歡迎閱讀。…
今天小編分享的科學經驗:好羨慕!原來早在 8 月份,陶哲軒就已經用上了 OpenAI o1。還是現在大家都用不上的滿血版本(眼淚不争氣地從嘴角流出來)。提前批大佬是怎麼玩最新天花板的呢?他向 o1 模型提出一個措辭模糊的數學問題,發現它竟然能成功識别出克萊姆定理。而且答案是 完全令人滿意的 那種。當然,陶哲軒還做了,歡迎閱讀。…
今天小編分享的科學經驗:當電信網絡用上了大模型,會是一種什麼體驗?以前網絡上若是出了問題,運維人員需得是先靠着經驗反復排查,找到了 病根 再 對症下藥 。而現在有了大模型,這事兒的 打開方式 就變得截然不同了。首先,網絡上若是出現了問題,大模型已經學會自己去找 病根 了,然後會把它的判斷結果呈現,歡迎閱讀。…
今天小編分享的科學經驗:馬斯克旗下 SpaceX 又完成一項壯舉:随着 宇宙素人 賈裡德 · 艾薩克曼在距離地球700 多公裡的太空出艙,人類首次商業太空行走就此完成。北京時間周四晚 19:58,這位 北極星黎明 任務的指揮官、41 歲的億萬富翁打開艙口,率先走出太空艙,通過 天行者 梯子,以及一根,歡迎閱讀。…
今天小編分享的科學經驗:低調多時,李飛飛首次創業成立的空間智能公司終于官宣了:Hello,World!我們是 World Labs,一家空間智能公司,致力于構建大世界模型(LWM)來感知、生成 3D 世界并與之互動。眾多大佬第一時間發來賀電,比如李飛飛高徒、英偉達科學家 Jim Fan:以及 AI 大神 Karpathy:,歡迎閱讀。…
今天小編分享的科學經驗:對于忙碌的上班族來說,通常是早餐随便對付幾口,午餐點個外賣,只有晚餐可以吃的 正經一點 ,備好一頓可口的晚餐,消除一天工作的疲勞。可是不少人加班無常,晚餐時間經常難以掌控,有時候要到很晚才吃得上,甚至還要和朋友們深夜組局。這就要提醒一下大家了:晚餐吃不對或吃得晚,可不僅僅是長胖那麼簡單哦!圖庫,歡迎閱讀。…
今天小編分享的科學經驗:元象 XVERSE 發布中國最大 MoE 開源模型:XVERSE-MoE-A36B,該模型總參數 255B,激活參數 36B,達到 100B 模型性能的「跨級」躍升。同時訓練時間減少 30%,推理性能提升 100%,使每 token 成本大幅下降。在多個權威評測中,元象 MoE 效果大幅超越多個同類,歡迎閱讀。…
今天小編分享的科學經驗:在古代,人類對自然現象的理解有限,不明白刮風下雨等天氣現象的原理,也沒有掌握其發生規律。在那個科學知識匮乏的年代,我們的祖先發揮想象力,創造出有關 龍王 的神話故事,賦予 龍王 掌管降水的能力,想象洪澇和幹旱等災害是因為 神仙發威 降臨人間,所以每逢氣象災害,人們就通過祈福儀,歡迎閱讀。…
今天小編分享的科學經驗:陰謀論的 兔子洞 ,被 AI 破解了!MIT的最新研究登上了Science 封面:與 AI 對話,有助于持續地降低陰謀論的影響。研究結果顯示,大模型反駁陰謀論的準确性極高!經過專業事實核查員評估,99.2%的反駁内容都被認定為真實信息,僅有0.8%存在一定的誤導性,而且整體沒有任何虛假信息和偏,歡迎閱讀。…
今天小編分享的科學經驗:全球首次以「電驅機器人」打破波士頓動力空翻專利的那家機器人公司,不藏了!旗下人形機器人的更多技能技巧,被擺到台前。其實,它還會一些精細活:做咖啡。而且是全球首個實現自主咖啡拉花的人形機器人。只見他左右晃動拿着拉花杯(打奶缸)的手腕,不緊不慢:然後你将得到:然後事了拂衣去,深藏功與名:除了在咖啡館中進,歡迎閱讀。…