今天小編分享的互聯網經驗：谷歌雲怒推新 AI TPU、接入 Meta 大模型、工作助手，歡迎閱讀。
圖片來源 @視覺中國
文 | 極客公園 GeekPark，作者 | 芯芯，編輯 | 靖宇
谷歌「掉隊了」，在新的 AI 浪潮下，這家矽谷巨頭從引領者變成了追随者。
搜索巨頭顯然已經開始反攻，今年 5 月的 I/O 大會上，谷歌就亮出了接入 AI 的「谷歌全家桶」。而真正要反超對手，谷歌最大的戰場可能是雲計算。
當地時間 8 月 29 日，谷歌雲在舊金山舉行的 Next '23 大會上宣布了一系列產品更新，包括針對 AI 基礎設施的改進、更強大的 Vertex AI 平台、以及 Duet AI 協作工具等創新。同時，Vertex AI 平台甚至引入了 Meta 和 Anthropic 等對手公司的重要模型，以供開發者選擇。
據谷歌雲首席執行官 Thomas Kurian 稱，目前行業中超 50% 的 AI 初創公司、超過 70% 的生成式 AI 獨角獸都是谷歌雲的客戶，其中包括 AI21、Anthropic、Cohere、Jasper、MosaicML、Replit、Runway 和 Typeface。谷歌雲還宣布與通用汽車等公司建立新的合作。作為「萬年老三」，谷歌雲計算在 AI 上嘗試彎道超車。
01 更具效率的AI 新基礎設施
在大會上，谷歌雲發布了生成式 AI 關鍵的基礎設施進展，其中包括 Cloud TPUv5e、搭載英偉達 H100 GPU 的 A3 VM、GKE 企業版本、跨雲網絡以及谷歌分布式雲 GDC。
谷歌雲首席執行官 Thomas Kurian 稱，Cloud TPUv5e 是谷歌雲迄今為止最經濟、最多性和可擴展性的專用 AI 加速器。用戶現在可以使用單一的 Cloud TPU 平台來運行大規模的 AI 訓練和推理。
與上一代相比，TPUv5e 承諾每美元的訓練性能提高了 2 倍，每美元的推理性能也提高了 2 倍甚至更多。谷歌雲高管稱其為「迄今為止最具成本效益和易于使用的雲 TPU。」
除了下一代 TPUs，谷歌雲宣布，由英偉達 H100 GPU 提供動力的 A3 VM 将于下個月正式推出，能夠在之前一代 A2 上提供三倍的訓練性能。
谷歌雲還發布了 GKE 企業版本，使最具挑戰性的、關鍵任務的 AI/ML 工作負載所需的多集群橫向擴展成為可能。據 Thomas Kurian 稱，用戶已經看到了 45% 的生產率提升，同時減少了 70% 以上的軟體部署時間，GKE 帶來的好處包括自動擴展、工作負載編排，可以與 Cloud TPU v5e 一起使用。
鑑于現在大多數大型企業采用多個雲服務提供商，谷歌雲發布了跨雲網絡平台，旨在幫助用戶在雲中連接和保護應用程式，提供基于 ML 的零信任安全套件的支持。據稱，相較于不通過谷歌網絡傳輸流量的情況，使用跨雲網絡可将網絡延遲降低 35%，成本降低 40%。
最後，在 Google 分布式雲（GDC）方面，谷歌雲正在增強 GDC 產品組合，以在邊緣引入 AI，其中包括 Vertex AI 集成和 GDC Hosted 上的 AlloyDB Omni 的新托管版本。
02「接入對手」的 Vertex AI 平台
除了基礎設施更新，谷歌雲還改進了它的綜合 AI 平台 Vertex AI，該平台讓用戶能夠構建、部署和擴展機器學習模型。
谷歌雲首席執行官 Thomas Kurian 稱其為「最全面的 AI 平台」，并指出今年 4 月到 7 月，谷歌雲的生成式 AI 客戶項目的數量增長了 150 多倍，客戶可以訪問 100 多個基礎模型，包括第三方和流行的開源版本，以及面向行業的特定模型，如網絡安全和醫療等。
在大會上，谷歌雲宣布 Vertex AI Search 和 Conversation 現在已普遍可用，這個工具使用戶能夠在幾分鍾内，使用自己的數據創建搜索和聊天應用程式。
Vertex AI Conversation 創建聊天應用程式 ｜ 谷歌雲
Vertex AI 的生成式 AI Studio 為用戶提供了調整和自定義模型的工具，包括 Text Embeddings API，該 API 允許開發者基于對文本或影像的語義理解構建復雜的應用程式，并通過強化學習，深度定制和改進模型性能。
Vertex AI 平台還宣布推出了幾個新模型和工具，包括将 PaLM 2 更新到 32000 個上下文視窗（相當于約 25000 個單詞，大約 80 頁雙倍行距的文本），以便企業可以輕松處理更長的文檔，如研究論文和書籍。此外，他們還将提高 Imagen 的視覺吸引力，并在 Codey 中支持新語言。
在工具方面，對于 PaLM 2 和 Codey，谷歌雲正面向市場提供适配器調整，并引入一種名為 Style Tuning 的新方法，以便企業可以使用少量參考影像創建符合品牌需求的影像。
在新模型方面，谷歌雲宣布來自 Meta 的 Llama 2，和 Code Llama 已經可供雲客戶使用，還有 Technology Innovative Institute 的 Falcon LLM（一款熱門的開源模型）以及 Anthropic 的 Claude 2 聊天機器人。對于 Llama 2，谷歌雲将成為唯一提供适配器調整和 RLHF 的雲服務提供商。
在 Vertex AI 擴展方面，開發人員可以訪問、構建和管理擴展，提供實時信息，整合公司數據，并代表用戶執行操作，這為生成式 AI 應用程式提供了新的可能性。
另外一個值得注意的更新是，谷歌發布了 Vertex AI 上的數字水印技術，可以将數字水印嵌入到像素影像中，對人眼來不可見，難以篡改，用于負責任地創建和識别由 AI 生成的影像。
谷歌雲自稱是第一家為 AI 生成影像提供此技術的超大規模雲服務提供商，但它并不是第一家推出數字水印工具的科技公司。
今年 5 月，微軟承諾使用「加密方法」為 AI 生成的影像和視頻添加水印，生成 AI 初創公司 Midjourney 也采用了相關指南，在生成 AI 創建的内容中嵌入标記，OpenAI 的 DALL-E 2 也會在生成的影像右下角插入一個小水印。
谷歌雲的數字水印工具與谷歌 DeepMind 合作推出，目前處于測試階段，只對 Google Vertex AI 的部分用戶開放，而且只支持由谷歌自家的影像生成模型創建的影像。根據 DeepMind 的說法，能夠識别 AI 生成的内容對于防止虛假信息的傳播至關重要，該數字水印工具「并不是絕對可靠的，但它提供了一個有希望的技術途徑，可以幫助人們和組織負責任地處理 AI 生成的内容。」
此外，據谷歌雲首席執行官 Thomas Kurian 稱，當用戶使用 Vertex AI 自定義和訓練模型時，包括來自 SaaS 應用程式、數據庫或其他專有源的私有文檔和數據，這些數據不會暴露給基礎模型，用戶的提示和數據不會用于改善他們的模型，也不會被其他客戶訪問。
03 更多功能的 Duet AI
Duet AI 是一款在線 AI 協作工具，于 5 月的 I/O 大會首次亮相，當時他們展示了它的各種功能。自那以來，谷歌一直在擴展其功能，并将其整合到谷歌 Workspace 和谷歌雲的各種產品和服務中。
首先是 Workspace，據稱已經有 30 多億的用戶和 1000 多萬的付費客戶。Duet AI 為 Workspace 增加了許多功能，包括在 Gmail 和 Google Docs 中幫用戶編寫和改進内容，在 Google Slides 中創建原始影像，以及将數據轉化為 Google Sheets 中的見解等。
據谷歌雲首席執行官 Thomas Kurian 稱，自 Duet AI 發布以來，成千上萬家公司和超過 100 萬測試人員已經用過它。在 Next '23 大會上，谷歌雲還宣布了 Duet AI 一些新的增強功能。
首先是 Google Meet 中的 Duet AI，它可以在視頻會議期間記錄筆記、發送會議摘要，還可自動将字幕翻譯成 18 種語言。
Google Meet 中的 Duet AI 生成會議摘要｜谷歌雲
然後是 Google Chat 中的 Duet AI，用戶将能夠直接與 Duet AI 聊天，詢問有關内容的問題，獲取在一個空間中共享的文檔摘要，并跟蹤錯過的對話。
Google Chat 的產品經理形容，這相當于讓用戶擁有「一個具有無限記憶和驚人記憶力的同事」。
根據谷歌雲的介紹，如果在會議中遲到，谷歌可以顯示會議中間摘要，讓人了解前面發生了什麼；在會議期間，還可以與谷歌的聊天機器人私下交談，讨論會議細節；在會議結束後，可以保存會議摘要，以便後續查看。
此外，用戶甚至可以不用出席一場會議，讓 Duet AI 代為出席，谷歌可以自動生成用戶可能想讨論的内容。
事實上，除了谷歌，微軟和 Zoom 已經推出了基于自身服務的 AI 會議摘要，這類 AI 總結有效的前提是會議内容清晰，能夠被準确捕捉，谷歌是否能夠如其宣傳的那樣，真的幫人開會，實際應用中 AI 是否會出錯，還需要市場進一步驗證。
除了 Workspace，Duet AI 現在還可以在各種谷歌雲產品和服務中提供 AI 輔助，例如作為編程助手、專家顧問、數據分析師和安全顧問等。Duet AI 在谷歌雲上的進展涵蓋軟體開發、應用程式運營、數據分析、網絡安全等方方面面。
在軟體開發方面，Duet AI 在整個軟體開發生命周期中提供專家支持，通過最小化上下文切換來幫助開發人員更長時間保持流程狀态，從而提高生產力。除了代碼生成，它還可以協助代碼重構，通過簡單的自然語言提示即可完成。
Duet AI 通過自然語言提示重構代碼 ｜谷歌雲
在應用程式和基礎設施運營方面，運營商可以在谷歌雲控制台的多個服務中，使用自然語言與 Duet AI 聊天，以快速檢索有關基礎設施配置等信息。
在數據分析領網域，BigQuery 中的 Duet AI 為編寫 SQL 查詢和 Python 代碼提供上下文幫助，生成完整的函數和代碼塊，幫助用戶分析和可視化數據，并以自然語言解釋 SQL 語句，并可以根據模式和元數據生成建議。
BigQuery 中的 Duet AI 進行數據分析 ｜谷歌雲
在網絡安全方面，Duet AI 還将應用于安全產品，在 Google Cloud Security Command Center 中提供安全建議，幫助識别、分類和快速解決漏洞和威脅。
谷歌雲還聲明，「數據就是你的數據」，用戶代碼、輸入到 Duet AI 以及由 Duet AI 生成的建議将不會用于訓練共享模型，也不會用于開發任何產品。
作為 AI 界的巨頭和雲計算領網域的重要玩家，谷歌的身份類似微軟，兩者都既有雲計算「基建」，同時在 C 端有大量應用，可供 AI 落地——兩者的策略，從某種程度上也代表了巨頭公司在這一波 AI 浪潮中的典型動作和思考。
例如，在 Vertex AI 平台，引入 Meta 和 Anthropic 的大語言模型，似乎印證了在 AI 工具平台層面，單模型模式一定走不通，而用更開放的心态，引入多模型模式，才符合大勢。Duet AI 在 Google Meet 上的總結、替代開會等功能，又和釘釘剛剛發布的「數字員工」有異曲同工之處，說明在辦公 SaaS 領網域，AI 落地時能玩出的花樣還不多，反而可能是更有潛力百花齊放的領網域。
