今天小編分享的科學經驗:吳恩達開源大模型套件:11個模型平台一種方式調用,已獲星标超1.2K,歡迎閲讀。
吳恩達發布的開源大模型套件 aisuite,不到半天就斬獲了 1200+ 星标。
它把 11 家知名大模型平台集中到了一起,統一了接口,可以用相同的方式調用不同模型。
切換模型時,只需要改動一個字元串,不用在不同的 API 之間摸不着頭腦了。
對需要在應用當中集成多個不同模型的開發者來説,這套工具可以提高不少的開發效率。
有網友評論説,aisuite 可以幫他在處理多個大模型時節省超過 500 行的代碼。
十餘家模型平台,一種方式調用
不同模型的 API 不盡相同,缺乏統一的調用方式,是讓許多應用開發者感到頭疼的一大難題。
特别是當同一個應用需要調用不同模型時,模型間的切換會耗費開發者的不少精力。
所以,aisuite 設計了一個統一的調用接口,不管原模型的 API 是什麼樣,都可以用相同的方式來調用。
使用時,只需要改一個字元串,把模型平台和具體名稱填入,就可以調用 aisuite 支持的模型。
目前,aisuite 一共支持 OpenAI、Anthropic 等 11 家模型平台,具體如下:
而且其中包括了擁有海量模型的 Hugging Face 這樣的模型平台,所以 aisuite 實際上支持的模型更多。
搭配 Streamlit 等工具,還能用 aisuite 構建的簡單聊天 UI 界面。
據介紹,目前 aisuite 套件主要關注于聊天功能,其他用例将在未來逐步擴展。
另外從 GitHub 的 issue 當中也可以得知,aisuite 套件目前比較基礎,像函數調用等功能正在開發之中,将很快上線。
除了模型切換方便,aisuite 的安裝配置過程也比較簡單。
需要準備的内容包括 Python 環境,以及對應模型的 API 密鑰和支持庫。
首先需要通過 pip 安裝 aisuite 框架,模型支持庫可以在這一步進行選裝。
pip install aisuite
pip install ‘ aisuite [ ★ ] ’
其中★處填入想安裝的支持庫名稱,或者填 all 安裝所有庫(外側方括号和單引号不可省略)。
此外還需要有對應模型的 API 密鑰,可以設定為環境變量,也可以作為配置傳遞給 aisuite 中的構造函數。
One More Thing
除了吳恩達之外,開源社區對 aisuite 也擁有不可磨滅的貢獻。
算上吳恩達本人,aisuite 的貢獻者一共有六人,其餘五人分别是(按姓氏字母排序):
在線繼續教育平台 CLE Hero 聯合創始人 Ryan Prinz;
前谷歌 Chronicle Security 工程主管 Rohit Prsad;
DeepLearning.AI(吳恩達創辦的在線學習平台)特殊項目負責人 John Santerre;
在線酒水銷售平台 Provi 高級工程師 Kevin Solorio;
Meta 生成式 AI 工程師、原高通高級工程師 Jeff Tang。
同時,這一項目也發布了貢獻指南(Contributing Guide),歡迎整個開源社區幫助推動後續的工作。
GitHub:
https://github.com/andrewyng/aisuite/pulse
參考鏈接:
https://x.com/AndrewYNg/status/1861085482526105842