就在過去的一週中,GPT-4、文心一言、Claude、Alpaca、Google PaLM API、Microsoft 365 Copilot—— 這些 AI 大模型的炫酷煙花,接連在上週綻放。好像每天都在創造歷史,世界在瞬息萬變。讓我們一起回顧一下這非同尋常的一週吧!
3 月 13 號,週一
唯一沒有大新聞的一天。大家還在猜測 GPT-4,以及討論前週五發布的 Visual ChatGPT 相關信息:
3 月 14 號,週二
斯坦福大學發布 Alpaca 7B,成本降到超低,性能匹敵 GPT-3.5。清華推出 ChatGLM-6B,消費級顯卡就能部署,準確度接近 GPT-3 175B (davinci)。
Alpaca 7B 是斯坦福大學發布的一種模型,它是由 LLaMA 7B 模型在 52000 個指令跟隨(指它可以根據給定的指令生成文本,而不是根據給定的文本生成指令)演示的基礎上進行微調得到的。Alpaca 7B 的表現類似於 OpenAI 的 text-davinci-003 模型,但是它的大小卻小得多,而且成本很低(<600 美元)。
這個低成本特性是由 LLaMA 7B 模型所帶來的,有多低請看演示。
此外還有清華的 ChatGLM-6B。這是一個開源的、支持中英雙語的對話語言模型,基於 General Language Model (GLM) 架構,具有 62 億參數。ChatGLM-6B 使用了和 ChatGPT 相似的技術,針對對話場景進行了優化,可以支持多種對話任務,如閒聊、問答、推薦等 12。不過,有一些批評的聲音:
ChatGLM 和 ChatGPT 的對比:
當然現在公開的 demo 是 6B 的,據說有個 130B 的 DEMO 效果更好一些:
3 月 15 號,週三
狼真的來了!GPT-4 在此日公布。由於網上消息和解讀已有很多,官方也提供了一篇詳細的論文,因此不再贅述。
我也湊了個熱鬧,寫了篇 “一些你可能不知道的 GPT-4 小知識”
這一天大消息不止一個:Goolge 宣布 PaLM API & MakerSuite,用以支持構建生成式 AI 應用的原型。
PaLM API 並不是一個語言模型,它只是 “Google 的大型語言模型的簡單入口,可用於各種應用程序”。說白了,更像是一種服務集成用 API。<- 以上是我個人總結,官博的介紹寫的摸不著頭腦,其他推友也吐槽過:
此外還有:由從 OpenAI 出走的前員工們集體創建的 AI 初創公司 Anthropic,公開發布類 ChatGPT 的 AI 助手 Claude。之前 Claude 一直處在內測階段。
“Claude 是下一代 AI 助手,基於 Anthropic 對訓練有用、誠實和無害的 AI 系統的研究。Claude 可通過我們的開發人員控制台中的聊天界面和 API 進行訪問,能夠執行各種對話和文本處理任務,同時保持高度的可靠性和可預測性。”
另:AI 公司 Adept 在 B 輪融到了 $350M。他們的產品類似於你說我(AI)做。
3 月 16 號,週四
Pytorch 2.0 正式發布。
大名鼎鼎的 Pytorch 相信即使沒接觸機器學習的人都聽過它的名字。
2.0 版本在完全向後兼容的同時從根本上改進了 PyTorch 在編譯器級別的運行方式,比以前 PyTorch 1.0 中默認的「eager mode」所提供的即時生成代碼的速度快得多。
HuggingFace Transformers 的 Sylvain Gugger 寫道「只需添加一行代碼,PyTorch 2.0 就能在訓練 Transformers 模型時提供 1.5 倍至 2.0 倍的速度」
Midjourney V5 發布:AI 畫手” 畫 “手不再困難。V5 模型采用了先進的工具和新的神經架構來生成美學和設計,顯著改善了生成圖像中手和手指的表現,還提供圖像到文本功能。
3 月 17 號,週五
微軟繼續發力,發布了 Microsoft 365 Copilot。
Introducing Microsoft 365 Copilot | Microsoft 365 Blog
Microsoft 365 Copilot 是一款由 Microsoft 推出的人工智能助手,它由 OpenAI 的 GPT-4 驅動,可以幫你搞定文檔、電子郵件和演示文稿等任務。想象一下,它就像個聊天機器人助手,融入你日常使用的 Word、Excel、PowerPoint、Outlook 和 Teams 等應用中。
Microsoft 365 負責人 Jared Spataro 興奮地說,Copilot 雖不是完美無缺,但確實能提高工作效率。它能與 Outlook 整合,讓你在處理郵件時輕鬆愉快。它還能在 Microsoft Teams 上給你提供會議內容總結,讓你不再錯過重要信息。微軟還在醞釀一個商務聊天功能,讓你在所有 Microsoft 365 數據和應用中無縫溝通。
此前,微軟已經將 AI 驅動的 ChatGPT 與必應結合,未來還打算進一步將 OpenAI 的強大的大語言模型整合到 Microsoft 365 產品中。
目前,微軟正與 20 個客戶一起測試 365 Copilot。作為 OpenAI 的密切合作夥伴,微軟正全力以赴在先進人工智能領域與谷歌、亞馬遜和 Meta 等公司競爭。
最後,終於到了百度的文心一言了:
“百度文心一言是一款基於百度自研的 ERNIE 模型的聊天機器人,可以進行語義理解、智能問答和情感交流等多種形式的對話。 百度文心一言是國內第一家對標 ChatGPT 的產品。”
由於解讀的文章已經很多了,在此就不班門弄斧了,只談談自己的感想:百度曾經作的惡,讓我永遠不會摘掉對它的有色眼鏡,加上中文圈語料的不靠譜,因此我對文心一言並沒有多少期待。當天發布會直接跌沒了的 10% 讓我覺得也理應如此,但沒想到昨天居然補漲了 16%。也許,還是有那麼一點希望在的。
如果這篇有幫助,請訂閱轉發,也可以 fo 我的推特。我將帶給你更多關於 Web3,Layer2,AI,以及日本相關咨詢: