Vertex AI 於 2021 被推出用來幫助快速追蹤 ML 模型開發和部署，從特徵工程到模型訓練到低延遲推理，所有都具備企業管理和監控。自從那時候，客戶像是 Wayfair、 Vodafone、 Twitter 和 CNA 用Vertex AI 加速他們的 ML 專案，我們也推出了數以百計的新功能。
但我們並未就此止步—Vertex AI 最近進行了迄今為止最大的更新。Vertex AI 中的生成式 AI 將能透過最簡單的方法提供團隊利用一系列的生成模型的資源。現在企業能在 Google Cloud 端到端機器學習平台利用生成式 AI 的全部功並直接建構無限可能。
Vertex AI 中的生成式 AI
在過去數個月中，消費者等級的生成式 AI 捕捉了數百萬的關注，而把這項技術交到每個開發人員、企業和政府手中，才能實現這項技術的潛能。直到今天，運用生成式 AI 制定基礎模型並直接提供業務使用於實際案例仍是困難的，因為在生產中管理大型模型是個困難的任務，需要進階的工具、大量的檔案、專門的技術，並且需要花費非常多時間。
Vertex AI 中的生成式 AI 讓開發人員和資料科學家更容易存取、自定義和部署基礎模型。我們提供大範圍的工具和自動化的工作流程。部署之後，基礎模型可以被擴展、管理和治理，並在生產中使用 Vertex AI 端到端 MLOps 功能和全代管的 AI 基礎設施。
Vertex AI最近增加了兩個新功能: Model Garden 和 Generative AI Studio。
在這篇部落格中，我們深入探討這些功能並探索可能性。
Model Garden:發掘並使用最廣泛多樣可用的模型種類
Modal Garden 提供單一環境搜尋、探索並能即時和 Google 自己的基礎模型互動，使用者將不只能存取文字模型，而能透過存取來自 Google 的跨視覺、對話、程式碼生成和完成的多模型，建構下一代的應用。此外，Google Cloud 堅定於提供每個等級的 AI 模型選擇，這就是 Model Garden 將包含來自開放資源夥伴和我們 AI 夥伴的生態系統的的原因的模型。透過多種不同的模型種類和大小，企業將能靈活的運用最佳的資源已完成業務需求。
從 Model Garden，使用者可以開始一個多樣的工作流程，包含直接把模型當 API 使用，在 Generative AI Studio 中調整模型，或直接部署模型到 Vertex AI 中的資料科學記事本。
Generative AI Studio:輕鬆調整和部署基礎模型
Generative AI Studio 是一個在 Vertex AI 中的託管環境，開發人員和資料科學家可以和基礎模型互動、調整和部署。Generative AI Studio 提供聊天介面、提示設計、提示調整，還有微調模型比重等大範圍的功能。從 Generative AI Studio，使用者可以將新調整的模型直接部署在他們的應用或 Vertex AI 的 ML 平台上。Generative AI Studio 能幫助應用開發者和資料科學家建構生成式 AI，企業則能更快、更有信心得把下一代應用帶入生產。
5 種方法和在 Vertex AI 中的基礎模型互動
1. 把基礎模型當成 API 使用
我們正在讓 Google 的基礎模型可以被當成 API 使用，包含文字、對話、程式碼生成和完成圖片產生和嵌入。Vertex AI 的管理讓建構生成式功能與應用更簡單，只需要幾行程式碼，就像任何其他 Google 雲端 API 一樣，開發人員不需擔心儲存配置、運算資源或推理模型的優化的複雜性。
2. 提示設計
Generative AI Studio 為手動創建文字輸入或設定提示通知基礎模型等提示設計提供一個簡單使用的介面。相似的聊天經驗使人們沒有開發人員的專業也能和模型互動。使用者也可以配置系統在聊天介面之外，如控制反應的溫度，代表他們可以控制反應無論是有更高的準確度或創造力。
3. 提示調整
提示調整是一個有效率且低成本的方法，僅需制定基礎模型但不需針對模型進行重新訓練。提示是我們導引模型產生有用的輸出，使用自然的語言而不是程式語言。
在 Generative AI Studio 中，上傳使用者資料是容易的，可用來提示模型以特定方法運作，像是一個使用者想更新 PaLM 語言模型並擁有一致的品牌識別時，他們僅需上傳品牌文件，推文、新聞稿和其他資產到 Generative AI Studio。
4. 微調
Generative AI Studio 中的微調功能，對於想要建構高差異生成式AI 產品的機構來說是個好選擇。微調功能是在新資料進階訓練一個預先訓練的模型的過程，導致模型的比重變化。
這對需要專業輸出的使用案例來說是非常有用的，像是法律或醫學字彙。在 Vertex AI Generative AI Studio 中，使用者可以上傳大量資料組並重新使用 Vertex AI Training 訓練模型。
Google 雲端使企業可以微調模型，且不用暴露比重變化在保護原則之外。這讓企業可以使用基礎模型的功能，且保障資料永遠不會脫離掌控。
5. 成本優化
這些年來在 Google，我們已經執行將這些模型用於我們生產的工作量中，在這期間，我們已經開發多個優化成本的技術，並提供優化模型選擇 (OMS)，它能查看對模型的要求並發送請求到可以有效回應它的最小模型。當啟用後，會在後台根據不同的情況調整模型。
使用者 Vertex AI 中的生成式 AI 感到興奮
自推出以來後，Vertex AI 已幫助改變 CNA 擴展 AI 的方法，更好在生產過程中管理機器學習模型，CNA 的 SVP 全球首席資料分析官 Satoshi Bardwaj 表示，透過 Vertex AI 在大型模型上的支援，CNA 現在也能以最適合顧客和業務需求的方式，訂做適合的 AI 應用。
Google 雲端一直是德國銀行的策略夥伴，以提升營運效率並重新塑造設計並交付產品給客戶的方法。德國銀行的首席創新官 Gil Perez 表示，我們感激 Google Cloud 對 Responsible AI 的方法並期待和在生成式 AI 領域中共同創新，加強開發人員生產、創新和增加員工保留的成功上。
