生成式AI (Generative AI;GenAI)為企業帶來全新的工作流程改變,根據 Deloitte 針對企業 CEO 調查,55% 企業都在測試或導入生成式人工智慧專案,包括大型企業與新創公司都嘗試透過生成式AI 來提升員工生產力、優化營運流程,以及提升營收績效。但是,企業該掌握哪些關鍵,才能挑選到合適的生成式AI 技術帶來最大的效益?iKala Cloud 幫企業整理挑選生成式AI 服務的三大關鍵與二大必備技術能力。
〈推薦閱讀:從ChatGPT到Google Gemini,企業如何化生成式AI為成長動能?〉
什麼是生成式AI ?
生成式AI 是一種利用人工智慧技術自動生成內容的工具,能產出涵蓋文字、圖像、音樂等多種內容。這類 AI 系統背後的核心是大型語言模型(Large Language Model;LLM),能透過學習大量的數據,並根據使用者輸入的關鍵字或指令回答問題、撰寫文章、編寫程式碼,甚至模擬對話,從而協助企業工作者激發創意靈感並提高工作效率。
生成式AI 技術在許多應用場景中廣泛使用,以下點出 3 個不同產業常見的應用
內容生成
可以協助不同類型的文字撰寫,如新聞報導、商品行銷文案和社群貼文等。例如,ChatGPT 能夠根據特定的主題或關鍵字生成流暢且具吸引力的文字,大幅提升了內容創作的效率。
圖片生成
生成式AI 能夠創建高品質的影像內容,包括人像、風景和藝術作品等。例如,Midjourney 和 DALL-E 等平台,藉由生成對抗網絡(GAN)技術,透過不斷訓練生成器和鑑別器,來提高圖像的真實性和多樣性。
數據整理與分析
對於商業決策、科學研究和市場分析等領域,生成式 AI 不僅可以從大量未結構化的數據中提取有用的訊息,自動化數據處理流程,還能生成報告或可視化結果。例如 Google Gemini 可以在試算表自動建立表格,管理商機追蹤情形和資料檢視方式,提升報表準確度。
生成式AI 的崛起與市場需求
iKala 執行長程世嘉曾在零售論壇中指出對AI市場的觀察:「2023 年,AI 是在教育市場,大家還在釐清可以運用 AI 做哪些事,直到 2024 年企業才開始導入AI,甚至很多品牌現在才跟進。」不只如此,許多研究數據更點出生成式AI 在企業應用的崛起,根據高盛研究,生成式AI 將使全球約 3 億個全職工作自動化,使全球 GDP 在 10 年內增長 7% 達 7 兆美元。
此外,安永(EY)對全球 1,200 位執行長進行調查,75% 的高層主管表示計劃在未來 12 個月內投資生成式AI 技術,以提升生產力和創新能力。
〈推薦閱讀:生成式AI將為金融產業帶來五種新的創新價值〉
常見的生成式AI 服務平台有哪些?
面對高度需求的生成式AI 市場,現在不只有 OpenAI 的 ChatGPT ,許多雲端科技巨擘也積極發展相關服務,像是 Google Cloud Gemini、Amazon Bedrock、微軟 Azure OpenAI,無不透過自行研發或是策略聯盟的方式強化在人工智慧技術的服務能力。以下簡要統整三家雲端大廠所提供的生成式 AI 服務。
Google Cloud – Vertex AI + Gemini
- Google Vertex AI 是 Google Cloud 的機器學習平台,支持生成式AI 模型,包括最新的 Google Gemini 模型。
- Vertex AI 提供訓練、調試、部署和管理生成式AI 模型的全流程工具,企業可以使用 LLM 來進行文字生成、自然語言處理、多模態應用等。
- Gemini 的多模態功能可以處理文字、圖像和音訊,並整合到 Google 其他產品(如 Google Search 和 Workspace)中,適合各種生成式AI 應用,如內容創作、自動化翻譯等。
- Google 提供客製化的生成式AI 服務,允許企業依賴現有的 LLM 或開發自定義模型。
AWS – Amazon Bedrock + SageMaker
- Amazon Bedrock 是 AWS 的生成式AI 平台,讓企業使用多種大型生成模型(包括來自 Anthropic、AI21 Labs 和 Stability AI 的模型)進行開發,而不需要自己訓練模型。
- Amazon SageMaker 提供完整的機器學習訓練和部署工具,適合需要自定義生成式AI 模型的企業。 企業可以在 AWS Lambda 中部署生成式AI 模型進行推理,也可以使用 Amazon Polly(文字轉語音)和 Amazon Lex(語音助理)作為輔助工具。
- SageMaker 支持完整的模型管理流程,包括調試、訓練、調參和部署。
〈推薦閱讀:AWS 生成式 AI 服務概覽:從 Amazon Bedrock 到 Amazon Q〉
微軟 Azure – Azure OpenAI + Microsoft Copilot
- Azure OpenAI 服務 提供對 GPT-4 和 DALL-E 等生成式AI 模型的訪問,企業可以透過 Azure 平台將 OpenAI 的技術整合到自己的應用中。
- Microsoft Copilot 是整合了生成式AI 的工具,內建於 Microsoft 365 中,能夠幫助用戶在 Word、Excel、Outlook 等辦公應用中自動生成內容和分析資料。
- Azure 支持多語言處理、程式碼生成、自動化內容創建等功能,並與 Azure 的其他雲服務深度整合,方便企業擴展其生成式AI 應用。
企業如何挑選最合適的生成式AI 服務?考量三大關鍵!
企業對於生成式AI 的應用需求不同,該如何挑選最合適的服務平台?生成式AI 的性能高度仰賴於背後 LLM 的規模與能力,LLM 的規模越大、訓練數據越多,其生成的內容就越精確和自然。因此,iKala Cloud 建議在評選生成式AI 服務時,也需針對平台背後的 LLM 進行三大性能做考量:
一、開放性
為確保生成式AI 服務可以跟企業既有系統或者是第三方系統串聯在一起,LLM 系統是否夠開放、易於串接,便十分重要。開放性強的 LLM 系統通常提供多種 API 和 SDK,使企業能夠輕鬆整合到現有系統中,並隨著需求變化進行客製化。
二、生態體系
生成式AI 不僅僅是一個單獨的技術,還需要與企業現有的 IT 基礎設施和雲端服務生態系統無縫整合。同時,在導入過程還有另一個重要的考量點,平台服務供應商是否有在地技術支援的夥伴,以及未來還能提供哪些 LLM 加值服務,或者是產業專屬應用模組。
三、評估 LLM 是否符合企業需求
最重要的是評估 LLM 是否符合企業需求,評估指標包括但不局限於模型效能、模型的可擴展性、模型對資源(運算與數據)的需求、模型的自訂與客製化程度、模型的道德準則,以及是否有安全審核機制防止錯誤或有害資訊的傳播等。
跨產業成功案例,Google 生成式AI 提供企業完整生態系
綜合上述三個挑選適合的生成式 AI 關鍵考量點,Google Cloud 將基礎架構結合 Gemini、多種模型與 Vertex AI,提供豐富多樣的 AI 產品組合,協助企業夥伴與客戶更快速且精準的打造專屬 AI 虛擬服務專員。
例如跟 Nvidia 合推可支援生成式AI 應用的基礎架構、透過 Vertex AI 提供超過 130 種自家 Gemini 與第三方模型協助企業加速打造虛擬服務專員(Agent)、推出 Gemini Code Assist 協助企業導入 AI 程式碼編寫輔助功能、透過 Gemini強化網路資安防禦,以及將 Gemini 導入 BigQuery、Database 跟 Looker 等自家服務以發揮數據的最大效益。
這也是 Google 吸引跨產業龍頭品牌青睞與採用的原因,例如洲際酒店集團透過 Google Vertex AI 打造虛擬客服專員提供旅行規劃服務、家樂福透過 Google Vertex AI 在不同社群建立動態行銷活動並且將作業時間從數月縮減成數周,以及三星將 Google Vertex AI 平台上 Gemini Pro 整合至 Galaxy S24 旗艦機款等。
〈推薦閱讀:生成式AI 電商應用實例:如何利用 Gemini 防止交易轉向外部平台〉
結論
從當前的市場發展,可以清楚看到,不僅 Google Gemini 積極深化生成式AI 的布局,微軟跟 AWS 亦不落人後,建議企業除從技術層面考量,還要進一步評估雲端服務供應商的在地夥伴可否提供相應服務,如 iKala Cloud 便可積極協助台灣企業透過 Google Gemini 跟 Vertex AI 提升數據價值與智慧能力,讓企業以更安全、高效且事半功倍的方式搶進生成式AI 世代。
立即諮詢 iKala Cloud,了解企業如何順利導入生成式AI
參考資料:Google Cloud Next ’24 新聞重點、Overview of model tuning for Gemini、Adaptation of Large Foundation Models、It’s time for developers and enterprises to build with Gemini Pro