生成式AI （Generative AI；GenAI）為企業帶來全新的工作流程改變，根據 Deloitte 針對企業 CEO 調查，55% 企業都在測試或導入生成式人工智慧專案，包括大型企業與新創公司都嘗試透過生成式AI 來提升員工生產力、優化營運流程，以及提升營收績效。但是，企業該掌握哪些關鍵，才能挑選到合適的生成式AI 技術帶來最大的效益？iKala Cloud 幫企業整理挑選生成式AI 服務的三大關鍵與二大必備技術能力。
〈推薦閱讀：從ChatGPT到Google Gemini，企業如何化生成式AI為成長動能？〉
什麼是生成式AI ？
生成式AI 是一種利用人工智慧技術自動生成內容的工具，能產出涵蓋文字、圖像、音樂等多種內容。這類 AI 系統背後的核心是大型語言模型（Large Language Model；LLM），能透過學習大量的數據，並根據使用者輸入的關鍵字或指令回答問題、撰寫文章、編寫程式碼，甚至模擬對話，從而協助企業工作者激發創意靈感並提高工作效率。
生成式AI 技術在許多應用場景中廣泛使用，以下點出 3 個不同產業常見的應用
內容生成
可以協助不同類型的文字撰寫，如新聞報導、商品行銷文案和社群貼文等。例如，ChatGPT 能夠根據特定的主題或關鍵字生成流暢且具吸引力的文字，大幅提升了內容創作的效率。
圖片生成
生成式AI 能夠創建高品質的影像內容，包括人像、風景和藝術作品等。例如，Midjourney 和 DALL-E 等平台，藉由生成對抗網絡（GAN）技術，透過不斷訓練生成器和鑑別器，來提高圖像的真實性和多樣性。
數據整理與分析
對於商業決策、科學研究和市場分析等領域，生成式 AI 不僅可以從大量未結構化的數據中提取有用的訊息，自動化數據處理流程，還能生成報告或可視化結果。例如 Google Gemini 可以在試算表自動建立表格，管理商機追蹤情形和資料檢視方式，提升報表準確度。
生成式AI 的崛起與市場需求
iKala 執行長程世嘉曾在零售論壇中指出對AI市場的觀察：「2023 年，AI 是在教育市場，大家還在釐清可以運用 AI 做哪些事，直到 2024 年企業才開始導入AI，甚至很多品牌現在才跟進。」不只如此，許多研究數據更點出生成式AI 在企業應用的崛起，根據高盛研究，生成式AI 將使全球約 3 億個全職工作自動化，使全球 GDP 在 10 年內增長 7% 達 7 兆美元。
此外，安永（EY）對全球 1,200 位執行長進行調查，75% 的高層主管表示計劃在未來 12 個月內投資生成式AI 技術，以提升生產力和創新能力。在 Harris Poll 民調研究中，一項針對知識型工作者的調查顯示，80% 受訪者認為生成式AI 能顯著提高工作質量和效率，每週可節省約 7.8 小時的工作時間。
〈推薦閱讀：生成式AI將為金融產業帶來五種新的創新價值〉
企業如何挑選最合適的生成式AI 服務？考量三大關鍵！
面對高度需求的生成式AI 市場，現在已經有多家科技巨擘積極發展相關服務，像是 Google Cloud Gemini、Amazon Bedrock、微軟 Azure OpenAI，都透過策略聯盟的方式強化在人工智慧技術的服務能力。簡言之，為搶進商機龐大的人工智慧市場，供應商積極投入，同樣的，需求方也嘗試找到最適合自己企業的解決方案，但該如何挑選平台工具，並且透過人工智慧極大化營運績效？
iKala Cloud 建議可以從三個面向做選擇：
一、開放性
為確保 LLM 平台服務可以跟企業既有系統或者是第三方系統串聯在一起，平台服務供應商是否夠開放、易於串接，十分重要。
二、生態體系
平台服務供應商除招募可提供諮詢、客製、導入與維護服務的在地夥伴，是否有跟全球與在地夥伴合作在平台上提供 LLM 加值服務或者是產業專屬應用模組也十分重要。
三、評估 LLM 是否符合企業需求
最重要的是評估 LLM 是否符合企業需求，評估指標包括但不局限於模型效能、模型的可擴展性、模型對資源（運算與數據）的需求、模型的自訂與客製化程度、模型的道德準則，以及是否有安全審核機制防止錯誤或有害資訊的傳播等。
Google 生成AI 服務提供企業完整生態系
綜合上述三個挑選適合的生成式 AI 關鍵考量點，Google 在 Google Cloud Next 2024 大會中直指：「未來將是一個連結雲端、由 AI 驅動的虛擬服務專員（Agent）世界。」為了協助企業佈局人工智慧大未來，Google Cloud 將基礎架構，結合 Gemini、多種模型與 Vertex AI，提供豐富多樣的 AI 產品組合，協助企業夥伴與客戶更快速且精準的打造專屬 AI 虛擬服務專員。
例如跟 Nvidia 合推可支援生成式AI 應用的基礎架構、透過 Vertex AI 提供超過 130 種自家 Gemini 與第三方模型協助企業加速打造虛擬服務專員（Agent）、推出 Gemini Code Assist 協助企業導入 AI 程式碼編寫輔助功能、透過 Gemini強化網路資安防禦，以及將 Gemini 導入 BigQuery、Database 跟 Looker 等自家服務以發揮數據的最大效益。
而這也是 Google 吸引跨產業龍頭品牌青睞與採用的原因，例如洲際酒店集團透過 Google Vertex AI 打造虛擬客服專員提供旅行規劃服務、家樂福透過 Google Vertex AI 在不同社群建立動態行銷活動並且將作業時間從數月縮減成數周，以及三星將 Google Vertex AI 平台上 Gemini Pro 整合至 Galaxy S24 旗艦機款等。
〈推薦閱讀：生成式AI電商應用實例：如何利用Gemini防止交易轉向外部平台〉
企業導入生成式AI 還需深化兩大技能，以發揮最大功效
根據 IDC 公布的 2024 年台灣資通訊（ICT）市場重點趨勢預測，生成式AI 技術的應用場域正從消費市場走向企業市場，亞洲企業的 TOP 5 生成式AI 應用場域是產品設計、軟體開發、客戶互動、行銷公關跟供應鏈管理，強勁的生成式AI 市場需求將加速雲端平台的新一波競爭態勢。
值得特別注意的是，IDC 認為生成式AI 平台工具必須具備下列兩大功能，將直接影響企業採用意願：
一、微調（fine-tuning）
將直接影響企業採用意願，理由在於，前者讓企業可以透過（部分或完全）調整訓練好的 LLM 模型參數，讓模型輸出更符合產業預期或特定任務需求，亦即，讓生成式AI 可以說得出「行話」。
二、索引增強生成（Retrieval-Augmented Generation；RAG）
RAG 是一種結合搜尋檢索跟生成能力的自然語言處理架構，透過這個架構，企業可以要求 LLM 模型從特定的外部資料庫搜尋相關資訊，然後，以搜尋到的資訊生成、回應、完成特定的問題，企業不用擔心 LLM 會出現幻覺、或者是天馬行空的回答，可以極大程度確保 LLM 輸出的誠信與安全。
換言之，無論企業是要 Bring Your Own Model 或者是透過雲端平台提供的 LLM 進行生成式AI 應用開發，只要掌握 Fine-tuning 跟 RAG 兩個技能，即可輕鬆發揮生成式AI 的價值。那麼，Google Gemini 在這兩個領域的表現如何？
Google Gemini 生成式AI 平台在 fine-tuning與 RAG 表現
一、Google Gemini 生成式AI 的微調（fine-tuning）表現
在 fine-tuning 這個領域，截至 2024 年 4 月，開發人員已經能針對 Gemini 1.0 Pro 穩定版的 002 版本（gemini-1.0-pro-002）進行參數高效率調整：透過更新相對小的參數子集讓 LLM 更適合特定任務應用，為協助開發人員快速上手，Google釋出《Adaptation of Large Foundation Models》白皮書提供詳細索引資訊，此外，Google 亦承諾將陸續推出其他微調服務。
二、Google Gemini 生成式 AI 的索引增強生成 RAG 表現
至於在 RAG 這個領域，開發人員可以透過 Google Vertex AI 存取 Gemini 模型，以及使用公司獨有的數據調整與提煉 Gemini 模型以增強其對產業的了解，另外，企業還可以透過低/無程式碼環境建立以 Gemini 模型為核心、可支援 RAG、混合搜尋、嵌入、對話劇本的搜尋與對話虛擬服務專員。
結論
從當前的市場發展，可以清楚看到，不僅 Google Gemini 積極深化在 Fine-tuning 跟 RAG 的布局，微軟跟 AWS 亦不落人後，建議企業除從技術層面考量，還要進一步評估雲端服務供應商的在地夥伴可否提供相應服務，如 iKala Cloud 便積極協助台灣企業透過 Google Gemini 跟 Vertex AI提升數據價值與智慧能力，讓企業以更安全、高效且事半功倍的方式搶進生成式AI 世代，如有想要進一步了解企業導入生成式AI 的方式，可與iKala Cloud聯絡，將有專人為您服務。
參考資料：Google Cloud Next ’24 新聞重點、Overview of model tuning for Gemini、Adaptation of Large Foundation Models、It’s time for developers and enterprises to build with Gemini Pro
