技術部落格

集結國內外精選文章,掌握最新雲端技術新知與應用
Loading...
Google Cloud 加持!知名電商結合雲端成為獲利王 電商市場近年瞬息萬變,不僅有從中國延燒至台灣的雙 11 購物節,去年更衍伸出雙 12 等購物節慶。各大電商品牌在搶攻商機的同時,營收面也傳來捷報。然而在電商產業前景可期的背後,技術層面該如何部署,以支援不斷湧入的線上購物人潮,這將是所有技術人員在熱鬧滾滾的購物節前夕必須面臨的課題。 GCP 專門家很榮幸邀請知名電商技術主管進行第一手經驗分享,在獲利翻倍的背後,他們如何結合雲端資源?如何將實體機房結合 Google Cloud?以及未來他...
廣告數據一把抓!cacaFly 結合 Google Cloud 飛越極限部署全球 取得 Facebook、Line、Google 等多家大廠數位廣告代理的 cacaFly,隸屬於雲沛創新集團 (funP Innovation Group),集團內的 TenMax 透過掌握各家內容出版平台(publisher) 的流量並計算分析其 log,協助客戶做廣告投放及內容推薦,是數據廣告產業的指標性企業。 cacaFly 早期就選擇將服務部署上雲,在業務快速成長期間果斷搭配 Google Cloud 的大...
我們的雲端儲存移轉服務可以讓您安全的將資料從 Amazon S3 傳輸到 Google Cloud Storage 中。為了使用 GCP 的服務,客戶將 PB 量級的資料從 S3 移轉至 Cloud Storage 中,並希望可以強化此傳輸服務。使用 VPC Service Controls,GCP 上針對敏感資料定義安全邊界的一個服務,增加一層或多層的安全防護,讓您更安全的移轉資料。 讓我們來看看如何使用 VPC Service Controls 安全的將資料傳輸至 Cloud Storage...
機器學習相關應用越趨明顯 現在各大產業紛紛開始導入人工智慧、機器學習的趨勢越趨明顯,然而企業欲打造整套方案,人力資源、研發以及時間成本都是考量的重點。只是人工智慧相關人才難尋且昂貴、同時新的工具、研發都需要大量的時間。在這快速的網路時代,已經不敷所需。(更新日期:2017.2.18) 現在 Google Cloud Platform 或許是您最佳的選擇,Google 強大的雲端服務不僅提供 IaaS、PaaS 甚至 Container 的服務外,人工智慧/機器學習的服務已經launch。Goog...
AlphaGo 完勝世界頂尖棋手的捷報下,機器學習 (Machine Learning) 儼然成為現今網路科技的顯學。機器學習涵蓋了跨領域的 know-how、演算法以及數據。其中數據又是決定機器學習品質重要的一環。Google 深耕大數據分析及應用多年,無所不能的搜尋引擎就是最好的例子。在資料提取 (data ingestion)、資料處理 (data process)、資料分析 (data analytics) 以及資料視覺化 (data virtualization) 等,Google 終...
 Google Data Studio 數據分析應用實例 網路,已經改變我們的生活方式,在這個時代,擁有數據、擁有流量的強者才是贏家。不論是電商、網站站長還是部落客,肯定都秉持著成長駭客的精神,無所不用其極地為網站增取曝光,比如使用數據分析工具 Google Analytics 觀察訪客行為、透過 Google Search Console 觀察關鍵字來源、操作 Facebook 廣告、學著進行 SEO 優化,每天盯著網站排名與流量,看著數字步步高昇,心裡頭的雀躍啊,躺著都會笑 (因為廣告收益也...
機器學習是什麼? 引起全球迴響的 ML 教學 這份簡報釋出後即引起世界各地極大的迴響,原因無他,作者用淺顯易懂的方式彙整了現今科技業的當紅炸子雞:AI、Machine Learning、Deep Learning,對初學者是非常合適的敲門磚。 如果您已經很熟悉這些議題,這份簡報也有依難易度做內容的區分,您可以透過閱讀藍色背景的簡報去學習更多更深入的應用。事不宜遲,趕緊來看看究竟是什麼樣的 ML 教學能引起全球廣泛的共鳴呢? (檔案較大,載入請稍作等候) (檔案原始連結:https://goo.g...
【應用】臉部辨識 - TensorFlow x deep learning (一) 在這一篇文章 中,您可以了解卷積神經網絡 (convolutional neural networks) 和其背後的理論。而本系列的文章將帶各位了解:如何運用 Tensorflow, Dlib, docker 和透過卷積神經網絡實作人臉辨識。 Overview ⬩ 臉部辨識簡介 ⬩ 使用臉部偵測和校正處理圖像 ⬩ 利用 TensorFlow 生成臉部嵌入 ⬩ 訓練 SVM 分類器 先決條件 ⬩ 了解線性代數的基本...
暨上一篇帶您了解人工智慧、機器學習、深度學習的差異後,這篇將進一步介紹該如何選擇正確且合適的資料來訓練機器學習系統。 特徵 / 屬性 (Features/Attributes) 我們透過特徵(又稱屬性) 來訓練機器學習系統。以水果為例,我們可以將水果的特徵分成重量和顏色,兩個特徵就意味著有兩個維度。如果我們用數字的方式來呈現,則可已被繪製在 2D 的象限上。 以下圖這個情況來說,ML 系統可以學會利用一條線將蘋果與橘子的資料分開。當我們輸入新的資料時,就可以運用它來做分類。(ex.) 在線上方的...
【應用】臉部辨識 - TensorFlow x deep learning (二) 上一篇文章帶您了解了人臉辨識的概念,在這篇文章中我們將實作處理數據、設置環境、得到初步的成果。 使用 Dlib 和 Docker 預先處理數據 # Project Structure ├── Dockerfile ├── etc │ ├── 20170511–185253 │ │ ├── 20170511–185253.pb ├── data ├── medium_facenet_tutorial │ ├── a...
GCP vs AWS vs Azure:Machine Learning 介紹 (一) 對於大多數企業來說,機器學習看似與火箭科學一樣需要大量資金和人才,而事實上也的確如此。「一切皆服務」的趨勢正逐步影響這個複雜的領域,你可以在沒有太多投資的情況下快速啟動機器學習計劃。如果你是數據科學的新手,想先做初步的嘗試,這的確是正確的做法。 其中一個令人印象深刻的機器學習應用,是關於一個日本農民利用機器學習自動分類黃瓜,協助父母經營農園的故事。這不同於其他大型的企業,這個人既沒有機器學習的專業知識和預算,...
【應用】臉部辨識 - TensorFlow x deep learning (三) 上一篇文章帶您初步完成了人臉辨識的實作,現在來到了這系列的最終章,將介紹如何訓練分類器,並評估成果。 在 Tensorflow 創建嵌入 (Embeddings) 處理完數據之後,下一步就是產生每張人臉的嵌入(embedding),而這些嵌入後續可以用來作為分類、回歸或叢集分析使用。 下載權重(Weights) 您將使用 Inception Resnet V1 作為卷積神經網絡。首先,創建一個文件來下載模型的權重...
GCP vs AWS vs Azure:Machine Learning 介紹 (二) 既上一篇介紹完機器學習即服務和 AWS 預測分析,現在我們將延續介紹 Google Prediction API, Google Machine Learning Engine, Azure Machine Learning Studio。 Google Prediction API Google 在兩個部份提供 AI 服務:給資料科學家使用的機器學習引擎、高度自動化的 Google預測 API。但 Goog...
機器學習系統是如何被訓練的?(三) 在了解 AI、Machine Learning、深度學習的差異以及如何選擇正確且合適的資料後,我們來看看機器學習系統是如何被訓練的吧! 監督式學習 Machine learning program 提供了帶有標籤的訓練數據,它可以告訴系統如何對示例數據進行分類,舉例來說: 顏色 重量 標籤 紅色 200g 蘋果 橘色 300g 橘子 綠色 150g 蘋果 這裡的每一列數據,都是由我們告訴系統:在給定兩個輸入(顏色和重量)的條件下,預期的輸出標籤應該是什麼(是蘋...
Google, Microsoft 和 Amazon 機器學習圖片/影片辨識 API 的比較 (四) 在上一篇帶您了解 Google, Amazon, Microsoft 在文字分析和翻譯 API 上的差異後,這一篇將帶您了解在圖片和影片辨識的領域中,這三間大廠 API 的特性與優劣。 圖像與影像處理 APIs: Amazon Rekognition Rekognition API 用於圖像以及最近的影像識別任務。 這其中包括了: •  物件偵測和分類(查找和偵測圖像中的不同物件並定義它們是什麼...
IBM 及其他 AI 服務 - Google, Microsoft 和 Amazon 機器學習比較系列 (五) 在前幾篇文章,我們為 Google, Amazon, Microsoft 的機器學習服務都提供了相當詳細的說明,來啟動機器學習實作,並在公司基礎架構中部署經過訓練的模型。還有一些其他來自新創公司的 ML-as-a-service 解決方案,並受到 PredicSis 和 BigML 等數據科學家的認可。那知名的 IBM Watson Analytics 呢? 對於商業預測,IBM Wa...
在架構推薦系統時,最重要的是開發演算法、讓演算法更理解使用者和項目,而非操作資料和架設 API。 這也就是為什麼我架了 TensorRec 框架,這個框架目的在簡化基於 TensorFlow 架設的推薦引擎的後勤工作,並讓開發者專注於更有趣的內容,像是:嵌入函數、損失函數和更強大的機器學習開發。 TensorRec 是一種推薦演算法,它有簡單的 API 可用於訓練和預測,類似於 Python 中常用的機器學習工具。它還可以讓你靈活地嘗試自己的嵌入/損失函數,使你可以架設一個適合了解特定使用者和項...
在本教程中,您將探索一個結構化數據集,然後為機器學習 (ML) 模型創建訓練和評估數據集。 這是一系列教程中的第一部分; 您可以繼續第二部分:訓練模型和第三部分:部署 Web 應用程序。 您可以使用 Google Cloud Platform (GCP) 的 Cloud Datalab 進行數據探索,並使用 Cloud Dataflow 來創建您的數據集。作為資料來源的數據集儲存在 BigQuery 中。 以下是教程的架構: 目標 使用 Cloud Datalab 探索公開數據集。 執行查詢以從...
這篇文章中,您將使用 TensorFlow 的 high-level Estimator API 創建一個寬且深的機器學習預測模型。您可以透過上一篇文章:數據分析和準備中所創建的 CSV 文件在 Cloud ML Engine 上訓練模型。 架構 這篇文章將使用下圖中虛線內的元件: 成本 這篇文章將會使用到以下需付費的元件,包含: Compute Engine Persistent Disk Cloud Storage Cloud ML Engine 根據這個定價計算器,假設您花一天使用這些元件...
繼機器學習與結構化數據系列第一篇介紹了如何準備數據及分析之後,此篇文章將接續上一篇,介紹如何訓練模型。 定義輸入列 您必須為 Estimator API 定義 serving_input_fn 函數。此方法定義列以用作預測服務的 API 請求的輸入。輸入列通常與 CSV 文件中的輸入列相同,但在某些情況下,您希望接受與您在模型訓練過程中使用的格式不同的輸入數據。 通過使用此方法,您可以將輸入數據轉換為與訓練期間使用的表單相同的表單。預測的預處理步驟必須與您在訓練中使用的預處理步驟相同,否則您的模...
透過這篇文章,您可以透過運行在  App Engine 上的 Web 應用程式來使用 Prediction API,以進行線上預測。這將是機器學習與結構化數據系列文章的最後一篇,將接續系列二的訓練模型。 架構 這篇文章將用到下圖中虛線內的元件: 部署在 App Engine 上的 Web 應用程式來提供線上預測,並根據母親的相關背景資料,來提供預測嬰兒的體重基本數據。而這篇 Web 應用程式將使用部署在第二篇系列文的 Prediction API 作為其後端基礎。Managed ML Servi...
本文的內容是由數個教程所組成的概述,此系列教程將向您展示如何在 Google Cloud Platform (GCP) 中使用 TensorFlow 和 Cloud ML Engine 實作推薦系統 (recommendation system)。 本文內容將涵蓋: 概述以矩陣分解為基礎的推薦系統理論。 描述如何使用加權交替最小平方法 (weighted alternating least squares - WALS) 來進行矩陣分解。 提供系列教程概述,並提供在 GCP 上實作推薦系統的逐步...
本文是系列教程中的第一部分,將向您展示如何在 Google Cloud Platform (GCP) 中使用 TensorFlow 和 Cloud ML Engine 來實踐機器學習 (ML) 的推薦系統。而這個部分會介紹如何在開發系統上安裝 TensorFlow 模型程式碼並在 MovieLens 的資料集上執行模型。 本教程的推薦系統使用加權交替最小平方 (WALS) 演算法,而 WALS 包含於 TensorFlow 程式庫中的 contrib.factorization package,...
本文是多教程系列的第二部分,將展示如何透過 TensorFlow 和 Cloud ML Engine 部署機器學習 (ML) 推薦系統。在這個單元中,您將學習到:如何使用 GCP 中的 Cloud ML Engine 來訓練推薦系統,並調整其中的超參數。 這系列包括以下部分: 總覽 建立模型 (一) 如何在 TensorFlow 部署推薦系統:訓練和調校 Cloud ML Engine (二) (本教程) 運用 Google Analytics 數據 (三) 部署推薦系統 (四) 請先您閱讀系列...
本文是一系列教學的第三部分,向您展示如何利用 Google Cloud Platform(GCP) 中的 TensorFlow 和 Cloud Machine Learning Engine 實作機器學習 (ML) 推薦系統。本文將會介紹如何利用 Google Analytics 360 收集的數據,透過 TensorFlow 建模做到網站的內容推薦。 這一系列教學包含以下內容: 總覽 建立系統 (一) 訓練和調校機器學習引擎 (二) 運用 Google Analytics 數據 (三) (本教...
本文是教學系列的第四部分,教您如何在 TensorFlow 和 Cloud ML Engine 實行 machine learning (ML) 推薦系統。這個部分教導您如何在 GCP 上部署生產系統,並針對產品提供建議和定期更新推薦模型。 這個教學系列包括以下部分: 概要 創建模型 (第一部分) 訓練和調整 Cloud ML Engine (第二部分) 使用 Google Analytics 的數據來分析 (第三部分) 部署推薦系統 (第四部分) (本教程) 本教程中的推薦系統使用 WALS ...
本篇文章將闡述 BigQuery 和 Cloud Datalab 作為定量分析工具的功能和實用性,可以讓您設置一個基於 Jupyter Notebook 來運行的 Cloud Datalab 教學。 如果您是定量分析師,您可以使用各種工具和技術挖掘大數據,例如:市場交易歷史,以獲取可以讓您深入了解市場趨勢的信息。由於報價和交易資訊是以可預測的時間不斷間隔發生,因此您可以透過「頻率分析」、「移動平均線」等技術來分析這些按著時間來排列的財務資料。 但處理大量資料庫是很有挑戰性的,傳統在使用的工具可能...
之前的文章簡介了 AI、機器學習與深度學習。接下來我們會以生活化的情境說明傳統機器學習的方法。本篇首先介紹傳統機器學習中的「監督式學習」。 回顧之前文章提到的監督式與非監督式學習,兩者最大的差異在於資料是否預先被標註;如果有,則可說這個題目屬於監督式學習。演算法會由標註好的訓練資料學習並建構模型,以確定該給測試資料哪種標記。如 GCP 專門家開發的柴犬秋田辨識器,就是藉由已標記的資料去訓練模型。 監督式學習:迴歸 vs 分類 監督式學習最常處理的兩個問題:迴歸、分類。當你預測的目標為連續的數值,...
如前篇文章所述,監督式學習的演算法就是要學習得出一個方程式 y = f(x) 以表達資料集的分布狀況,讓我們之後匯入新的資料 (x) 就能做出相應的預測 (y)。這種方法通常也被稱作「預測模型」或「預測性分析」,而預測模型或預測分析的目標,就是盡可能地提高預測與實際結果的精準度(關於精準度的判斷,我們會在下期說明)。 本文針對機器學習新手簡述資料科學家經常使用的幾個演算法的基本概念,並比較其中幾項差異與優缺點。 迴歸的演算法 線性迴歸 Linear Regression、多項式迴歸 Polyno...
根據 2020 年 Gartner 雲端用戶購買行為調查,近 80% 使用雲端的受訪者表示,他們會同時與多家雲端服務商合作1。多雲儼然已成為事實。此外,企業為了超越競爭對手,也得開始執行資料分析 ─ 不論資料儲存在何處。 為此,Google 也致力於提供完善的多雲分析解決方案,為企業打破資料孤島,使人們能夠輕鬆且大規模地進行分析。而這一承諾也在新的 Gartner 2020 雲端資料庫管理系統魔力象限中得到了體現,在該報告中 Google 被公認為領導者2。 如果剛好您也需要在一個安全、全代管的...
回到頂端