技術專欄

集結國內外精選文章,掌握最新雲端技術新知與應用 

iKala Cloud / 部落格 / 產業解決方案 / Google Cloud BigQuery 助行銷科技業者 Viant 打造自動化資料探勘工具,10 倍優化客戶服務效率

Google Cloud BigQuery 助行銷科技業者 Viant 打造自動化資料探勘工具,10 倍優化客戶服務效率

Viant Technology 是一家在美國的行銷科技公司,讓行銷人員能夠規劃執行並衡量他們對數位媒體做的投資。其中 Viant Technology 使用 Potens,一套基於 BigQuery 的強大高效大數據工具,在美國服務超過 2.5 億的用戶,替跨裝置廣告提供精確投放資源、觸及率及廣告估價等功能。

Google Cloud 實質效益

  • 提供 Business Intelligence (BI) 團隊完整的自助串流廣告日誌存取權
  • 根據不同需求擴增/減,無需額外花費添購和管理硬體
  • 團隊可以快速的回覆客戶複雜的資料查詢
  • BI 團隊能有效處理較以往多出 10 倍量的客戶問題
  • 運營團隊每個月服務高達 25 萬筆資料查訊

大部分的公司都會面對大數據的問題,但 Viant 面對的是巨量的數據。行銷人員每天從雲端平台發布超過 250 億個廣告需求,在繁忙時段甚至高達 1,000 億個請求。平台上每天有數十億個廣告投標。每一個廣告的需求、投標或展示都包含超過 700 個數據點。2011年,Viant 不斷成長的資料量為公司的運營團隊帶來兩大挑戰:

(一) 當時 Business Intelligence (BI) 團隊僅有單一用戶介面去查詢極為有限、已經聚合過的資料,因此 BI 團隊無法準確的回覆客戶提出的問題,例如客戶廣告的觸及率。

(二) Viant 需要取得所有資料的完整訪問權,並使用自助且自動化的方式取代重複手動的繁瑣操作。

這種基本分析需要回到 log-level data 做分析,以便在多天的廣告活動中對單一用戶進行去重。在過去要解決一個簡單的問題,運營團隊需要填寫一份 20 個問題的表單,再將問題轉化成工程術語,最後提交給 Data Warehouse 團隊,提交數據後,尚須等待三至五天才能得到答覆。其中可能會遇到運營團隊沒有正確的描述問題,或是工程師沒有準確地將問題翻譯成有效的數據,這些都需要額外再花時間做往返溝通,回答一個簡單的問題可能要花兩到三個禮拜。

第二項挑戰:自動化,在 2011 年時,手動收集/分享數據等重複性高的工作讓運營團隊陷入困境,佔據了團隊原本需要專注於資料分析和維護的大量時間。舉例而言:當團隊要存取局部資料,資料會以表格的方式匯出至桌面進行分析。如果接下來同一份資料有更新的版本或者當初提交的查詢被解譯錯誤,整個流程就必須重新來過。

「我們遇到困境了,每天不斷重複相同的事情,非常多此一舉。」— Viant 資深副總 Steven Ohrnstein 提到。

於是到了 2013 年,Viant 開始將資料和數據處理從 Apache Hadoop、Netezza、其他自建硬體設施轉移至 Google Cloud,首重是 BigQuery。Steven 表示:「BigQuery 大幅提升了團隊整體表現和效率,BI 團隊從有限的聚合數據資料,到擁有廣告串流日誌的完整訪問權。一夕之間 Data Warehouse 團隊解決了過去操作數據的問題,沒有任何工具可以和 BigQuery 超快的查詢速度相互比擬,它開啟了報表和洞見新的可能性。」

加速資料存取

Viant 昂貴且複雜的 data warehouse 硬體建設,在簡化和加速資料存取上造成一大阻礙。在使用 GCP 之前,Viant 無法快速的擴展數據倉儲和硬體維護,然而數據廣告產業屬季節性業務,有時需要替客戶處理大量的數據,但大多時候並不會收到關於需要更多硬體和儲存空間的告警。除了上述季節性的需求波動之外,公司往往會購買高出所需的硬體設備和儲存空間以因應客戶的成長,成本不僅高昂且難以管理及預測。BigQuery 不僅屬於代管服務還能輕鬆依需求擴展,使 Viant 無需擔心規模的問題,也無需 IT 部門的協助。

BigQuery 彈性擴充的同時也精進了數據查詢的性能。耗時的查詢和數據下載是過去 Viant 在SQL 和資料倉儲方案上的痛點。透過 BigQuery,Viant 能更快速地查詢資料,無需為了增加查詢速度而購買硬體設備,查詢資料的時間從兩天變成只需要幾分鐘。

相較於過去需填正式表單並等待數天才能回答客戶的問題,現在透過 BigQuery log-level 資料,BI 團隊能夠更快速的回答客戶關於廣告觸及率等問題。同時因為查詢速度的提升,Viant 的 BI 團隊答覆數量比過往增加了 10 倍。

建構在 BigQuery 之上

隨著需求量和複雜度的增加,Viant 逐漸無法用單次查詢得出答案,舉例而言:一個典型的產品類型詢問需要很多步驟,涵蓋從 Cloud Storage 中拿資料、將資料作轉換、最後根據某些條件對資料聚合和發送通知。有些更複雜的請求甚至需要經過上百個步驟才能達成,或是有些請求需要透過外部事件的觸發 (如:在 Cloud Storage 中儲存新資料),才能接著做後續的步驟。

為解決自動化問題,2015 年 Viant 建立了 Potens。Potens 基於 BigQuery 之上提供兩種工具:(一) 用於自動化數據查詢工作流的 – Magnus。(二) 用於管理查詢 BigQuery 的資料探勘工具 – Goliath。

Potens 團隊建構了一套自動計算廣告價值的演算法,讓使用者無需手動管理廣告價格,並讓 BI 團隊初次擁有訪問權限,能夠將多種資料交錯查詢,替 Viant 的客戶提供更複雜的廣告活動數據探勘。透過 Potens 使用自動化的功能,Viant 在 2018 年面對將近 3,000 則客製化的情報請求,能夠在短短幾分鐘內透過電子郵件回覆。過去客戶需填寫申請表,接著等待 1 至 2 天才能得到 BI 團隊手動查詢後的回應。

在運營團隊得到完整的訪問權後,Potens 每週進行建模,以確保團隊成員都能自行查詢數據資料。Data Warehouse 團隊也無需再管理底層基礎設施和執行反覆查詢工作,讓他們可以更專注於開發 Potens 新功能上。不論是 Data Scientists 部門或是 Product Managers 部門皆受惠於此,無需再透過工程師也能夠輕鬆的操作複雜的查詢作業。

為客戶創造更多價值

Potens 和 BigQuery 讓 Viant 在市場上增加競爭優勢。Viant CTO Fabrizio 表示:「數據和我們密不可分,透過 BigQuery 和 Potens,我們能即時提供精確的數據給客戶並提供更多價值。」

(本篇文章翻譯自 Google Cloud。)

 

分享本文:
FacebookLineTwitter
回到頂端