RPA 實戰應用|五分鐘帶你看懂電商產業背後的爬蟲機器人(上)
現在是 2021年12月11日深夜23:55,小優開啟多個分頁並打開數個購物網站,摩拳擦掌地瀏覽網頁資訊,準備在各大電商的雙十二購物節,以最優惠的價格購入商品。
記得上次的雙十一,小優沒有提前花時間收集產品資訊,導致許多想買的商品馬上就被搶購一空,但這次雙十二適逢周日,小優有充足的時間可以瀏覽商品資訊!在她瀏覽許久後,終於在 XOXO 平台看到一個垂涎已久的航X王公仔,而且價格也相當吸引人,只要定價的七折就可以買到!
正當小優覺得自己撿到便宜,卻驚喜地發現另一個電商網站 XXhome 突然也推出折扣,更同樣將價格下殺到七折,如果配合小優的信用卡活動還反而能得到更低的價格,因此小優滑鼠一轉,跳到 XXhome 並開心地登入會員進行下單…
但小優不知道的是,XXhome突然下殺的優惠與價格設定並非偶然,這一切都與「爬蟲」有關。
爬蟲到底是什麼?
爬蟲是網路爬蟲(web crawler)的簡稱,主要應用是設計一個程式機器人,使其按照一定的規則自動抓取網頁上的資訊,協助使用者快速查詢,並進行更多的延伸分析和討論。
一般來說,爬蟲機器人會從網站中某個頁面進行搜尋和讀取,並尋找該頁面的其他網站連結,一層接著一層進行搜尋直到將該網站全部都讀取完成,但如果該網站有極大量的網頁連結呢?爬蟲機器人通常會依據該頁面的相關重要性作為優先順序進行讀取,像是訪客數、相關連結數量,以及其它可判斷該頁面可能包含重要資訊的因素。
理所當然地,有人會透過爬蟲機器人讀取網頁內容,自然也有「反爬蟲」的網站存在,畢竟如果有大量的爬蟲程式跑到同一網站下載資訊,會對網站的伺服器造成極大負擔並導致延遲狀況產生,而影響到真實用戶。
此外,一些本來就希望真人操作的頁面(如登入頁面),同樣也會希望佈下反爬蟲程序來反制,所以設計爬蟲程式時,如何去應對這些反爬蟲網頁也會是需要考量的因素之一。
爬蟲可以做什麼?
爬蟲機器人可以因應使用者的不同需求,進行網頁資料抓取。
還記得剛才小優的故事嗎?她可以透過爬蟲機器人,提前將電商網站的商品、價格、折扣,甚至是目前庫存狀況都下載下來,當看到有吸引力的價格便可即時下單,而不用時時刻刻盯著網站價格頁面,自然也就不會錯過當初的雙十一折扣了。
許多企業的核心業務也與爬蟲息息相關,以大家常使用的 Google 搜尋引擎為例,便是會去爬行數以百萬計的網站內容,進行解析和建立檢索系統,這樣消費者輸入想要搜尋的關鍵字後,便可以依照這些關鍵字尋找最相關的網站,進一步提供用戶最適當的資訊和解答。
技術很重要,但使用者才是活用的關鍵。
在這個資訊為王的時代,爬蟲機器人的應用相當多元,不論是個人用戶端的獨立需求,或是團體企業端的產業用途,都有機會透過爬蟲機器人取得更多資訊,重新梳理並發揮更大價值,尤其電商產業與之息息相關,必須著重思考爬蟲機器人帶來的影響,原因包括:
- 從積極意涵來看,目前電商網站偏好採用「動態定價」,也就是說產品價格會考慮市場供需、庫存水平等而不斷浮動,如一件衣服一周內可能會有數種價格、一款電器幾天內的價格波動可能多達數百元,藉由這種機制能為平台帶來更多佣金和利潤。而此一機制的背後就是藉由爬蟲機器人,了解整體電商市場的產品銷貨狀況,才能進而動態調整。
- 從消極意涵來看,我們常聽說有詐騙集團會透過自動化工具嘗試破解會員帳密,或透過大量爬蟲機器人影響伺服器運作,進而造成癱瘓,過去中國大陸更有人用非法爬蟲取得淘寶數億人的個資,獲利高達數百萬,因此電商網站該如何進行防範?便是需要更進一步關注爬蟲機器人的發展。
促銷季節,電商們更默默打起「蟲蟲大戰」,
透過爬蟲機器人以提供具競爭力的價格策略。
總結與觀點
我們在這篇文章中快速介紹爬蟲的入門概念、應用案例以及對於電商產業的必要性,在資訊爆炸的世代中,爬蟲機器人可以有效節省我們追蹤、梳理資訊的時間,讓我們將更多心力放在如何將資訊昇華成有價值的洞見及觀點。
電商提供好的價格策略才能獲得競爭優勢。事實上,「爬蟲」正是每個電商業者都必需掌握的關鍵成功因素(Key Successful Factors)。
然而為何其如此重要?背後又有哪些脈絡呢?
下一篇文章中,RPA數位優化器將會進一步介紹爬蟲機器人與電商產業千絲萬縷的關聯,並且結合管理學的概念與 Amazon 的案例,幫助大家更深刻了解爬蟲對於一個產業的影響,千萬別錯過了!
爬蟲不是工程師專屬的武器,
而是你我皆可運用的一項關鍵成功因素。
如果你/妳喜歡這篇文章,歡迎透過拍手,讓我們更有動力寫下去!
這次的分享到此告一段落,想了解更多RPA在數位轉型過程中所扮演的角色、UiPath操作技巧與實務應用,以及數位轉型相關趨勢與心得,歡迎追蹤RPA數位優化器的臉書粉絲專頁與我們互動,我們下次見!🚀 臉書粉絲專頁傳送門:RPA數位優化器