小公司如何應對 OpenAI 挑戰?

Benson Tu
Mar 19, 2023

--

面臨最大的難題是,許多原定的服務還在開發中,但是 OpenAI 的革命性技術已經問世,問題廣度和回應深度都非常夠;已知繼續開發下去很難取得勝利,對於較小的 AI 公司來說,應該如何因應?

#1 承認自己的強項並非燒錢戰

天神之戰,OpenAI、Azure、Meta 之間的競爭主要集中在 Basemodel,小公司沒有足夠的資本參與。為什麼這樣說?

建立強大的 Basemodel,除了網路上公開的資料外,還需要各領域未公開的對話資料。只有像 Azure 這樣與多個領域合作多年的公司才可能擁有這樣的資料。首先,假設購買資料的成本每月為 1000 萬。

接下來,需要大量人力標註這些原始資料,據說 OpenAI 有 1000 人在做這件事,以每人每月 30K 新台幣計算,標註成本每月約為 3000 萬。

最後,至少 100 人的開發團隊和每月 9,000 萬新台幣的模型訓練費用,每月總支出約為 1.45 億。

燒了一堆錢做出一個 me-too product,不應該是台灣走的路。

#2 善用這些怪獸級 Basemodel

使用這些強大的 Basemodel 已經不是選擇而是必須,否則就會落後於競爭對手。

當這些產品初次推出時,與同業朋友聊天,大家都不知道該如何應對,因為太強了…此外,長期以來大家都是 100% 自家技術,從未想過使用別人的服務。

現在的我認為,這些堅持在產業革新下需要迅速改變心態,並認清楚自己的定位。早期的計算機是算盤,一家公司就能製造,但現在的電腦硬體供應鏈有多複雜?此外,AI 模型的開發從一開始就是基於前人的實驗來進行優化。所以不要因為使用別人的 APIs 而感到不安,這是產業演化和專業分工的必然結果。

就像 iOS/Android 工程師,心態應該轉變為「如何利用這個平台來強化自己?」

#3 投放資源大量嘗試這些模型

AI 的發展本來來自於學術界的不斷研究,並主要依靠論文來獲得最新技術。但在生成模型領域中,OpenAI 非常聰明地將模型釋放出來讓大家使用和體驗其強大之處,然後再研究細節並逐步公開,因為這些生成式模型很難評估,沒有標準答案,甚至開發人員也不太清楚模型的潛在能力。

現在,當 OpenAI 和 Google 的模型推出時,AI 小公司必須針對自己主打得的情境立刻使用和測試,並將其納入常規產品開發流程。

#4 將開發資源投入領域專業的領域

毫無疑問,為了生存,公司的目標可能會隨時間改變,但每個目標都需要更加專注。因為一旦什麼都做,就是直接與這些生成模型競爭。這些模型已經具有很強的通用性,因此通用型絕非小公司的發展方向。

領域專業意味著專注於特定領域,例如判斷對話中顧客是否想要購買蘋果並實時顯示在螢幕上。你需要一個實時的語音轉文字串流,再從對話中提取與購買水果相關的對話,然後將其交給 ChatGPT 來判斷顧客是否想要購買水果。

在此過程中,模型對水果買賣要有非常強的理解,而 ChatGPT 的輸入有技術上限。因此,需要找出如何從對話中提取正確的文本,並將其轉換成 ChatGPT 能夠好好回答的格式。最後,針對這個情境,設計並嘗試適合的 ChatGPT 提示問題,以便獲得相應的輸入/輸出。

在定位上,小公司的產品之所以強大,是因為在這個情境中,團隊對於在 ChatGPT 前後處理有很強的Know-How。

#5 看重有資安或速度考量的情境

超強的模型執行成本很高速度很慢,所以若是要 realtime response 或是資料不外露的情境下,AI 小公司就可以發揮所長,建構出在特定情境下,只要十分之一的成本於時間,就可以達到跟 chatGPT 幾乎一樣的效果。

說實話,我還在摸索中,但這真的是我人生中第一次親身經歷整個產業被顛覆的感覺,終於明白「破壞性創新」的意義,並在實際生活中感受到「若不改變將會死」的壓力。

不知道最好的解法在哪,只能一直改變嘗試生存。

--

--

Benson Tu

把職涯發展賭在人工智慧,把資產放在加密貨幣。