Bowen Chiu零號記憶 mem0 效能太慢初探,但值得參考api架構與dashboard,全部自己重寫,提升效能跟穩定度mem0套件,經過實際驗證測試,記憶一條東西,需要耗時30 secs,所以沒辦法在商用場合大規模導入。但她的雲端介面設計得有啟發性1d ago1d ago
Bowen Chiu自己設計 gmail 帳號可登入的AuthService,如何輕量串接google cloud run的RAGService容器?. google cloud run 上面有各種獨立開發的容器,都需要認證才能呼叫 . 希望能 gmail 自動登入 . 如果直接用 firebase auth 未來移植到本地主機會有困難 . 希望最小化 RAGService 獨立開發負擔,有JWT就能獨立開發 …1d ago1d ago
Bowen ChiuGoogle Cloud Tasks vs. Google Cloud Composer (airflow):選 RAG 配搭剛剛試用 airflow 真的很簡單用,十分鐘可以搭建。而且有雲託管的現成的 google cloud composer, 還有未來移植本地也沒有問題!比較之後,選擇 cloud composer (airflow) 會優於 cloud tasks。2d ago2d ago
Bowen Chiugoogle cloud tasks 防止 vm 突然記憶體爆漿,磁碟io狂寫,變死雞🐔之前誤解以為用 google pub sub 服務適合做分散任務queue,但其實 rag 索引製作大量的一萬個檔案,類似這種分散任務,應改用 google cloud tasks 才能做每秒請求的流速控制,以及失敗 retry。2d ago2d ago