解決hugging face model GPU resource 佔用問題
由於工作需要所以同一台電腦要放好幾個需要一直長開的backend, 而因為數量開始多,所以需要程序本身去release model所佔用的GPU,但問題是用hugging face 中的SentenceTransformer並沒有找到相關的function, 當中可以在程序運行之中釋於GPU的是start_multi_process_pool和stop_multi_process_pool, 麻煩的這start_multi_process_pool並不能在docker contaier 內運行(即使docker…