Softaverse會議記錄終於可以騰出雙手!建置Whisper自動語音轉文字Whisper 模型專為語音識別(Automatic Speech Recognition, ASR)和語音翻譯而設計,能夠將多國語言的錄音檔轉成文字,或翻譯成英文。May 29May 29
Softaverse九成的人都不懂得如何有效與AI對話!提示工程介紹LLM的訓練過程是通過自然語言進行的,不需要像過去的機器學習模型那樣進行訓練或調整。這一變革產生了大量的創新,並引發了技術部署方式的轉變。利用自然語言編程語言模型來完成任務的科學和藝術被稱為「提示工程」(Prompt Engineering)。May 26May 26
Softaverse建置自己的ChatGPT原來這麼簡單!LLM REST APIs and a simple web front end with llama.cpp我們花了大量的時間和精力,在本地成功地啟動了Llama 3。最令人開心的是,這不僅可以降低成本,還能夠客製化地應用於我們自己的商業邏輯中。經過本地測試開發的完成,接下來我們將把服務部署到伺服器上。而Llama.cpp提供了開箱即用的HTTP…May 25May 25
Softaverse零成本!本機LLM打造個人化RAG應用,Llama 3🦙🦙🦙 + LangChain🦜🔗Llama 3很強大,但如果無法運用它的強大,那麼都跟我們無關。身為開發者,我們如何用在自己的應用上呢? 本篇以Q&A應用作為切入點,用Llama 3🦙🦙🦙 + llama.cpp + LangChain🦜🔗,在消費級電腦上打造個人化Q&A應用。May 13May 13
SoftaverseLlama 3來了!本篇一步步教你如何在本機安裝使用在本機安裝與前一代雷同,步驟也可參考前面發佈的文章強大的開源Llama 2到底如何為己用呢?本篇文章教你如何在本機安裝並使用Llama 2,在執行的過程中遇到不少坑,並且在網路上很難找到答案,因此想藉由文章紀錄並分享給水深火熱的開發者們,希望可以你們可以少踩一些坑。Apr 28Apr 28
SoftaverseLlama 3全新上線,多了哪些新功能?Meta於4/19推出了他們最新的語言模型Llama 3模型,分別有兩種版本:8B & 70B。這款新模型在許多方面對其前任進行了顯著的改進,包括性能、靈活性和多語言能力。Apr 22Apr 22
Softaverse不用find-tune也能保證Llama 2不亂說話!善用“Grammar”客製化輸出內容LLM(Large Language Module)最讓人詬病的問題之一是「亂說話」,得到不是預期的回應。 本篇文章介紹如何利用文法(Grammar)規則限縮Llama 2的生成內容,讓輸出維持在可控範圍同時保留LLM發揮創意、生成內容的優勢。Apr 20Apr 20
Softaverse開源的Llama 2有哪些玩法?本篇文章介紹開發者與Llama 2的互動方式上一篇文章介紹的如何在本機安裝,且成功執行Llama 2生成隨機內容。llama.cpp支援了幾種與Llama 2的互動方式,開發者可以靈活運用這些模式,加上自己的商業邏輯做出想要的效果。Apr 14Apr 14
Softaverse強大的開源Llama 2到底如何為己用呢?本篇文章教你如何在本機安裝並使用Llama 2網路上免費的工具確實可以滿足大部份日常工作需求,身為開發者,AI的強大可以廣泛應用在各個地方,於是腦中浮現了很多想法,想要動手串接自己的應用,開源的Llama 2完全可以做到任何客製化的大型模型語言應用。Apr 9Apr 9
Softaverse2023 Meta最強開源LLMs: Llama2介紹Llama 2的訓練資料比Llama 1多40%,並且有更長的上下文長度(Context Length: 4096),意味著可以一次「記憶」更長的對話內容。更重要的事情是,Llama 2是「開源」的大語言模型…Apr 5Apr 5