透過向量檢索增強，打造高度可信賴的生成式AI內容
-
DIGITIMES
/
台北
- 2024-06-27 13:25:27
生成式人工智能(Generative AI)近年來風靡全球，其能夠回答問題、撰寫故事、創作藝術，甚至生成程式碼，令人驚嘆不已。然而，要打造一款高準確度的生成式AI應用程式，需要結合領域特定的資料，才能真正發揮其威力。透過向量檢索增強生成(Retrieval Augmented Generation， RAG)技術，就能將您的企業資料與大型語言模型(Large Language Model， LLM)完美融合，打造出高度相關、內容豐富且安全可靠的生成式AI應用程式。
生成式AI應用準確度的重要性
生成式AI應用程式的核心是LLM，這是一種在海量資料(如網際網路上的所有內容)上經過訓練的機器學習模型。這些LLM被視為基礎模型(Foundation Model， FM)，可以針對各種使用案例進行調整與微調。然而，單純依賴FM所產生的結果，雖然擁有廣泛的實際知識，但往往缺乏領域特定的精確度，且更容易出現虛構(Hallucination)的情況，產生看似正確但實際上錯誤的結果。
為了提高生成式AI應用程式的準確性，我們必須將其與您的企業資料緊密結合，利用RAG技術將領域特定的內容納入生成過程中。這不僅能夠大幅提升結果的相關性與精確度，更能避免出現虛構的情況，確保生成內容的可信賴性。
什麼是向量檢索增強生成(RAG)？
RAG是一種提示工程(Prompt Engineering)技術，可以將領域特定的資料融入LLM的輸入提示中，從而引導模型產生更加準確且相關的輸出結果。在RAG流程中，我們會將企業資料轉換為向量(Vector)形式，並儲存在向量資料庫(Vector Datastore)中。當使用者提出查詢時，系統會先從向量資料庫中檢索與查詢最為相關的向量，並將其轉換為文字形式，納入LLM的輸入提示中。
藉由將相關的領域特定內容納入輸入提示，LL
