零基礎實操把知識庫接到聆思CSK6大模型開發板上

ID:1124148 · 發表于 2025-5-23 15:18

大模型作為一個語言模型，實際上沒有真正的記憶功能。所謂的對話記憶只是開發者將對話歷史向GPT發送消息時將最近的對話歷史通過提示工程組發送給ChatGPT。換句話說，如果對話歷史超過了大模型的最大上下文，GPT會忘記之前的部分，這是大語言模型共有的局限性。

另外對專業領域知識的訓練缺乏也是非常明顯的短板。盡管這些模型在理解和生成自然語言方面有極高的性能，但它們在處理專業領域的問答時，卻往往不能給出明確或者準確的回答。在醫學、法律、工程等領域，人工智能可能被要求要理解和運用相當復雜和專業化的知識，然而這在目前的模型中仍是一個巨大的挑戰。
針對專有和專業知識在大模型的應用落地出現不少解決方案，而向量數據庫就是其中之一。當我們很多文檔（例如客服培訓資料或者產品操作手冊）需要大模型根據它們的內容進行回答時，我們可以先將這份文檔的所有內容轉化成向量（這個過程稱之為 Vector Embedding），然后當用戶提出相關問題時，我們將用戶的搜索內容轉換成向量，然后在數據庫中搜索最相似的向量，匹配最相似的幾個上下文，最后將上下文返回給大模型。這樣不僅可以大大減少模型的計算量，從而提高響應速度，更重要的是降低成本，并巧妙的減少 tokens 限制所帶來的問題。
針對這種需求，聆思CSK6大模型開發板也配套提供了一個知識庫方案，參考下面文檔三步就能在智能硬件上接入自建的知識庫

帳號		自動登錄	找回密碼
密碼			立即注冊

久久久久久久999_99精品久久精品一区二区爱城_成人欧美一区二区三区在线播放_国产精品日本一区二区不卡视频_国产午夜视频_欧美精品在线观看免费

零基礎實操把知識庫接到聆思CSK6大模型開發板上