彩神V

產品介紹

cVector向量計算一體機是一種麵向億級以上向量計算場景的高性能向量存儲、計算一體化平台,采用並行計算架構,融合高密度混合服務硬件,實現對大規模向量數據的計算和比對,相較於通過GPU、向量數據庫進行向量計算,cVector向量計算一體機在入庫效率、計算性能方麵優勢突出,可廣泛應用於人工智能大模型、機器學習、計算機視覺、自然語言處理等領域。

產品架構

cVector向量計算一體機基於大數據分布式實時計算框架,結合定製化高密度計算硬件,實現大規模AI任務的分發與計算結果匯聚,保證計算任務執行的高效和穩定。其采用全量計算的方式,基於特征向量計算算法以及分布式集群處理資源調度技術,實現了海量特征庫條件下1:N對比任務的高效分解與並行處理,可將單個任務響應效率提升到0.1秒級。對於通過向量數據庫軟件需要幾千個時鍾周期的向量計算,該一體機隻需很少的時鍾周期即可完成。

產品特性

高性能向量計算
cVector向量計算一體機通過硬件加速和優化算法,實現了對大規模向量數據的高性能計算,能夠並行處理多個向量操作,在1000萬條256維向量中檢索指定向量時,cVector向量計算一體機僅耗時0.0661s(單節點)。
超高速入庫
cVector向量計算一體機具備超高速入庫特點,入庫1000萬條256維向量數據,cVector向量計算一體機僅花費303.59s(單節點)。即使麵對億級以上規模的向量數據,cVector向量計算一體機也能輕鬆應對。
支持多種向量相似度計算方法
cVector向量計算一體機支持多種向量相似度計算方法,例如餘弦相似度、歐式距離、曼哈頓距離等。
支持多維向量
cVector向量計算一體機能夠支持多維度的向量數據,可以存儲和查詢1024維度的向量數據,可廣泛用於圖像識別、語音識別等應用場景。
並行處理
cVector向量計算一體機具備強大的並行處理能力,能夠同時處理多個向量操作任務。這使得它在大規模向量數據集上能夠快速執行複雜的向量計算任務,如相似度搜索、聚類分析等。
簡單易用
cVector向量計算一體機支持靈活的編程接口和工具,向量入庫和檢索非常便捷,同時也方便用戶對向量數據進行處理和分析。

測試證明

以下是中國軟件評測中心對cVector向量計算一體機與3款主流向量數據庫在入庫速度、查詢速度、準確性等維度進行的性能測試對比。

準確性

在“cVector 向量計算一體機 V1.0”、向量數據庫A、向量數據庫B和向量數據庫C中存儲相同的 1000 萬條的 256 維向量數據,分別查詢與目標向量的歐氏距離最短的 10 條向量,對比結果顯示各自返回的 10 條向量與目標向量的距離值均相同。

測試結論

“向量計算數據庫驗證平台 V1.0”性能效率符合《向量計算數據庫驗證平台測試需求V1.0》的相關要求,在現場測試過程中,係統運行穩定,通過了中國軟件評測中心(工業和信息化部軟件與集成電路促進中心)的單項性能測試。”

根據測試報告結果,cVector向量計算一體機在千萬級特別是億級以上規模的入庫和查詢等方麵具有顯著的性能優勢,可幫助提高大模型推理的服務性能和服務質量,並能明顯降低其基礎設施建設成本,幫助類ChatGPT等人工智能企業以更優的性價比解決算力不足的問題。

技術規格

應用場景

基於硬件的cVector向量計算一體機,實現了高效的向量數據存儲、索引和比對,與向量數據庫相比,cVector向量計算一體機入庫速度和查詢速度更快,處理規模更大,檢索結果更為精準,可廣泛用於大語言模型、自然語言理解、大規模人臉識別等多種場景。
大語言模型支撐
cVector向量計算一體機將數據轉化為向量進行保存與搜索,為大語言模型的訓練和推理提供高效的相似性搜索能力,具備短時記憶和定向等功能,在不進行推理的情況下直接返回結果,幫助大模型減輕訪問壓力、提升實時理解數據能力、提高輸出準確性、提升服務質量、過濾敏感內容等,有助於解決當前同等投入規模情況下,僅依靠GPU不足以支撐大模型推理所需算力的難題。
文本相似度計算
cVector向量計算一體機根據向量的相似度排序返回與檢索對象相近的結果,支持基於文本的快速比對。針對千萬級甚至上億量級的文本數據庫,結果返回速率達到0.1秒級,可廣泛應用於資料查詢、專利搜索、電子病曆檢索、法律文獻檢索、學術文獻檢索、論文查重等多種場景。
圖像視頻檢索
cVector向量計算一體機能夠支持多種深度學習模型,具備對海量圖片和視頻的高性能分析檢索能力,通過訓練可以精準地提取圖片、視頻中的特征並進行分類、打標簽等應用,從而輕鬆實現圖片檢索、圖片去重、視頻去重、以圖搜圖等功能。
音頻數據處理
cVector向量計算一體機支持對相關音頻切片進行向量化處理並通過向量距離的計算,判斷其表達的含義,實現對語音、音樂等音頻數據的處理,可廣泛應用於語音識別、語音驗證、智能翻譯、會議轉錄等多個場景。
智能問答
cVector向量計算一體機支持快速入庫和存儲自然語言處理語義分析模型的語義特征向量數據,支持快速比對問題庫的向量和提問問題的語義特征向量,通過向量特征的匹配實現智能問答,支持智能客服、智能語音助手、醫療輔助問答等應用場景。
個性化推薦
cVector向量計算一體機能夠為購物網站、視頻網站、新聞網站的推薦係統進行賦能,將購物網站、視頻網站和新聞網站的海量數據轉化為向量後進行快速比對,實時分析用戶的偏好和行為模式,精準地為用戶推薦個性化的商品、視頻和新聞內容,提供更加智能和準確的推薦服務。
彩神V