12月15日,2023 英特爾新品發布會暨 AI 技術創新派對上,星環科技基于第五代英特爾®至強®可擴展處理器的Transwarp Hippo分布式向量數據庫解決方案重磅發布。該方案利用第五代英特爾®至強®可擴展處理器帶來的強大算力,實現了約 2 倍的代際性能提升,可有效滿足大模型時代海量、高維向量的存儲和計算需求,能夠幫助企業更好地應對大模型時代海量、多維向量數據的高并發和實時計算等挑戰。
基于不同代際英特爾®至強®可擴展處理器的 Transwarp Hippo 性能對比
以大語言模型為代表的人工智能 (AI) 應用出現爆炸式增長背景下,企業對于非結構化數據的存儲與處理需求出現了快速增長,分布式向量數據庫得到了普遍應用。分布式向量數據庫在大模型應用中扮演著重要角色,大模型+向量數據庫的架構能夠讓大模型保持數據的實時性,使大模型擁有 “長期記憶”,解決模型需要多次二次訓練才能滿足不同業務需求。同時,通過多模態信息的向量化,幫助大模型滿足回答信息實時性要求。
星環科技分布式向量數據庫 Transwarp Hippo 作為一款企業級云原生分布式向量數據庫,基于分布式特性,可以對文檔、圖片、音視頻等多源、海量數據轉化后的多維向量進行統一存儲和管理,能夠通過水平擴展架構,充分發揮并行檢索能力,實現毫秒級高性能數據檢索,結合相似度檢索等技術,幫助用戶快速挖掘數據價值。
星環科技分布式向量數據庫 Transwarp Hippo 產品架構
星環科技分布式向量數據庫Transwarp Hippo 主要優勢:
一站式:提供向量轉化工具和Embedding模型,一站式完成模型上架、模型評估和模型部署,降低用戶使用成本,提高數據入庫效率。
高精度:多類索引支持,一庫搞定向量+全文聯合檢索,提高大模型召回準確率;結合自研圖數據庫,可進一步提高大模型精度。
高性能:支持多進程架構與GPU加速,充分發揮并行檢索能力,結合軟硬件深度優化,充分發揮CPU多核、高內存帶寬等優勢,為海量、多維向量提供強勁算力。
易對接:提供標準的Python、Restful、Java API等接口,可輕松對接各類應用和模型,提高應用開發和調用的效率。
在搭配第五代英特爾®至強®可擴展處理器之后,星環科技分布式向量數據庫Transwarp Hippo 能夠提供強大的性能基礎,在大模型等場景創造巨大價值。
支撐數據的高效處理:基于第五代英特爾®至強®可擴展處理器的 Transwarp Hippo 能夠實現海量、高維度向量數據處理,并具備低時延、高精確度等優勢,可以滿足大模型訓練等場景對于數據處理能力的苛刻要求。
降低向量數據庫的總體擁有成本 (TCO):由于第五代英特爾®至強®可擴展處理器實現了代際性能的大幅提升,有助于提升 Transwarp Hippo 服務器節點的性能密度,幫助用戶節省在服務器采購、部署等方面的投資。同時,第五代英特爾®至強®可擴展處理器在性能提升的同時,具備更高的每瓦性能,有助于節省單位性能的能耗支出。
具備性能進一步提升潛力:除了更多的核心數量,更快的 IPC 性能之外,第五代英特爾®至強®可擴展處理器還搭載了英特爾® In-Memory Analytics Accelerator(英特爾® IAA)等硬件加速特性,有助于進一步提升數據庫等場景的性能。
基于第五代英特爾®至強®可擴展處理器的星環科技分布式向量數據庫 Transwarp Hippo,提供了領先的性能表現,可以有效地解決大模型在知識時效性低、輸入能力有限、準確度低等問題。通過將最新資料、專業知識、個人習慣等海量信息向量化存儲在星環科技分布式向量數據庫 Transwarp Hippo 中,企業可以有效拓展大模型的應用邊界,讓大模型保持信息實時性,并能夠動態調整。
同時,星環科技能夠為企業提供大模型應用開發全周期的技術和產品,通過Transwarp Hippo向量數據庫和大模型統一運營管理平臺Sophon LLMOps、金融大模型Transwarp Infinity“星環無涯”、大數據分析大模型Transwarp SoLar“求索”等產品組合,幫助每個企業更快、更精確地打造真正符合實際需求的專屬領域大模型,促進生產力提升,加速業務創新和價值實現。
紅商網優質內容還將同步分發到公眾號、視頻號、頭條號、西瓜抖音、網易號、搜狐號、企鵝號、百家號、好看視頻、新浪微博等國內主力流量平臺。
|