最新消息

超恩攜手創鑫智慧 加速推動生成式AI部署

2025/3/7 0:0

[新北市訊] 超恩股份有限公司 (Vecow,以下簡稱超恩)今日宣布與專注於大語言模型(LLM)和生成式AI晶片設計先驅創鑫智慧(Neuchips)策略性合作,共同推出高能效低耗電的軟硬體整合式方案。超恩ECX-3100 RAG超強固工作站結合Neuchips旗下Viper系列AI加速卡,提供企業級一站式生成式AI解決方案,協同合作以滿足邊緣端蓬勃發展的生成式AI應用需求。

超恩ECX-3100 RAG超強固工作站採用Intel® Core™ i9/i7/i5/i3處理器搭載工作站等級Intel® R680E PCH,內建96GB DDR5高速記憶體,是一款極精巧整合式生成式AI推論平台,具備多種高速資料傳輸介面: 10G USB、2.5G網路以及5G/WiFi/BT/4G/LTE/GPRS/UMTS無線傳輸,彈性支援DC 12V至50V寬範圍電源輸入,車用電源控制功能,超堅固設計可滿足邊緣端生成式AI應用的多樣化需求。

 

Viper AI加速卡展現創鑫智慧在生成式AI市場上的敏捷應變能力,為高登智慧ShareGuru QA 2.0自然語言轉換資料庫查詢(Natural Language to SQL)方案提供動力,在極為節能與高容量記憶體配置下,提供企業級語言模型能力,透過此一戰略整合,ShareGuru QA2.0 是一個與SLM配合運作的SQL Agent, 並充分利用Mistral-Nemo(為一個120 億參數模型)的能力,僅在單張Viper卡上高效運行,同時僅消耗45W功率,實現安全的本地AI處理,無需傳統基礎設施的複雜性和成本。

 

高登智慧先進的自然語言處理解決方案,與Viper原生BF16結構化語言模型支持之間的協同,使用原生模型,不需特別壓縮處理,提供高精度的資料庫轉換生成結果,為尋求實施AI驅動數據庫分析的組織創建出強大解決方案,同時保持數據安全並降低運營成本,而這種軟硬體間的整合,展示功率效率、處理能力和安全性之間的完美平衡,特別適合需要本地處理和能源效率的工業和企業應用,可以滿足工業AI在地端部署強勁需求。

 

超恩執行副總黃聖凱表示:「隨著生成式 AI (Generative AI; GenAI)應用的發表,市場上對Gen AI的需求正快速增長,超恩與創鑫智慧合作開發以RAG為主的先進Gen AI專用軟硬體整合解決方案,讓企業使用者在無需額外進行訓練即能以自然語言利用Gen AI技術提取企業資料庫/商業智能(BI)中最新分析,從而提供更關鍵和高品質如圖表化的結果,加快企業用戶決策過程。相較於傳統以雲端為基礎的GPU解決方案,尋求更具成本效益、紮實的推論性能且低功耗的Gen AI工作站的用戶來說,這才是至關重要。」

 

創鑫智慧執行長劉景慈(Ken Lau)表示:「在德國2025年嵌入式世界展覽會(Embedded World)的超恩展位(Hall 3, #3-449),將可看到Viper AI加速卡的獨特功能,包括在平均僅45W 功耗下支持120億參數模型,在高登智慧ShareGuru SLM解決方案基礎下,輔以創鑫智慧與超恩工業邊緣AI計算系統的協助,將可提供安全且高效的AI處理,以滿足現代工業環境資安相關要求。此一完整解決方案能為企業主管提供即時的業務洞察,協助他們以更低的營運成本做出更快速的決策。」

 

超恩將生成式AI應用技術導入工業應用,同時也將先進AI解決方案帶入智慧製造與機器人等多元解決方案中, 期待您造訪在紐倫堡舉辦的 Embedded World 2025,超恩展位# 3-449,進一步了解我們創新的Edge解決方案的實際應用。

 

超恩近期展會:

📍台灣 AI 博覽會 2025

📅 Marhc 26 – 28, 2025

📌超恩展位: L04

更多有關 台灣AI博覽會 2025 的資訊,請參考: 參展資訊

 

Stay Connected

    

 

TOP