Neuchips是特定于AI应用程序的集成电路(ASIC)的提供商,已宣布与Vecow和Golden Smart Home(GSH)Technology Corp.的ShareGuru建立合作伙伴关系,以开发用于专有数据处理的离线生成AI解决方案。该协作旨在使企业能够使用自然语言查询从内部数据库中提取实时见解。
该合作伙伴关系着重于应对复杂的SQL数据处理的挑战和对数据隐私的需求。该解决方案结合了Vecow的ECX-3100 Rag Edge AI推理工作站,GSH的Shareguru QA 2.0解决方案和Neuchips的Viper viper系列Gen AI卡。
协作解决方案的关键方面包括:
- 离线数据处理: Neuchips的Viper系列卡可实现ShareGuru解决方案的本地处理,从而增强数据隐私和安全性。
- 自然语言查询: 该系统允许用户使用人类语言生成SQL查询,简化数据访问并减少对SQL专业知识的依赖。
- 功率效率: Neuchips强调了Viper系列以45W功耗支持120亿个参数模型的能力。
- 启用抹布的LLM: 该解决方案利用检索功能的生成(RAG)提供了对最新数据的访问,而无需模型再培训。
- 硬件规格: Neuchips Viper系列AI加速器卡具有32GB的内存容量和本机BF16结构化语言模型支持。
Neuchips强调,其Viper系列卡从CPU中卸载了很大一部分的生成AI处理。 Vecow强调了该解决方案在满足对本地生成AI应用程序和多模式大型语言模型(LLMS)的不断增长的需求中的作用。 GSH的Shareguru平台提供了与Neuchips硬件交互的SLM解决方案。
两家公司将在德国纽伦堡的2025年嵌入式世界2025年在Vecow的展位上展示其协作解决方案。 Neuchips还宣布了未来的计划,到2026年将专注于低功率多模式ASIC。
特色图片来源: Google DeepMind/Unsplash