Skymizer在2024年对LPU进行了成功之后,Skymizer推出了其下一代AI Accelerator IP。该新技术旨在满足实时,基于代理和基于代理的AI应用程序不断增长的需求。
Hyper Thought是一个完全集成的子系统,它允许SOC团队设计针对其特定应用程序量身定制的自定义AI硅。它由Skymizer的语言指令集架构(LISA)V3提供动力,可实现多模式处理,并发多模型执行以及对代理AI工作流的本机支持。
该平台在计算,内存和带宽方面提供了无与伦比的效率,使其适用于智能设备和自主系统中的边缘AI部署。 Skymizer的CMO威廉·韦(William Wei)表示:“朝圣者将LLM推断带到了边缘。
超思想的关键功能包括其对动态图形控制,并行代理执行和高级内存操作的支持,所有这些都完全支持了硬件。它还可以在共享计算资源中无缝执行文本,愿景和基于指令的模型。
过度思考的关键亮点
- 建立在Lisa V3上: Skymizer的第三代语言ISA引入了动态图形控件,并行代理执行和高级内存操作 – 由硬件支持。
- 多模式能力: 超思想支持在共享计算资源之间无缝执行基于教学的模型。
- 并发多模型支持: 并行对多个量化的LLM的有效执行,从而在应用程序之间实现低延迟响应。
- 代理AI基础架构: 旨在支持能够跨任务互动和上下文推理的持久,目标驱动的代理。
- 优化的软件堆栈: 共同设计的编译器-luntime平台平衡了使用内存和带宽约束的吞吐量。
- 可扩展集成: IP块是模块化的,紧凑,可以快速整合到移动,嵌入式和汽车级SOC中。
Skymizer的首席技术官Luba Tang将超思想描述为“我们已经设计了最先进的LPU”,指出Lisa V3可以支持可以反应,推断和适应的实时智能系统。
Skymizer将在2025年5月20日至23日在Computex Taipei上展示过度思考,并展示了FPGA验证的IP,Lisa V3上的技术会议以及软件工具和开发人员堆栈的预览。该活动将在台北北冈展览中心1号举行。