2024-11-17 17:56 来源：本站编辑
加利福尼亚州圣何塞，2024年10月22日（GLOBE NEWSWIRE）——高效、低功耗32/64位RISC-V处理器核心的领先供应商和RISC-V International的创始首席成员安第斯科技（Andes Technology）自豪地宣布与Fractile建立合作伙伴关系，该公司正在构建达到人工智能性能下一个前沿所需的芯片和系统。Fractile正在开发基于内存计算的人工智能推理加速器，目标是能够运行前沿的人工智能模型——大型语言、视觉和音频模型——比现有硬件快两个数量级，成本降低十倍。
大型语言模型和其他基础模型已经成为数据中心AI计算需求暴涨背后的驱动力。从ChatGPT到开源的Llama模型系列，llm和其他基础模型得到了广泛的应用。模型推理——为这些训练好的模型提供服务的过程——正在成为计算成本的主要部分，超过了模型训练的成本。Fractile已经获得了强大的Andes AX45MPV RISC-V矢量处理器的授权，并结合了ACE （Andes Automated Custom Extension™）和Andes Domain Library，并计划将矢量处理单元整合到他们的第一代数据中心AI推理加速器中。
Fractile使用新颖的电路来执行在片上存储器中运行模型推理所需的99.99%的操作。这样就不需要在处理器芯片之间来回传递模型参数，而是直接将计算操作放入内存。这种架构不仅可以提高能源效率（TOPS/W），还可以显著改善推理任务的延迟（例如，在LLM上下文中，每个用户每秒令牌数）。该公司一直押注于推理扩展——利用更多的推理时间计算来提高人工智能性能——作为人工智能扩展的下一个前沿。人工智能界似乎同意OpenAI最近发布的最新LLM 01，它需要比以前的LLM多几个数量级的推理计算。Fractile的硬件和软件堆栈的构建是为了获取在当前硬件上仍然需要许多秒才能产生答案的模型，并使其成为即时的。
作为合作的一部分，Fractile将通过ACE将Andes Technology的高性能RISC-V矢量处理器与自己突破性的内存计算架构集成在一起。Fractile的架构利用了两家公司的优势，旨在提供一个异常快速和经济高效的人工智能推理系统，克服传统计算方法的限制——突破内存瓶颈。
Andes Technology总裁兼CTO Charlie Su博士表示：“AX45MPV具有强大的计算能力、高内存带宽和灵活的ACE工具，自2023年首次亮相以来，一直被大大小的创新人工智能公司所选择。安第斯RISC-V矢量处理器使许多人工智能soc摆脱了架构限制，实现了新的性能和效率水平。我们相信，Fractile的内存计算技术和Andes屡获殊荣的RISC-V矢量处理之间的协同作用将带来又一次成功。”
Fractile首席执行官兼创始人Walter Goodwin博士补充说：“现有硬件的局限性是人工智能性能和采用的最大障碍。安第斯科技在RISC-V矢量处理器方面拥有无与伦比的技术和商业领先地位，是我们构建Fractile加速器系统的天然合作伙伴。为人工智能加速构建硬件本质上是困难的——世界领先的模型可以在一夜之间改变，而芯片需要时间才能推向市场。像Andes这样的软件可编程矢量处理器是保持这些变化健壮性的关键部分。我们很高兴地宣布这次合作，因为Fractile进一步推进了其增压推理的使命。
欲了解更多关于Andes Technology和Fractile的信息，请访问他们各自的网站https://www.andestech.com和https://www.fractile.ai/
广告一个关于安第斯科技
拥有19年的商业经验和RISC-V International的创始首席成员，Andes是一家上市公司(TWSE: 6533；罪:US03420C2089;ISIN: US03420C1099)和高性能/低功耗32/64位嵌入式处理器IP解决方案的领先供应商，并推动RISC-V成为主流。其V5 RISC-V CPU系列从微型32位内核到先进的64位乱序处理器，具有DSP， FPU, Vector, Linux，超标量和/或多/多核功能。到2023年底，Andes-Embedded™soc的累计销量已超过140亿。欲了解更多信息，请访问https://www.andestech.com。在metaedIn， Twitter， Bilibili和YouTube上关注安第斯！！
一个布特分位数
Fractile是一家人工智能硬件公司，正在开发其首款突破性的新型人工智能芯片，能够运行最先进的人工智能模型，速度比现有硬件快100倍，成本低10倍。2022年，28岁的人工智能博士沃尔特·古德温（Walter Goodwin）在伦敦创立了Fractile公司，该公司的变革性计算技术将增强人工智能的整体能力，使当今和未来规模最大、能力最强的神经网络运行得更快、更高效、更可持续。该公司已经筹集了1750万美元（1400万英镑）的资金，投资者包括北约创新基金、Kindred Capital、牛津科学企业、Cocoa和Inovia Capital，以及天使投资者，包括Hermann Hauser （Acorn、Amadeus的创始人）、Stan Boland（前Acorn、Icera、NVIDIA和Five AI）和Amar Shah （Wayve的联合创始人）。
广告联系人：林晓玲
(电子邮件保护)
广告 广告
