希姆计算基于RISC-V计算能力和大型语言模型（LLMs）提供智能社区服务

2024-11-11 20:01:50 来源: 互联网

点击

图源：希姆计算

近日，RISC-V国际基金会针对希姆计算开展的RISC-V矩阵扩展开源项目、及基于RISC-V计算能力和大型语言模型（LLMs）的智能服务社区服务进行了专门报道。

在当前的大环境下，开源技术和生态共建的合作得到全球产业界的大力支持和推动，希姆计算作为RISC-V的重要推动力量，切实又务实地开展了大量工作，为中国产业界在国际开源社区里赢得了尊重和话语权。

在未来的工作中，希姆计算会持续投入，以开放的心态，以全球化的视野，以开源技术的精神和担当，在国际社区贡献中国力量。

以下为RISC-V国际基金会近日刊发的《希姆计算基于RISC-V计算能力和大型语言模型（LLMs）提供智能社区服务》翻译全文。

在数字化转型的浪潮中，社区服务的智能化升级已成为提高居民生活质量的关键。希姆计算，一家中国RISC-V智能计算解决方案提供商，通过其自主研发的RISC-V芯片和推理加速卡STCP920，为LLM应用创建了一个集成RISC-V硬件和软件的生态系统。这个生态系统包括一个智能计算云平台、行业LLMs、数据治理平台和一个智能代理开发平台。希姆计算为中国广州某社区开发的智能社区服务助手，开启了基于RISC-V的智能社区服务新篇章。

图源：希姆计算

垂直领域大模型应用的技术解决方案
Technical Solutions for Large Model Applications in Vertical Fields

作为一家从指令集到LLMs应用全面布局的芯片企业，希姆计算使用大量垂直领域数据训练了更适合社区服务的行业LLMs，以支持在RISC-V计算能力上部署大模型应用。此外，为了有效抑制大模型的幻觉问题，希姆计算开发了一种多轮自反射Graph RAG算法，并结合知识图谱，将社区问答的准确性提高到95%以上，使得在社区服务中部署大模型成为可能。

图源：希姆计算

基于RISC-V计算能力的智能社区服务助手
Smart Community Service Assistant Based on RISC-V Computing Power

基于RISC-V计算能力，希姆计算为广州某社区定制开发了一个便捷的社区服务助手。该助手涵盖了37个主要类别的社区服务、超过2000项服务项目，整合了数千份文件和指南，为居民提供全面的智能问答服务，用于社区服务咨询和处理流程。与传统服务助手相比，该服务助手将社区服务咨询的准确性从原来的30%提高到现在超过95%，使处理体验更加流畅自然，减少了手动客服的需求，并促进了社区服务知识的积累。与传统软件系统相比，智能代理能更好地服务于业务应用，让客户不仅能获得一个智能问答系统，还引入了一种新的工作方式。

希姆计算的研发副总裁王得科表示：“构建全栈解决方案是一个漫长而复杂的过程，需要我们从计算即服务的角度出发，为每个产品和功能设计合理的边界。希姆计算始终专注于商业实施，无论是硬件还是软件产品，旨在从设计阶段就开发端到端的全栈解决方案。”

RISC-V国际基金会的首席执行官Calista Redmond表示：“希姆计算对RISC-V生态系统的贡献令人印象深刻。通过将RISC-V架构与大型AI模型集成，他们展示了RISC-V技术在现实世界中的应用。这是一个具有前瞻性的成就，展示了RISC-V架构在全球范围内的广泛应用前景。”

展望：计算即服务
Outlook: Computing as a Service

随着STCP920加速卡的成功推出，希姆计算将继续深化其在RISC-V和AI领域的研发。公司计划进一步扩展其大模型推理软件栈的功能，并与更多行业伙伴合作，共同推动智能社区和其他垂直领域的智能化发展。希姆计算将继续关注新兴技术和市场需求，不断优化其产品和服务，以满足对高性能计算日益增长的需求。

希姆计算的这一突破不仅为中国企业在高性能计算和人工智能领域树立了新的标杆，也为全球技术产业注入了新的活力。通过持续的技术创新和市场扩张，希姆计算正稳步迈向成为全球领先的计算技术提供商的目标。

责任编辑：Ace

申请专栏作者

: 半导体行业观察

: 摩尔芯闻

希姆计算基于RISC-V计算能力和大型语言模型（LLMs）提供智能社区服务

相关文章

最新新闻

热门文章本日 七天 本月

热门评论

热门搜索

希姆计算基于RISC-V计算能力和大型语言模型（LLMs）提供智能社区服务

相关文章

最新新闻

热门文章 本日 七天 本月

热门评论

热门搜索

热门文章本日七天本月