战略谋全局 创新护远航 | 一图看懂润和软件2024年度报告
热点新闻
润和软件发布AIRUNS 2.0，领航AI软硬一体化新时代
编辑：发布时间：2024-09-29浏览次数：1195
AI 2.0时代，企业愈发注重AI技术的场景化和商业化。然而，在实际落地过程中，企业面临着资源管理、运维监控、资源调度以及团队协作等多方面挑战，市场迫切需要一款具备强大管理能力，既能有效管控又能灵活调度的AI研发平台级产品。江苏润和软件股份有限公司（以下简称“润和软件”）秉承创新驱动理念，重磅推出全新AI软硬一体化平台——AIRUNS 2.0，通过增强全栈AI能力，助力企业AI快速落地。
润和软件发布全新AI软硬一体化平台——AIRUNS 2.0
AIRUNS 2.0的发布，进一步提升了数据、算力等AI核心要素的管理能力， 相较1.0版本，着重强化了AI软硬一体化、端到端数据管理、AI算力调度、AI训推加速、云-边-端模型部署五大能力，使AI应用落地更高效、便捷，帮助企业快速实现商业价值。
AIRUNS 2.0功能首页
AI软硬一体化能力
AIRUNS 2.0可以实现从芯片到应用的全栈优化。其核心功能包括深入了解硬件架构的深度集成、润和软件自研的HopeOS操作系统优化智能计算场景以及兼容昇腾和英伟达平台的异构能力，优化CUDA及CANN框架。
AIRUNS 2.0 AI软硬一体化能力架构图
业务价值：
|
01 最大化发挥硬件潜能，提高系统的整体性能和能效，减少计算资源浪费，确保复杂计算任务能够高效完成 |
|
02 带来了更流畅的用户体验，减少性能瓶颈，且能够处理大规模计算任务，提升AI研发和应用的整体效率 |
|
03 在高性能的基础上，硬件选择更加自由，减少了技术锁定的风险，提升了系统的适应性 |
|
端到端数据管理 |
统一架构设计的数据链管理，覆盖数据采集、传输、存储和分析；数据安全控制，通过加密和访问控制确保数据安全与隐私；支持跨云、边缘和终端设备的数据共享与协同。
业务价值：
|
01 减少数据在各个环节中的中断和延迟，提升数据流转效率，使得模型训练和推理的时间大幅缩短 |
|
02 确保数据的完整性、准确性及安全性，尤其在处理敏感数据时提供了更高的合规性保障，降低了数据泄露和误用的风险 |
|
03 在不同的计算环境中灵活调度和处理数据，提供更广泛的应用支持，提升业务流程的协同效率和灵活性 |
|
AI算力调度 统一管理所有AI算力（CPU、GPU、NPU）并进行策略调度；支持动态调用、优先调用、任务抢占和叠加等特性；实现算力资源的精细化切分，支持进程级封装和虚拟显存扩展；采用热加载、动态选举机制和职责链模式优化调度策略。 |
AIRUNS 2.0算力调度架构图
业务价值：
|
01 各种算力资源得到充足利用，避免算力孤岛，优化资源分配，避免资源浪费，同时降低管理复杂度 |
|
02 AI业务共享算力集群，用完即释放，充分复用底层算力资源，最大化提升AI算力能效；以最少的硬件资源，满足更多的AI业务 |
|
03 提升业务并发量、吞吐量，提升集群算力能效，保证业务的连续性 |
|
04 灵活应对多环境下的不同业务调度需求，提升系统的扩展性、容错能力和实时性 |
AI训推加速套件
针对主流开源大模型的显存和算子深度优化、支持数据和模型并行计算的高效并行架构、动态资源调度与负载均衡、根据负载变化自动调整计算任务、全面的监控、故障诊断、容错机制。
业务价值：
|
01 提高单卡运行大模型的效率，降低硬件需求和运营成本 |
|
02 支持数据和模型并行计算，显著缩短训练时间并提升模型推理吞吐量，快速响应市场需求 |
|
03 根据负载变化自动调整计算任务，确保资源利用最大化，提高系统性能和稳定性 |
|
04 通过全面的故障诊断和监控机制，实现快速故障侦测与容错，确保业务持续稳定运行 |
云-边-端的模型部署
一键式自动化部署，迅速将模型从开发环境推送至生产环境；支持云-边-端的部署模式，并提供模型转换、压缩和量化工具；多版本管理，支持蓝绿部署；兼容多种硬件环境和AI框架（TensorFlow、PyTorch、MindSpore等），支持多种服务协议（TGI、VLLM、OpenAI、Triton等）。
AIRUNS 2.0 云-边-端模型部署结构图
业务价值：
|
01 缩短模型上线时间，提高生产环境的部署效率，加快产品迭代速度 |
|
02 实现灵活的资源利用，优化整体系统性能 |
|
03 确保模型更新的安全性与稳定性，降低上线风险并提高业务连续性 |
|
04 满足不同业务需求，提升系统的灵活性和可扩展性，促进技术的快速集成与应用 |
基于AIRUNS 2.0完善成熟的AI应用集成功能，可成功搭载成熟的、可商业化的解决方案，如大模型视觉、RAG+、AI测试解决方案，在平台上可达到数据高效处理、决策实时支持以及资源灵活调度的效果。
大模型（视觉）解决方案
润和软件大模型（视觉）解决方案架构图
方案优势：
相较传统的计算机视觉模型，润和软件大模型（视觉）解决方案具备以下突出优势：
|
01 高准确率，满足复杂极端场景智能需求 |
|
02 高泛化性，满足多样性场景、目标识别需求 |
|
03 全场景自主解析，场景规则自适应 |
|
04 多模态融合，图文提示定义功能，快速生成新任务 |
大模型（RAG+）解决方案
润和软件大模型（RAG+）解决方案内容生成系统流程
核心功能：
|
01 精准检索：实现语义到关系型数据库的精准化搜索和归纳，并进行BI展示 |
|
02 智能问答：提供基于企业内部数据（文档、表格、音视频等）的问答分析能力 |
|
03 智能撰写：基于提纲型模板，结合大模型技术提供智能化内容撰写服务，包括段落、表格、折线图、柱状图等 |
|
04 智能审核：根据法律法规、用户制定的规则规约等总结出检测规则，根据规则检测用户上传资料的合法合规性 |
大模型（AI测试）解决方案
通过引入AI测试，能显著减少原有测试工程师团队的工作负担，使工程师团队可以专注于高价值的分析和决策。AI测试可以高效领导测试流程，自动生成和优化测试产物，同时工程师可借助AI工具验证产物的准确性和完整性，确保测试质量。
润和软件大模型（AI测试）解决方案
方案价值：
|
01 效率提升：工作量可减少50%以上，同时确保测试覆盖率保持在95%以上 |
|
02 快速反馈: 30分钟内完成变更影响分析，原本需要2-3小时的人工评估时间大幅缩短 |
|
03 自动化测试案例生成：设计和编写测试脚本的时间可缩短60%以上 |
|
04 测试执行自动化：同时运行多个测试任务，测试执行效率提升4倍 |
05
质量保障：准确性，回归缺陷率降低20%，大幅提升了测试结果的可靠性
06
资源优化：项目整体测试时间减少30%-40%，从而能够更好地分配团队资源，降低项目成本，确保高效交付
为更好满足各行业AI需求，润和软件将持续更新AIRUNS，后续版本聚焦四个关键领域迭代创新：数据管理创新、训练过程高效、模型管理智能、部署形态灵活，为行业提供好用、易用、高性能的AI产品。
润和软件AIRUNS后续版本计划
未来，润和软件将持续发挥AI创新技术研发实力，推出更具市场竞争力的AI创新产品和解决方案，持续赋能千行百业智能化转型升级。