浪潮携手燧原科技推出超强边缘AI推理服务器

工业机器人 2021-06-01 09:04www.robotxin.com工业机器人教育
(全球TMT2020年12月23日讯)12月21日,浪潮边缘计算服务器NE5260M5宣布对燧原科技全新发布的人工智能推理加速卡“云燧i10”完成兼容适配与深度优化,可根据客户需求支持2-4张云燧i10,为边缘AI推理应用如、智慧交通、ETC识别、精密仪器预测性维护、AI工业质检等场景提供强大算力支持,最高性能可达每秒70万亿次(70Tflops)。

浪潮边缘AI推理服务器全面支持云燧i10

云燧i10是一款面向云端和边缘端数据中心的高性能推理卡,云燧i10是单槽位标准卡,支持PCIe 4.0,FP32算力达到17.6TFLOPS,BF16/FP16算力70.4TFLOPS。云燧i10实现多用户支持,最大可支持4个设备实例,具备计算与存储资源的独享性,多用户间安全隔离;单颗芯片上可部署不同的业务与负载,实现多任务并行,有效提高利用率;支持KVM、Xen等系统虚拟化平台。

浪潮边缘计算服务器NE5260M5高度2U,深度只有430毫米,可部署在通信机房或直接悬挂在墙壁上。尽管该服务器体积小巧,但NE5260M5支持多种异构加速卡,并且各个模块具有良好的散热效果,能够很好适应边缘恶劣的高温湿环境。基于高度适配的软硬件组合,浪潮NE5260M5可搭载2-4张云燧i10,最多可提供高达每秒70万亿次的单精度算力和280万亿次的半精度算力,高精度主流推理模型的性能实现了业界领先为边缘环境提供更加灵活的加速选择。

在计算机视觉领域中,可实时高速图像视觉处理,广泛应用于工厂AI质检、场景识别、智能交通等应用,在图像识别场景中,基于ImageNet图像数据集,超过75.9%准确率,推断性能超过3000FPS,在业界公认的基准测试模型ResNet-50上,性能是一般产品的1.7倍。在视频增强场景中,可实时进行视频分辨率增强,服务器处理性能可达240FPS,性能达到业界一般产品的2倍。

在领域中,可应用于文本分类、舆情监管、智能客服等场景,在业界公认的测试模型Bert-Base上,兼顾性能和精度,在FP32高精度下性能是业界一般产品的1.5倍。

在电商、短视频推荐场景中,可实现精准、高效、实时的目标内容投放,在业界流行的主流推荐模型xDeepFM上,性能是业界一般产品的2倍,因为采用FP32高精度的推理,推荐内容更准确。

Copyright © 2016-2025 www.robotxin.com 人工智能机器人网 版权所有 Power by