可适配实时
AI推理加速
最优人工智能推理
VitisTMAI软件是AI综合推理开发AMD设备、棋盘、 AlveoTM数据中心加速卡、选择PC、笔记本电脑和工作站由丰富的AI模型组成,优化深学习处理器核心、工具、库和实例设计高效易用设计充分释放AI加速应用
图1-VitisAI结构
VitisAI软件开发方式
- 支持主流框架和最新模型可多学推理,CNN和Generive大语言模型
- 强量量化器优化工具优化模型精度和处理效率
- 易编译流高端API实现定制模型最快速部署
- 高效配置dPU核心满足边缘端点和云中对吞吐量、延缓度和功率的不同需求
探索所有可能性 VitisAI
图2-动物园模型
AI模型动物园
AI模型动物园向PyTorch、TensorFlow和ONNX所有拥有丰富脱机深学习模型的用户开放AI模型动物园提供优化再培训AI模型,使AMD平台上实现快速执行、性能加速和制作
AI优化
使用异常模型压缩技术,AI优化程序将模型复杂性降低5X至50X并最小精度撞击深度压缩令人工智能推理性能提升到下一层次
图3-VitisAI优化
图4-VitisAI量化器
AI量化器
完整自定义运算符检验、量化、标定、微调和转换浮点模型成固定点模型过程,需要减少存储带宽-提供更快速度和更高的计算效率
AI编译器
编译者将AI模型映射为高效指令集和数据流系统还执行精密优化,如层聚变和指令调度,并尽可能回用芯片内存
图5-VitisAI编译
AI剖析器
性能剖析器允许程序设计员深入分析AI推理实现的效率和利用
AI库
VitisAI库是高层次库和APIs搭建高效AI推理DPU核心Vitis AI Runtime基础搭建并配有统一的APIs并提供易用界面供AI模型部署AMD平台使用
图7-VitisAI库
图8-VitisAI编译
整图优化
WEGO框架推理流提供从培训直通推理路径,利用本地TensorFlow或PyTorch框架部署dPU无支持运算符
深学习处理器单元
DPU是一个可适应域别架构,匹配CNN变换模型快速演化AI算法和AMD自适应SCs、 Alveo数据中心加速卡并选择RyzenAI电动PC中的行业领先性能
边缘部署
VitistmAI软件提供强计算性能和边缘设备最优算法,同时允许灵活部署并优化电耗高计算性能应用汽车、工业、医学、视频分析等
客户端部署
AMD XDNATM结构搭建AMDRYZENTM7040系列移动处理器特征
预设部署
AlveoTM数据中心加速卡通过Vitis AI解决方案增强能力,为CNNs、RNNs和NLPs的不同工作量提供有竞争力AI推理性能箱外预置AI解决方案旨在满足超低延时度、高通量和高弹性需求-现代数据中心提供高于CPU、GPU和低TCO的计算能力
云部署
AWS和VMAccel等公共云服务提供商合作,AMD现在提供远程访问FPGA和VersalTM自适应SOC云实例,快速启动模型部署-即使没有本地硬件或软件
ivisAI平台文档
提供广泛的文献支持与VitistmAI平台开发模型、工具、深学习处理器等
链接到下文具体文档或访问文档门户查看所有VitisAI平台文档.
增强自主驾驶和ADAS技术
实时多类三维对象检测
VitsTMAI系统现在有可能实现实时处理并嵌入平台上3D感知AI算法硬件和软件加速协同优化提供ZynqTM超标+TMMPSOC最先进PrentPillers模型的领先性能
提高城市智能安全
视频分析
城市在边缘点和云端越来越多地使用情报系统每天生成的大数据需要强端对端AI解析系统,以便快速检测和处理对象、流量和面部行为增加从边缘到云形的每一框架的宝贵洞察力
深入了解机器计算机视觉AMD>
变换AI改善健康能力
AI预测和数据中心
数据中心加速
深入了解数据中心AMD>
