NVIDIA已经成功保持其在人工智能领域的主导地位，英伟达成熟的CUDA 软件生态系统，是达成这一成就的主要推手之一，但目前市场上AI推理工作负载的需求正在大幅增加，与昂贵的NVIDIA GPU相比，AMD的AI芯片在推理场景中具备更佳的性价比。所以微软公司一直在尝试打破CUDA的“生态锁定”，寻找到更具成本效益的替代方案。
近期据一位“高级”Microsoft 员工称，微软已经开发了“工具包”，允许该公司通过将 CUDA 代码转换为 ROCm 兼容版本来在 AMD GPU 上运行 CUDA 代码。
执行 CUDA 到 ROCm 转换的一种方法是通过运行时兼容性层，它使 CUDA API 调用能够转换为 ROCm，而无需完全重写源代码。这方面的一个例子是 ZLUDA 工具，用于拦截 CUDA 调用，将它们转换为 ROCm，并且无需完全重新编译即可完成。通过软件转换，微软就可以利用AMD的硬件优势来降低运营成本。
ROCm 目前仍处于发展完善阶段，部分 CUDA 代码尚未实现完全对应的映射适配，可能造成性能损耗，这一点在大型数据中心的实际部署场景中，仍是需要攻克的挑战。
（文中图片来源于网络）
