部署 AI
在数字孪生环境中训练和测试 AI 模型后，最后一步是部署。部署涉及使训练好的模型可用于实时推理，在生产环境中执行对象检测、分类或决策等任务。有两种主要方式可以部署 AI 模型：作为 Unity 应用程序的一部分或在外部推理系统中。
- Unity 应用程序部署:
在这种方法中，训练好的 AI 模型被转换为 ONNX (Open Neural Network Exchange) 格式，并直接包含在 Unity 可执行文件中。Unity 应用程序使用嵌入的 ONNX 模型执行推理，允许 AI 在仿真或已部署的 Unity 应用程序中实时处理数据。此方法适用于整个解决方案（包括 AI 推理）需要作为独立的 Unity 应用程序运行的场景，提供与数字孪生的集成体验。
部署到 Unity 应用程序可通过启动 Unity 构建过程来完成，适用于任何可用的 Unity 目标平台。这使得 AI 驱动的应用程序能够部署到各种平台，包括 Windows、Linux、macOS、Android、iOS 等。这种跨平台灵活性确保了 AI 模型可以在广泛的环境中使用，从桌面应用程序到移动设备和专用硬件。
- 外部推理系统部署:
或者，ONNX 模型可以从 Unity 导出并在外部推理系统中使用。这种设置涉及将模型部署到单独的推理平台上，例如基于云的 AI 服务、边缘设备或自定义推理服务器。外部系统可以执行 AI 计算并将结果发回 Unity 应用程序或其他控制系统。这种方法有利于利用专用硬件、与现有 AI 基础设施集成或跨多个设备扩展推理。
部署蓝图 - 相机设备演示
我们提供了一个简单的示例应用程序，称为 CameraDeviceDemo，可以在主 AI Builder 文件夹中找到。此应用程序演示了如何使用训练好的 ONNX 模型与网络摄像头或移动设备（如手机或平板电脑）上的集成相机一起进行实时推理。CameraDeviceDemo 应用程序展示了部署过程，允许 AI 模型使用实时相机画面执行对象检测或分类。
示例应用程序具有通用性，可在各种平台上使用，支持在带网络摄像头的桌面系统或配备内置摄像头的移动设备上进行实时推理。这种灵活性使得可以在不同环境中快速使用 AI 模型，便于在各种设置中测试、验证和使用训练好的模型进行实际应用。