Procyon AI Inference Benchmark 在 macOS 作業系統上透過 Core ML AI 推論引擎執行電腦視覺基準測試，可測試 CPU、CPU+GPU、CPU+AI 元件，以及 CPU+GPU+AI 元件在內四種運算組合效能。
UL Solutions在今年出推出的新版人工智慧推論效能量測工具Procyon AI Inference Benchmark，目前也開始對應macOS作業系統使用，主要加入支援Core ML AI推論引擎，藉此能量測搭載Apple Silicon處理器的Mac機種人工智慧運算效能。
透過Core ML AI推論引擎，Procyon AI Inference Benchmark在macOS作業系統上執行的電腦視覺基準測試執行流程，與在Windows作業系統環境的人工智慧推論測試工作負載相同，分別可測試CPU、CPU+GPU、CPU+人工智慧運算元件，以及CPU+GPU+人工智慧運算元件在內四種運算組合效能。
所有測試工作負載均符合當前Mac機種硬體環境，以及完整相容GPU及人工智慧運算元件。而除了量測原始硬體效能，量測過程也會權衡人工智慧推論的精準度表現，其中會比較FP16 (半精度浮點運算效能)與INT精度推論結果，讓量測結果能更容易評估具體效能表現。
另一方面，新版Procyon AI Inference Benchmark已經對應包含微軟WindowsML、Qualcomm SNPE、Intel OpenVINO，以及NVIDIA TensorRT在內人工智慧推論引擎，並且可相容採用Intel新款搭載NPU設計、代號Meteor Lake的第14代Core系列筆電處理器，或是Qualcomm新款對應Windows筆電使用的處理器。
目前Procyon AI Inference Benchmark已經對外開放申請使用，UL Solutions更說明目前已經有諸多業者開始透過此項工具量測筆電裝置的人工智慧運算效能表現。
暂无评论内容