WindowsのUL ProcyonAI推論ベンチマーク版

WindowsのULProcyon®AI推論ベンチマーク

さまざまな推論エンジンを用いてAIのパフォーマンスをベンチマーク

AIソリューションを日常的なアプリケーションに統合、展開することが容易になったことで、機械学習アプリケーションは急速に成長を遂げています。機械学習のパフォーマンス向上に対する需要に応えるために、大手のハードウェアベンダーは、自社のハードウェア上でベストなパフォーマンスを提供できるよう推論エンジンを最適化してきました。

WindowsのUL ProcyonAI推論ベンチマーク版は、Windows環境下にあるハードウェア上でのAI推論エンジンのパフォーマンスの洞察を提供します。これにより、どのエンジンをサポートすればベストなパフォーマンスを得ることができるか判断できます。ベンチマークは、さまざまなベンダーの複数のAI推論エンジンを搭載しており、ベンチマークスコアはデバイス上での推論演算のパフォーマンスを反映しています。

ベンチマークでは、一般的な最先端ニューラルネットワークを使用して、共通のマシンビジョンタスクを実行します。CPUまたはGPU上で実行される同じ演算と比較して、AIアクセラレータのパフォーマンスを測定します。

今すぐ購入

機能

  • 最先端のニューラルネットワークを用いた一般的なマシンビジョンタスクに基づくテスト。
  • CPU、GPU、または専用のAIアクセラレータを使用して推論パフォーマンスを測定します。
  • NVIDIA® TensorRT™、Intel® OpenVINO™、Qualcomm® SNPE、Microsoft® Windows MLを使用したベンチマーク。
  • 推論エンジンの実装と互換性を検証します。
  • ハードウェアアクセラレータ用のドライバーを最適化。
  • 浮動小数点と整数に最適化されたモデルパフォーマンスを比較します。
  • UL Procyonアプリケーションまたはコマンドラインにより、構成および使用が簡単。

推論エンジンパフォーマンス

WindowsのUL ProcyonAI推論ベンチマーク版を使用すると、AI処理専用ハードウェアのパフォーマンスを測定、一般的なマシンビジョンタスクに基づくテストによる推論エンジン実装品質の検証ができます。

プロフェッショナル向けのデザイン

WindowsのUL ProcyonAI推論ベンチマーク版は、推論エンジン実装と専用ハードウェアの一般的なAIパフォーマンスを評価するための、独立した標準化ツールを必要とするエンジニアリングチーム向けに作成しました。

高速で使いやすい

ベンチマークはインストールも実行も簡単で、複雑な設定は一切必要ありません。UL Procyonアプリケーションまたはコマンドライン経由でベンチマークを実行します。ベンチマークスコアやチャートを表示、または詳細な結果ファイルをエクスポートしてさらに分析できます。

業界の専門知識を活かした開発


UL Procyonベンチマークは、産業、企業、出版業向けに設計されており、プロフェッショナルユーザー向けに特別に作成されたテストと機能を備えています。WindowsのAI推論ベンチマークは、ULベンチマーク開発プログラム(BDP)により、業界のパートナーと共に設計および開発されました。BDPは、プログラムメンバーとの密接な連携により、適切かつ公平なベンチマークを作成することを目的としたUL Solutionsのイニシアチブです。

ニューラルネットワークモデル


MobileNet V3

MobileNet V3は、モバイルデバイスに特化して作られたコンパクトな視覚認識モデルです。このベンチマークでは、MobileNet V3を用いて画像の被写体を特定します。画像を入力データとして、画像内のコンテンツに対する確率のリストを出力します。このベンチマークでは、MobileNet V3の大規模な軽量バリアントを使用しています。

Inception V4

Inception V4は、画像分類タスクのための最先端モデルです。精度を高めるために設計され、MobileNetよりはるかに広く深いモデルとなっています。このベンチマークでは、Inception V4を用いて画像の被写体を特定します。画像を入力データとして、画像内で特定されたコンテンツに対する確率のリストを出力します。

YOLO V3

YOLOはYou Only Look Once(見るのは一度きり)の略で、画像中の物体の位置を特定する物体検出モデルです。このベンチマークではYOLO V3を使用して、物体の周囲に境界ボックスを生成し、各検出の信頼度率を示します。

DeepLab V3

DeepLabは、画像中の同じオブジェクトクラスに属する画素をクラスタリングすることを目的とした画像セグメンテーションモデルです。セマンティック画像分割により、画像中の各領域にオブジェクトのクラスをラベル付けします。このベンチマークでは、機能抽出にMobileNet V2を使用することで、大規模なモデルと比較して品質の差が少なく、高速な推論を可能にしています。

Real-ESRGAN

Real-ESRGANは、合成データで訓練させることで画像の解像度を向上させる超解像モデルです。低解像度から高解像度の画像を再構築できます。ベンチマークで使用したモデルは、Real-ERGANの一般的な画像のバリアントで、250x250の画像を1000x1000の画像にアップスケールするものです。

ResNet 50

ResNet50は、残差ブロックを使って畳み込み層を追加するという新しい方法を提供する画像分類モデルです。このリリースにより、これまで不可能だったディープニューラルネットワークのトレーニングが可能になりました。このベンチマークでは、ResNet50を使用して画像の被写体を特定し、画像内で特定されたコンテンツに対する確率のリストを出力します。

整数および浮動小数点モデル

このベンチマークには、各モデルの浮動小数点演算および整数演算の最適化版が両方含まれています。該当のデバイスに搭載されたすべての対応ハードウェアで各モデルが順番に実行されます。各ランタイムのデバイスと推論精度を選択し、整数および浮動小数点モデルのパフォーマンスを比較します。

結果とインサイト


ベンチマークスコアを示すWindowsのUL ProcyonAI推論ベンチマーク版の結果画面

ベンチマークスコア

CPU、GPU、専用AIアクセラレータを使用して、整数および浮動小数点モデルでAI推論のパフォーマンスを比較します。

詳細なスコア

選択した推論エンジンと処理ユニットを使用した場合の、各ニューラルネットワークテストの推論時間を見ます。

ベンチマークスコアを示すWindowsのUL ProcyonAI推論ベンチマーク版の結果画面
ベンチマークスコアを示すWindowsのUL ProcyonAI推論ベンチマーク版の結果画面

ハードウェア モニタリング

ベンチマーク実行中に、CPUとGPUの温度、クロック速度、使用がどのように変化したかに関する詳細メトリクスを取得します。

WindowsのUL ProcyonAI推論ベンチマーク版

サイトライセンス

見積もり 出版関係者向けライセンス

年額5000ドルから


  • WindowsのUL ProcyonAI推論ベンチマーク版の年間サイトライセンス。
  • ユーザー数、無制限。
  • デバイス台数、無制限。
  • メールと電話による優先サポート

BDP

お問い合わせ 詳細

お問い合わせ


Benchmark Development Program™ (BDP)は、技術系企業とのパートナーシップを構築するためのUL Solutionsのイニシアチブです。

OEM、ODM、部品メーカーおよびそのサプライヤーの皆様、ぜひ新しいAI処理ベンチマークの開発にぜひご参加ください。詳しくはお問い合わせください。

最小システム要件

OS Windows 10, 64-bit or Windows 11
プロセッサー 2 GHz デュアルコア CPU
メモリ 4GB
ストレージ 4GB

言語

  • 英語
  • ドイツ語
  • 日本語
  • ポルトガル語(ブラジル)
  • 簡体字中国語
  • スペイン語

Powered by