Procyon AI Computer Vision Benchmark

Procyon AI Computer Vision Benchmark

Benchmark KI-Leistung bei Verwendung unterschiedlicher Inferenzmaschinen

Die Anzahl der verfügbaren Anwendungen für maschinelles Lernen nimmt rasant zu, da es immer einfacher wird, KI-Lösungen in alltägliche Anwendungen zu integrieren und bereitzustellen. Aufgrund der Nachfrage nach einer schnelleren Leistung für maschinelles Lernen haben namhafte Hardware-Hersteller ihre Inferenzmaschinen optimiert, um die bestmögliche Leistung für ihre Hardware zu erzielen.

The Procyon AI Computer Vision Benchmark gives insights into how AI inference engines perform on your Windows PC or Apple Mac, helping you decide which engines to support to achieve the best performance. Der Benchmark umfasst mehrere KI-Inferenzmaschinen verschiedener Anbieter. Die Benchmark-Scores spiegeln dabei die Leistung von Inferenzvorgängen im Gerät wider.

Beim Benchmark werden häufige Machine-Vision-Aufgaben unter Verwendung einer Reihe beliebter, hochmoderner, neuronaler Netze ausgeführt. Messen Sie die Leistung des KI-Beschleunigers, indem Sie sie mit denselben Vorgängen in der CPU oder GPU vergleichen.

Jetzt kaufen

Merkmale

  • Tests basierend auf gängigen Aufgaben des maschinellen Sehens unter Verwendung modernster neuronaler Netze.
  • Messung der Inferenzleistung mithilfe der CPU, GPU oder dedizierter KI-Beschleuniger.
  • Benchmarktests mit NVIDIA® TensorRT™, Intel® OpenVINO™, Qualcomm® SNPE, Microsoft® Windows ML und Apple® Core ML™.
  • Überprüfung der Implementierung und Kompatibilität der Inferenzmaschine.
  • Optimierung der Treiber für Hardwarebeschleuniger.
  • Vergleich der Leistung des Gleitkommazahlenmodell und des ganzzahligen Optimierungsmodells.
  • Simple to set up and use via the Procyon application or via command-line.

Leistung der Inferenzmaschine

With the Procyon AI Computer Vision Benchmark, you can measure the performance of dedicated AI processing hardware and verify inference engine implementation quality with tests based on common machine-vision tasks.

Entwickelt für Profis

We created the Procyon AI Computer Vision Benchmark for engineering teams who need independent, standardized tools for assessing the general AI performance of inference engine implementations and dedicated hardware.

Schnell und einfach zu bedienen

Der Benchmark ist einfach zu installieren und auszuführen, ohne komplizierte Konfiguration. Run the benchmark using the Procyon application or via command-line. Zeigen Sie die Benchmark-Scores und Diagramme an oder exportieren Sie detaillierte Ergebnisdateien zur weiteren Analyse.

Entwickelt mit Branchenexpertise


Procyon benchmarks are designed for industry, enterprise, and press use, with tests and features created specifically for professional users. The Procyon AI Computer Vision Benchmark was designed and developed with industry partners through the UL Benchmark Development Program (BDP). Das BDP ist eine Initiative von UL Solutions, die zum Ziel hat, durch enge Zusammenarbeit mit den Programm-Mitgliedern relevante und unparteiische Benchmarks zu schaffen.

Neurale Netzwerk Modelle


MobileNet V3

MobileNet V3 ist ein kompaktes visuelles Erkennungsmodell, das speziell für Mobilgeräte entwickelt wurde. Der Benchmark nutzt MobileNet V3 zur Identifizierung von Bildobjekten, wobei eine Liste mit Wahrscheinlichkeitswerten für die im Bild identifizierten Inhalte ausgegeben wird. Der Benchmark verwendet die große minimalistische Variante von MobileNet V3.

Inception V4

Inception V4 ist ein modernes Modell für Bildklassifizierungsaufgaben. Es wurde auf Genauigkeit ausgelegt und ist ein viel breiteres und tieferes Modell als MobileNet. Der Benchmark nutzt Inception V4 zur Identifizierung von Bildobjekten, wobei eine Liste mit Wahrscheinlichkeitswerten für die im Bild identifizierten Inhalte ausgegeben wird.

YOLO V3

YOLO steht für „You Only Look Once“ und ist ein Objekterkennungsmodell, das die Position von Objekten in einem Bild ermitteln soll. Der Benchmark verwendet YOLO V3, um Begrenzungsrahmen (Bounding Boxes) um Objekte herum zu erzeugen und die Wahrscheinlichkeit anzugeben, dass es sich tatsächlich um das jeweilige Objekt handelt.

DeepLab V3

DeepLab ist ein Bildsegmentierungsmodell, das darauf abzielt, die Pixel eines Bildes zu gruppieren, die zur gleichen Objektklasse gehören. Die semantische Bildsegmentierung kennzeichnet jeden Bereich des Bildes mit einer Objektklasse. Der Benchmark verwendet MobileNet V2 für die Feature-Extraktion, was eine schnelle Inferenz mit geringen Qualitätsunterschieden im Vergleich zu größeren Modellen ermöglicht.

Real-ESRGAN

Real-ESRGAN ist ein Superauflösungsmodell, das mit synthetischen Daten trainiert, um die Auflösung eines Bildes zu verbessern und so aus einem Bild mit einer niedrigeren Auflösung eine Version mit einer höheren Auflösung zu erzeugen. Das im Benchmark verwendete Modell ist die allgemeine Bildvariante von Real-ERSGAN und kann ein Bild von 250 x 250 auf ein Bild von 1000 x 1000 hochskalieren.

ResNet 50

ResNet 50 ist ein Bildklassifizierungsmodell, das auf ganz neue Art und Weise mithilfe von Restblöcken weitere Faltungsebenen bereitstellt. Seine Einführung ermöglichte das Anlernen tiefer neuronaler Netze, was bisher nicht möglich war. Der Benchmark nutzt ResNet 50 zur Identifizierung von Bildobjekten, wobei eine Liste mit Wahrscheinlichkeitswerten für die im Bild identifizierten Inhalte ausgegeben wird.

Integer und Float Modelle

Der Benchmark umfasst sowohl float- als auch integer-optimierte Versionen jedes Modells. Jedes Modell läuft nacheinander auf der gesamten kompatiblen Hardware des Geräts. Wählen Sie das Gerät und die Inferenzgenauigkeit für jeden Durchlauf aus, um die Leistung von Ganzzahl- und Gleitkommazahlmodell zu vergleichen.

Ergebnisse und Erkenntnisse


Procyon AI Computer Vision Benchmark result screen showing benchmark scores

Benchmark-Scores

Vergleichen Sie die Leistung von AI Inference mit Ganzzahl- und Gleitkommazahlmodellen, die eine CPU, GPU oder dedizierten KI-Beschleuniger verwenden.

Detaillierte Scores

Sehen Sie sich die Inferenzzeiten für den jeden Test eines neuronalen Netzes an, wenn Sie die von Ihnen ausgewählte Inferenzmaschine und Recheneinheiten verwenden.

Procyon AI Computer Vision Benchmark result screen showing benchmark scores
Procyon AI Computer Vision Benchmark result screen showing benchmark scores

Hardware-Überwachung

Während des Benchmark-Durchlaufs erhalten Sie detaillierten Metriken dazu, wie Temperaturen, Taktfrequenzen und die Nutzung von CPU und GPU sich verändern.

Procyon AI Computer Vision Benchmark

Kostenlose Testversion

Testversion anfordern

Site-Lizenz

Angebot anfordern Presselizenz
  • Annual site license for Procyon AI Computer Vision Benchmark.
  • Unbegrenzte Anzahl von Benutzern.
  • Unbegrenzte Anzahl von Geräten.
  • Vorrangiger Support per E-Mail und Telefon

BDP

Kontaktieren Sie uns Mehr erfahren

Kontaktieren Sie uns


Das Benchmark Development Program™ ist eine Initiative von UL Solutions zum Ausbau von Partnerschaften mit Technologiefirmen.

OEMs, ODMs, Komponentenhersteller und deren Zulieferer sind eingeladen, gemeinsam mit uns neue Benchmarks für die AI-Verarbeitung zu entwickeln. Bitte kontaktieren Sie uns für Details.

Minimale Systemanforderungen für Windows PC

Betriebssystem Windows 10, 64-bit oder Windows 11
Prozessor 2 GHz Doppelkern CPU
Memory 4 GB
Speicher 4 GB

Minimale Systemanforderungen für Apple PC

Betriebssystem macOS Monterey oder höher
Prozessor Apple Silicon
Memory 4 GB
Speicher 1,5 GB

Support

Latest 1.6.420 | 26. August 2024

AI Quality Metrics

Beim Vergleich von Inferenzmaschinen ist es wichtig, neben der reinen Leistung auch die Genauigkeit zu berücksichtigen.

Wir haben eigene Tests durchgeführt, um die Genauigkeit von Inferenzmaschinen zu messen, die von den Procyon AI Inference Benchmarks unterstützt werden.

Procyon AI Quality Metrics

Sprachen

  • Englisch
  • Deutsch
  • Japanisch
  • Portugiesisch (Brasilien)
  • Simplified Chinese
  • Spanisch

Powered by