04 Dez Photonischer Prozessor verspricht Effizienzschub für KI und HPC
Das Stuttgarter Start-up Q.ant hat seinen ersten kommerziellen photonischen Prozessor, die Native Processing Unit (NPU), vorgestellt. Er basiert auf der firmeneigenen Architektur Lena (Light Empowered Native Arithmetics) und verspricht eine mindestens 30-mal höhere Energieeffizienz und deutliche Leistungssteigerungen gegenüber der herkömmlichen CMOS-Technologie. Die NPU ist für rechenintensive Anwendungen wie KI-Inferenz, maschinelles Lernen und Physiksimulationen konzipiert. Dank der Verwendung von Licht ermöglicht sie sehr energieeffiziente mathematische Operationen: Ein photonisches Element ersetzt beispielsweise 1200 Transistoren, die ein CMOS-Multiplikator für eine 8-bit-Multiplikation benötigt.
Dem Hersteller zufolge haben Tests gezeigt, dass die NPU erhebliche Vorteile bei typischen KI-Aufgaben bietet. So wurden bei Simulationen von neuronalen Netzwerken bis zu 46 % weniger Operationen und 43 % weniger Parameter benötigt. In Simulationen von Sprachmodellen wie GPT-4 könnte die Technologie den Energiebedarf um den Faktor 30 reduzieren. Darüber hinaus erlaubt die photonische Architektur schnellere Lösungen für Physiksimulationen, Zeitreihenanalysen und Probleme der Graphentheorie.
Ein weiterer Vorteil ist die Integration mit bestehenden Software-Stacks. Das Q.ant-Toolkit bietet Entwicklern eine intuitive Schnittstelle, um photonisches Computing nahtlos in bestehende KI-Anwendungen zu integrieren. Die NPU ist laut Q.ant ab sofort vorbestellbar und soll ab Februar 2025 als schlüsselfertiger Native Processing Server (NPS) verfügbar sein, der sich in bestehende High-Performance-Computing- (HPC-) und Rechenzentrumsumgebungen integrieren.
Erhebliche Fortschritte in Effizienz und Geschwindigkeit
„Mit unserer photonischen Chiptechnologie, die jetzt über die Standard-PCIe-Schnittstelle verfügbar ist, bringen wir die unglaubliche Leistungsfähigkeit der Photonik direkt in reale Anwendungen. Wir machen damit ein deutliches Statement: Leistung und Nachhaltigkeit können Hand in Hand gehen“, sagt Dr. Michael Förtsch, CEO von Q.ant. „Zum ersten Mal können Entwickler KI-Anwendungen erstellen und die Möglichkeiten des photonischen Rechnens erkunden, insbesondere für komplexe, nichtlineare Berechnungen. Experten haben beispielsweise errechnet, dass eine GPT-4-Anfrage heute zehnmal mehr Strom verbraucht als eine normale Internet-Suchanfrage.“ Die photonischen Chips hätten das Potenzial, den Energiebedarf für diese Abfrage auf ein Dreißigstel zu senken.“
Der Durchbruch von Q.ant beruht Unternehmensangaben zufolge auf der firmeneigenen LENA-Plattform, die Thin-Film Lithium Niobate (TFLN) on Insulator umfasst. Diese Plattform ermöglicht eine präzise Lichtsteuerung auf Chipebene.
Die Q.ant-NPU soll die Berechnungsanforderungen für Machine-Learning, Computer-Vision oder für das Training und die Inferenz großer Sprachmodelle (LLM) reduzieren:
• Testläufe mit dem NPU-Demosystem in der Cloud mit MNIST-Datensätzen ergaben, dass der Native-Computing-Ansatz von Q.ant eine mit linearen Netzen vergleichbare Genauigkeit bei weniger Energieaufnahme erreicht.
• Auch konnte in Simulationen von Kolmogorov-Arnold-Networks (KAN) Simulationen gezeigt werden, dass 43 % weniger Parameter benötigt und die Anzahl der Operationen um 46 % reduziert werden kann, was ihn als effizientere Wahl für KI-Inferenz etabliert.
• Weitere Tests und Simulationen zur Bilderkennung zeigen, dass die NPU deutlich schneller trainieren kann und eine genaue Erkennung mit nur 0,1 Millionen Parametern und 0,2 Millionen Operationen erreicht. Ein herkömmlicher Ansatz hat selbst bei 5,1 Millionen Parametern und zehn Millionen Operationen Mühe, akzeptable Ergebnisse zu erzielen.
Weitere Informationen vom Hersteller
Quelle und Bild: qant.com
