gputaskman: Scott Hanselman zeigt GPU-Auslastung für jeden Prozess

Der Microsoft-Entwickler Scott Hanselman, der als Vice President und Member of Technical Staff bei Microsoft und GitHub tätig ist, hat ein neues Open-Source-Werkzeug namens gputaskman vorgestellt.

Die Software dient der detaillierten Überwachung von Grafikprozessoren und setzt den Schwerpunkt auf eine prozessgenaue Erfassung von Hardwareressourcen. Damit adressiert das Dienstprogramm eine Lücke in gängigen Task-Managern, die GPU-Lasten häufig nur aggregiert für das Gesamtsystem oder mit eingeschränkten Details darstellen.

Umfassende Hardware-Metriken auf Prozessebene

Das Werkzeug erfasst und visualisiert eine Reihe von Leistungsdaten, die direkt einzelnen laufenden Prozessen zugeordnet werden. Zu den abrufbaren Parametern gehören neben der prozentualen GPU-Auslastung und der Belegung des Videospeichers auch thermische Werte sowie die Leistungsaufnahme der Grafikkarte.

Darüber hinaus liefert die Software Daten zu den aktuellen Taktraten, der Aktivität von Video-Encodern und -Decodern sowie dem Datenverkehr über die PCIe-Schnittstelle. Durch diese Aufschlüsselung können Entwickler und Administratoren gezielt nachvollziehen, welche Anwendungen spezifische Ressourcen des Grafikprozessors beanspruchen.

Spezielle Erkennung für lokale KI-Anwendungen

Einen besonderen Schwerpunkt legt das Dienstprogramm auf Arbeitslasten im Bereich der künstlichen Intelligenz. Das Tool ist in der Lage, Prozesse von lokalen großen Sprachmodellen eigenständig zu identifizieren. In diesen Fällen liest gputaskman weiterführende Metadaten aus, darunter die genutzte Ausführungsumgebung sowie das konkrete Modell inklusive der eingesetzten Modellgewichte.

Wer sich mit der Optimierung lokaler KI-Systeme befasst, muss auch die rechtlichen Rahmenbedingungen für den Einsatz künstlicher Intelligenz im Blick behalten. Dieser kostenlose Praxis-Leitfaden bietet einen kompakten Überblick über Pflichten, Risikoklassen und Fristen der neuen EU-Verordnung. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen

Ergänzend erfasst die Software Angaben zum angewandten Quantisierungsgrad, zur Anzahl der verarbeiteten Modellschichten und zum exakten VRAM-Bedarf der jeweiligen Instanz. Dies erleichtert die Diagnose und Optimierung beim Betrieb lokaler KI-Modelle.

Breite Plattformunterstützung und Entwicklungsstand

Bei der Plattformkompatibilität setzt das Projekt auf ein breites Fundament. Neben Windows und Linux werden auch das Windows-Subsystem für Linux sowie Mac-Systeme mit Apple-Silicon-Prozessoren unterstützt. Wie aus Berichten hervorgeht, unterscheiden sich die jeweils verfügbaren Messwerte und Metriken jedoch abhängig vom eingesetzten Betriebssystem und der zugrundeliegenden Hardwarearchitektur.

Die vorgestellte Software zeigt, wie flexibel Open-Source-Lösungen auf verschiedenen Betriebssystemen wie Linux eingesetzt werden können. Wer die Vorteile dieses Systems selbst risikofrei testen möchte, findet in diesem kostenlosen Startpaket eine Schritt-für-Schritt-Anleitung zur parallelen Installation. Kostenloses Linux-Startpaket mit Ubuntu-Vollversion sichern

In ersten Praxistests arbeitete die Anwendung überwiegend wie vorgesehen. Gelegentlich kam es dabei allerdings zu kleineren Fehlern, bei denen die Anzeige der GPU-Temperatur einfror oder Aktualisierungen ausblieben.

Hanselman selbst stuft gputaskman als frühes experimentelles Projekt ein, an dem weiter gearbeitet werden kann. Der vollständige Quellcode sowie entsprechende Installationsprogramme stehen auf der Entwicklerplattform GitHub in Hanselmans dortigem Repository kostenfrei zum Download bereit.