Hermes im Check

Die meisten KI-Assistenten, die heute in Unternehmen im Einsatz sind, funktionieren nach einem einfachen Muster: Eine Anfrage geht rein, eine Antwort kommt raus – und mit dem nächsten Chat beginnt alles wieder bei null. Hermes Agent, ein quelloffenes Projekt von Nous Research, bricht mit diesem Muster. Statt als Wrapper um eine Cloud-API zu laufen, installiert sich Hermes dauerhaft auf dem eigenen Server, merkt sich Kontext über Sitzungen hinweg und baut sich mit der Zeit ein wachsendes Repertoire an wiederverwendbaren Fähigkeiten auf. Für Unternehmen, die lokale KI-Agenten – wie bereits im Beitrag zu Ollama beschrieben – ernsthaft evaluieren, lohnt ein genauer Blick.

Kein Chatbot, sondern eine Laufzeitumgebung

Der entscheidende Unterschied zu klassischen KI-Assistenten liegt im Selbstverständnis: Hermes versteht sich als technische Laufzeitumgebung für einen Agenten, der auf Werkzeuge zugreift, Dateien liest und bearbeitet, Terminal-Befehle ausführt, Aufgaben plant und frühere Sitzungen durchsucht. Löst der Agent eine neue oder wiederkehrende Aufgabe, hält er die Lösung als sogenannten „Skill" fest – ein wiederverwendbares Arbeitsdokument, auf das er bei ähnlichen Anfragen zurückgreift, statt erneut bei null zu beginnen. Über einen zentralen Gateway-Prozess lässt sich Hermes zudem an gängige Kommunikationskanäle wie Teams-kompatible Messenger, Slack oder ein eigenes CLI anbinden, sodass Mitarbeitende den Agenten dort erreichen, wo sie ohnehin arbeiten.

Anbindung statt Bindung

Anders als viele Cloud-Assistenten ist Hermes nicht an ein bestimmtes Sprachmodell gekoppelt. Der Agent lässt sich wahlweise mit einem OpenAI-kompatiblen Cloud-Endpunkt oder – für datenschutzsensible Anwendungsfälle relevant – mit lokal über Ollama betriebenen Modellen verbinden. Der Wechsel zwischen Modell-Anbietern erfolgt dabei ohne Codeänderung. In Kombination mit MCP, wie im entsprechenden TechBlog-Beitrag beschrieben, kann Hermes zudem strukturiert auf interne Datenquellen, Ticketsysteme oder Dokumentenablagen zugreifen – die technische Basis für echte Agentic-AI-Szenarien im Unternehmen.

Sicherheitsaspekte, die IT-Verantwortliche kennen sollten

Genau die Eigenschaften, die Hermes mächtig machen, verlangen im Unternehmenskontext besondere Sorgfalt:
Terminal-Zugriff – Hermes kann Shell-Befehle auf dem Server ausführen. Im Standardmodus wird vorab um Erlaubnis gefragt; ein „off"-Modus ohne jede Absicherung sollte auf produktiven Systemen kategorisch ausgeschlossen bleiben.
Prompt Injection – verarbeitet der Agent externe Inhalte wie Webseiten oder Dokumente, können manipulierte Inhalte ihn zu unbeabsichtigten Aktionen verleiten. Ein aktiver Scan-Mechanismus reduziert das Risiko, beseitigt es aber nicht vollständig.
Sensible Daten in Skills – automatisch erstellte Skills können vertrauliche Informationen als Klartext auf der Festplatte ablegen. Wer mit personenbezogenen oder geschäftskritischen Daten arbeitet, benötigt einen Prozess zur regelmäßigen Überprüfung dieses Verzeichnisses.

Reifegrad realistisch einschätzen

Hermes ist ein junges Projekt mit rasantem Wachstum – ein Zeichen für hohes Interesse an lokal betriebenen KI-Agenten, aber auch ein Hinweis darauf, dass Ökosystem und Skill-Bibliothek im Vergleich zu etablierten Cloud-Lösungen noch überschaubar sind. Für einen produktiven Unternehmenseinsatz empfiehlt sich daher ein kontrollierter Pilotbetrieb: klar abgegrenzter Anwendungsfall, definierte Berechtigungsstufen und ein Monitoring, das über die reine Funktionsprüfung hinausgeht und auch das Verhalten des Agenten im Auge behält.

Fazit

Hermes zeigt eindrucksvoll, wohin sich lokale KI-Agenten entwickeln: weg vom reaktiven Chat-Fenster, hin zu einem dauerhaften, lernenden Systembestandteil. Für Unternehmen mit hohen Datenschutzanforderungen ist das ein attraktives Modell – vorausgesetzt, Terminal-Zugriff, Skill-Verzeichnis und Modellanbindung werden von Anfang an mit derselben Sorgfalt konfiguriert und überwacht wie jede andere unternehmenskritische Anwendung auch.