Generative KI ist nicht mehr auf ein einzelnes Chat‑Fenster beschränkt. Entwickler können nun Open‑Weight‑Modelle ausführen oder anpassen, während Agenten‑Frameworks diese Modelle mit Dateien, APIs, Browsern und anderen Werkzeugen verbinden.
Dieser Artikel beschreibt zwei konkrete Beispiele, die Hermes‑Modellreihe von Nous Research und das OpenHands‑Agenten‑Framework, sowie das breitere Ökosystem, das sie repräsentieren.
Nous Research Hermes: Instruktionsabgestimmt für Werkzeugnutzung
Hermes ist eine Reihe von Open‑Weight‑Modellen, die von Nous Research auf Basismodellen wie Llama 3 und Mistral feinabgestimmt wurden. Diese feine Abstimmung betont Instruktionsbefolgung, strukturierte Ausgabe und Funktionsaufruf, Fähigkeiten, die das Modell als Kern eines Agenten einfacher und nutzbarer machen, weil die strukturierte Kommunikation Fehlinterpretationen beim Orchestrator reduziert.
Hermes‑Modelle unterstützen ein Funktionsaufruf‑Format, das es dem Modell ermöglicht, strukturiertes JSON auszugeben, das beschreibt, welches Werkzeug mit welchen Argumenten aufgerufen werden soll, anstatt freien Text zu produzieren. Eine Orchestrierungsschicht kann diese Ausgabe dann analysieren und die entsprechende Aktion ausführen:
# Hermes gibt strukturierte Werkzeugaufrufe aus, die ein Orchestrator ausführen kann
response = {
"tool_call": {
"name": "search_documents",
AI-Modell erwartet eine strukturierte Antwort in JSON‑Format, die den Namen des zu aufrufenden Werkzeugs und dessen Argumente enthält. Dieser Ansatz reduziert die Risiken von Fehlinterpretationen, da der Orchestrator exakt weiß, welches Werkzeug mit welchen Parametern ausgeführt wurde.
}
}
# Der Orchestrator führt das Werkzeug aus und gibt das Ergebnis an das Modell zurück
result = tools["search_documents"](**response["tool_call"]["arguments"])
Hermes‑Modelle werden unter Lizenzen veröffentlicht, die kommerzielle Nutzung erlauben (die spezifische Lizenz für jede Version unter https://huggingface.co/NousResearch zu überprüfen).
OpenHands: Eine Orchestrierungsschicht für Software‑Engineering
OpenHands (früher OpenDevin) ist ein Open‑Source‑Agenten‑Framework, das sich auf Software‑Engineering‑Aufgaben konzentriert. Es gibt einem Sprachmodell Zugang zu einer Sandbox‑Umgebung mit einer Shell, einem Code‑Editor, einem Browser und Dateisystemzugang. Das Modell kann ein Repository inspizieren, Dateien bearbeiten, Tests ausführen und einen Pull‑Request vorbereiten, alles innerhalb einer einzigen Sitzung.
from openhands import AgentController, CodeActAgent
agent = CodeActAgent(llm_config={"model": "hermes-3-llama-3.1-70b"})
controller = AgentController(agent=agent, sandbox="docker")
# Der Agent empfängt ein GitHub‑Issue und arbeitet autonom
result = controller.run(
task="Behebe den fehlschlagenden Test in tests/test_auth.py - "
"die JWT‑Ablaufprüfung verwendet den falschen Feldnamen."
)
print(result.summary)
OpenHands ist ein Forschungs- und Open-Source-Projekt. Sein Erfolg bei einer gegebenen Aufgabe hängt stark von der Qualität des Repositorys, der Testabdeckung, dem Zugriff auf Werkzeuge und der menschlichen Überprüfung der Ausgabe ab. Es ist kein Drop-In-Ersatz für einen Entwickler.
Was können diese Systeme tun?
Wenn ein Modell und eine Ausführungsschicht kombiniert werden, kann ein System:
- Suchen, Berechnungen, Code und Dokumentengenerierung verketten;
- ein Repository inspizieren, Änderungen vorschlagen, Tests ausführen und einen Pull‑Request vorbereiten;
- strukturierte Datensätze aus unstrukturierten Dokumenten extrahieren; und
- verschiedene Medien oder Software‑Werkzeuge in einem Workflow koordinieren.
Diese Punkte beschreiben die Fähigkeiten eines konfigurierten Systems, nicht deren Zuverlässigkeit. SWE‑bench, ein Benchmark echter GitHub‑Issues, zeigt, dass selbst die besten Agentensysteme ab 2025 etwa 50 % der Issues korrekt lösen, ein bedeutsamer Fortschritt, aber bei weitem nicht zuverlässig genug für den Einsatz ohne Überprüfung. Ein früher Fehler in einer langen Aktionskette wird dadurch verstärkt, dass nachfolgende Schritte auf falschen Annahmen aufbauen; deshalb bleibt menschliches Monitoring unverzichtbar.
Wie Menschen sie nutzen
Lokale Experimente
Entwickler können einige Open‑Weight‑Modelle lokal ausführen, besonders in quantisierter Form über Ollama oder llama.cpp. Lokale Ausführung kann die Datenexposition gegenüber Drittanbietern reduzieren, garantiert aber keine Privatsphäre: Protokolle, Plugins, Netzwerkaufrufe und der Host‑Rechner benötigen weiterhin Schutz.
Benutzerdefinierte Automatisierung
Organisationen können einen Agenten mit internen Systemen für Aufgaben wie Triage, Berichterstattung oder Dokumentenvorbereitung verbinden. Aktionen mit hoher Auswirkung, wie Bestellungen ändern, Nachrichten senden oder Zahlungen genehmigen, sollten explizite Autorisierung und Audit‑Trails erfordern.
Forschung und Feintuning
Offene Gewichte und sichtbarer Orchestrierungscode ermöglichen Forschern, Werkzeugnutzung, Fehlermodi und Evaluationsmethoden zu untersuchen. „Open source“ ist kein einheitlicher rechtlicher Begriff, sodass Teams die Lizenz jedes Modells und jeder Komponente prüfen sollten.
Persönliche Assistenten
Einzelne können Assistenten bauen, die Informationsquellen überwachen, Änderungen zusammenfassen oder Antworten entwerfen. Der Zugriff sollte streng begrenzt sein, und Aktionen sollten vor ihrer Übermittlung an andere Personen oder Systeme angezeigt werden.
Wo das Ökosystem hingehen könnte
Von Chat zu asynchroner Arbeit
Agenten könnten zunehmend längere Perioden ausführen und einen Zwischenstand zurückliefern, anstatt jeden Schritt synchron zu beantworten. Je länger die Dauer, desto wichtiger werden Reliabilität, Kostenbegrenzungen, Timeouts und klare Beendigungsbedingungen.
Agenten‑aware Operating Systems
Betriebssysteme und Unternehmensplattformen könnten berechtigte Schnittstellen für Agenten bereitstellen. Die nützliche Idee ist nicht unbegrenzter Zugriff, sondern explizite Kompetenzen: Ein Agent sollte nur die Dateien, Anwendungen und Aktionen erhalten, die für seine Aufgabe erforderlich sind.
Spezialisierte Agententeams
Ein Koordinator kann Forschung, Codierung, Überprüfung oder Kommunikation an spezialisierte Komponenten delegieren. Während Multi‑Agent‑Designs die Verantwortlichkeiten trennen, erhöhen sie zugleich den Koordinationsaufwand und schaffen weitere Fehlerquellen.
Über die aktuelle Situation nachdenken
Open‑Weight‑Modelle wie Hermes und Agenten‑Frameworks wie OpenHands trennen Sprach‑Reasoning von Ausführung. Diese Modularität unterstützt Experimente und lokale Kontrolle, beseitigt aber nicht die Notwendigkeit von Sicherheit, Tests und menschlicher Verantwortlichkeit. Die zentrale Frage lautet daher nicht allein, was ein Agent leisten kann, sondern was er dürfen soll und wie seine Aktionen geprüft werden.
Literaturhinweise
- Yao, S., et al. (2022). "ReAct: Synergizing Reasoning and Acting in Language Models." ICLR 2023. https://arxiv.org/abs/2210.03629
- Wang, X., et al. (2024). "OpenHands: An Open Platform for AI Software Developers as Generalist Agents." arXiv:2407.16741. https://arxiv.org/abs/2407.16741
- Yang, J., et al. (2024). "SWE-agent: Agent-Computer Interfaces Enable Automated Software Engineering." arXiv:2405.15793. https://arxiv.org/abs/2405.15793
- Jimenez, C. E., et al. (2023). "SWE-bench: Can Language Models Resolve Real-World GitHub Issues?" arXiv:2310.06770. https://arxiv.org/abs/2310.06770
- Nous Research. "Hermes" Modelldokumentation und Lizenzinformationen. https://huggingface.co/NousResearch
- Schick, T., et al. (2023). "Toolformer: Language Models Can Teach Themselves to Use Tools." NeurIPS 2023. https://arxiv.org/abs/2302.04761

Comments (0)
Please sign in to leave a comment