Liefert ein KI-Agent eine falsche Antwort, liegt der Reflex nahe, auf ein größeres Modell umzusteigen. Oft ist das die falsche Maßnahme. Agentic-AI-Systeme planen, suchen, lesen und handeln in mehreren Schritten, und jeder Schritt hängt von den Informationen ab, die sie abrufen. Sind diese unvollständig, veraltet oder widersprüchlich, arbeitet auch das leistungsfähigste Modell mit schlechtem Material. Für Unternehmen, die KI-Agenten vom Pilotprojekt in den Produktivbetrieb bringen, ist meist die Retrieval-Qualität entscheidend, nicht die Modellwahl.
Untersuchungen zu Deep-Research-Agenten zeigen, wie stark die Suche das Ergebnis prägt. Der Benchmark BrowseComp-Plus testet Agenten gegen eine feste, kuratierte Dokumentensammlung. So lässt sich der Einfluss der Suchkomponente getrennt vom Modell messen. In den veröffentlichten Ergebnissen beantwortete GPT-5 mit klassischer Stichwortsuche (BM25) 55,9 % der Fragen korrekt. Mit einem stärkeren, embedding-basierten Retriever erreichte dasselbe Modell 70,1 % und benötigte dabei weniger Suchanfragen.
Das Modell blieb gleich. Verändert hat sich nur die Qualität der Belege, die es finden konnte. Eine aktuelle Analyse bei The New Stack kommt zum selben Schluss: Mehr Modellintelligenz gleicht keine Informationen aus, die der Agent nie gefunden hat.
Suchsysteme wurden für Menschen gebaut: eine kurze Anfrage, eine Trefferliste, ein Mensch, der die Relevanz beurteilt. KI-Agenten arbeiten anders, und daraus ergeben sich drei Effekte.
Der kumulative Effekt wird leicht unterschätzt. Eine einfache Rechnung zur Veranschaulichung (keine Messdaten): Findet jeder von fünf Schritten in 90 % der Fälle die richtigen Informationen, gelingen alle fünf nur mit etwa 59 % Wahrscheinlichkeit. Reale Agenten können Fehler korrigieren, doch die Rechnung zeigt, wie sich kleine Schwächen summieren.
Demos laufen meist auf sauberen Beispieldokumenten. Produktivdaten sehen anders aus. In vielen Unternehmen verteilt sich Wissen auf Fileserver, SharePoint, ERP, Dokumentenmanagement und Ticketsysteme, mit Dubletten, veralteten Entwürfen, mehreren Versionen derselben Richtlinie und uneinheitlichen Begriffen zwischen Abteilungen. Hinzu kommen Zugriffsrechte: Ein Agent darf nur nutzen, was der anfragende Nutzer sehen darf.
Typische Symptome und ihre Ursachen:
|
Symptom |
Wahrscheinliche Ursache im Retrieval |
Was zuerst zu beheben ist |
|
Agent zitiert eine veraltete Richtlinie |
Alte und aktuelle Versionen gemeinsam indexiert |
Versionierung und Datumsmetadaten, Filter auf Gültigkeit |
|
Antworten variieren bei gleicher Frage |
Uneinheitliche Begriffe in den Quellen |
Synonympflege, hybride Stichwort- und semantische Suche |
|
Agent „findet“ bekannte Informationen nicht |
Ungünstiges Chunking oder fehlende Metadaten |
Dokumentaufbereitung und Indexierungsstrategie |
|
Langsame oder teure Agentenläufe |
Viele redundante Suchen, keine Limits |
Abfragebudgets, Caching, bessere erste Treffer |
In keinem dieser Fälle würde ein größeres Modell die Ursache beseitigen. Besseres Retrieval schon.
Hypothetisches Szenario: Ein mittelständischer Maschinenbauer setzt einen Agenten ein, der Servicetechniker bei der Fehlerdiagnose unterstützt. Der Agent durchsucht Handbücher, Serviceberichte und Ersatzteildaten. Im Pilotbetrieb empfiehlt er häufig Teile, die längst durch Nachfolgemodelle ersetzt wurden, weil alte und neue Kataloge nebeneinander indexiert sind. Das Team erwägt ein teureres Modell. Stattdessen ergänzt es den Index um Gültigkeitsdaten und Produktlinien-Metadaten und lässt den Agenten danach filtern. Die Empfehlungen werden besser, und jeder Durchlauf benötigt weniger Suchanfragen.
Die Modellwahl bleibt wichtig, ist bei produktiven KI-Agenten aber selten der Engpass. Unternehmen, die zuverlässige Agentic AI wollen, sollten Retrieval-Qualität, Datenaufbereitung, Zugriffskontrolle und Suchlatenz von Anfang an als zentrale Designentscheidungen behandeln und sie mit den Anfragen messen, die ihre Agenten tatsächlich stellen.
Unitech DACH konzipiert und entwickelt KI-Agenten und agentische Workflows, einschließlich RAG und Graph RAG auf Basis von Unternehmensdaten. Auf Wunsch laufen die Modelle selbst gehostet in einer Infrastruktur unter Kontrolle des Kunden. Datenschutz ist von Beginn an Teil der Lösung: DSGVO-konforme Verarbeitung, Datenhaltung in der EU oder am vom Kunden gewählten Ort, rollenbasierte Zugriffskontrolle sowie Verschlüsselung bei Übertragung und Speicherung.
Sprechen Sie mit unseren Experten über Ihren Agentic-AI-Anwendungsfall.
Quellen
1. The New Stack – Jenny Morris (Vespa.ai, gesponserter Beitrag): „Agentic AI doesn’t have a model problem. It has a retrieval problem.“, 15.10.2026.
2. Chen et al.: „BrowseComp-Plus: A More Fair and Transparent Evaluation Benchmark of Deep-Research Agent“, arXiv:2508.06600, August 2025.
3. Perplexity: „Rethinking Search as Code Generation“, 01.06.2026.