Ein Leitfaden zur Agentic-AI-Architektur

Die Mission von KI-Agenten besteht darin, durch unabhängiges Denken und Planen Anweisungen zu befolgen, eigenständige Entscheidungen zu treffen und Maßnahmen zu ergreifen – oft ohne Benutzerinteraktion. Idealerweise sollten KI-Agenten in der Lage sein, neue Informationen aktiv zu suchen, sich in Echtzeit anzupassen und ihre Aufgaben autonom zu erfüllen. Der Aufstieg von KI-Agenten und agentischen Architekturen beginnt gerade erst, unsere Interaktion mit Technologie zu verändern, indem sie uns helfen, unsere Ziele halbautonom zu erreichen.

Im Kern werden KI-Agenten typischerweise von einem oder mehreren großen Sprachmodellen (LLMs) angetrieben. Der Aufbau von Agenten ist jedoch komplexer als der eines Chatbots, eines generativen Schreibtools oder eines interaktiven Assistenten. Während viele dieser üblichen KI-Anwendungen auf kontinuierliche Benutzerinteraktion angewiesen sind – z. B. bei der Erstellung von Eingabeaufforderungen, Feedback oder aktiver Überwachung – können Agenten autonom agieren.

• Fähigkeit und Zugriff: Die Fähigkeit, im Namen des Nutzers zu handeln, einschließlich der Erteilung von Berechtigungen und des authentifizierten Zugriffs auf relevante Systeme.
• Schlussfolgerung und Planung: Entscheidungen treffen mithilfe eines strukturierten Denkprozesses – oft in Form von Ketten, Bäumen, Graphen oder Algorithmen –, der die Aktionen des Agenten steuert.
• Komponenten-Orchestrierung: Koordination verschiedener Teile wie Eingabeaufforderungen, LLMs, verfügbare Datenquellen, Kontext, Speicher, Verlauf sowie die Ausführung und der Status potenzieller Aktionen.
• Leitplanken: Mechanismen, die den Agenten fokussiert und effektiv halten, einschließlich Schutzvorrichtungen, um Fehler zu vermeiden oder bei Ausfällen hilfreiche Diagnosen bereitzustellen.

Da Agenten komplexer sind als typische KI-Anwendungen, erfordern sie spezialisierte Architekturen und Entwicklungsprinzipien, die autonome Entscheidungsfindung, effektive Tool-Integration und nahtlose Skalierbarkeit unterstützen. Nach ihrer Entwicklung benötigen Agenten robuste Infrastrukturen und geeignete Softwarekomponenten, um Skalierbarkeit, Zuverlässigkeit und Effektivität zu gewährleisten.

Die KI-Plattform von DataStax kombiniert die Fähigkeiten von Astra DB, einer Datenbank mit Vektor- und traditionellen Funktionen, mit Langflow, einer visuellen Entwicklungsumgebung für den Aufbau von KI-Pipelines. Astra DB ermöglicht nahtlose Datenintegration, Skalierbarkeit und Sicherheit auf Unternehmensniveau, während Langflow die Gestaltung und Bereitstellung komplexer KI-Systeme vereinfacht.

Was KI-Agenten von anderen KI-Anwendungen unterscheidet, ist ihre Fähigkeit, autonom zu denken, zu planen und zu handeln – Anweisungen zu folgen und spezifizierte Ziele zu erreichen, ohne dass Benutzereingaben oder -freigaben erforderlich sind.

Fähigkeit und Zugriff der KI-Architektur

Die Fähigkeit und der Zugriff sind entscheidend, damit KI-Agenten sinnvoll mit verschiedenen Systemen und Datenquellen interagieren können. Im Gegensatz zu traditionellen Anwendungen, die auf vordefinierten, statischen Zugriff beschränkt sind, benötigen agentische KI-Systeme dynamischen, autonomen Zugang zu Tools, APIs und Datenbanken. Dies erfordert ein ausgefeiltes Berechtigungsmanagement und sichere Verbindungen, die den Agenten ermöglichen, unabhängig zu agieren, während strenge Sicherheitsstandards eingehalten werden.

Astra DB bietet eine Kombination aus Vektor- und NoSQL-Funktionen, die es Agenten ermöglicht, komplexe, kontextsensitive Suchen über verschiedene Datenformate hinweg durchzuführen. Die Plattform integriert sich nahtlos in gängige KI-Dienste und unterstützt mehrere Programmiersprachen, was die Entwicklung von Agenten erleichtert.

Schlüsselkomponenten für KI-Agenten

• Tool-Integrationen: KI-Agenten müssen API-Aufrufe durchführen, Funktionen ausführen und autonom auf Dienste zugreifen können.
• Datenzugriff: KI-Agenten benötigen Zugriff auf verschiedene Datenspeicher, einschließlich Vektordatenbanken für unstrukturierte Daten und traditionelle Datenbanken für strukturierte Daten.
• Funktionales Verständnis von Tools: Agenten müssen die Fähigkeiten, Endpunkte und Einschränkungen der Tools, mit denen sie interagieren, verstehen.
• Berechtigungs- und Identitätsmanagement: Agenten benötigen eine sichere Speicherung und Handhabung von Anmeldedaten, um autonom auf verschiedene Systeme zugreifen zu können.
• Vordefinierte Workflows: Tools wie LangChain und LlamaIndex bieten vorgefertigte Workflows, die es Agenten ermöglichen, API-Interaktionen zu automatisieren, Datenflüsse zu verwalten und strukturierte Aufgabenketten zu erstellen.

Das Entwickeln von schlussfolgerndem Denken, Planung und definierten Denkprozessen ermöglicht es KI-Agenten, autonome Entscheidungen auf Grundlage fundierter Informationen zu treffen, anstatt lediglich vorgegebene Skripte auszuführen. Traditionelle Software basiert auf regelbasierten Entscheidungsmechanismen, bei denen die Ergebnisse streng durch Benutzereingaben und Systemzustände definiert sind. Im Gegensatz dazu erfordert agentenbasierte KI eine adaptive und flexible Denkweise, um eine Vielzahl von Szenarien zu verarbeiten und aus unvollständigen oder sich verändernden Daten Schlüsse zu ziehen.

Agentenbasierte KI benötigt offene und umsetzbare Denkprozesse, die beispielsweise durch die Einbindung von Large Language Models (LLMs) ermöglicht werden. Diese können ihre Denkweise und Aktionen basierend auf sich ändernden Eingaben und Kontexten anpassen. Um LLMs und andere Denkmodule zu integrieren, benötigen KI-Agenten eine robuste Infrastruktur, die adaptive Planung unterstützt.

Schlüsselkomponenten für KI-Agenten

• Offenes Denken mit LLMs: Die Integration von LLMs bietet die nötigen Fähigkeiten, um adaptive Denkprozesse zu ermöglichen, sodass Agenten auf veränderte Eingaben und Kontexte reagieren können. Plattformen wie OpenAI, Anthropic’s Claude und Hugging Face liefern LLM-Funktionen, die adaptive Entscheidungen unterstützen.
• Strukturierte Denkprozesse: Arbeitsabläufe, die die Schritte, Eingaben und Ergebnisse von Entscheidungsprozessen verfolgen, sind erforderlich, um die Transparenz und Nachvollziehbarkeit der Denkweise von Agenten zu gewährleisten. Methoden wie Chain-of-Thought- oder Graph-of-Thought-Reasoning, unter Verwendung von Frameworks wie LangChain oder Dagster, unterstützen die Organisation und Implementierung strukturierter Denkprozesse
• Vorausschauende Planung: Planung bedeutet, potenzielle Szenarien vorherzusehen, Zwischenziele zu setzen und Aktionen dynamisch anzupassen, sobald neue Informationen verfügbar werden. Tools wie LangChain, Hugging Face und die OpenAI API ermöglichen Planungsfunktionen, während Workflow-Orchestratoren wie Apache Airflow oder Prefect komplexe mehrstufige Pläne effektiv verwalten.
• Skalierbare Speicherung und integrierte Abrufsysteme: Skalierbare Datenspeicherung sowie die Integration von Abrufpipelines und Tools für konversationelle Speicher ermöglichen es Agenten, relevanten Kontext effizient abzurufen, Zustände zu bewahren und die Historie für adaptive Planung zu nutzen. Hochskalierbare Datenbanken wie Astra DB bieten die nötige Infrastruktur für Anwendungen mit heterogenen Datentypen und Volumina.

Die Orchestrierung der Komponenten stellt sicher, dass alle Teile eines agentenbasierten Systems zusammenarbeiten, um die gewünschten Ergebnisse zu erzielen. Während traditionelle Softwareanwendungen aus eng gekoppelten Komponenten mit vorhersehbaren Interaktionen bestehen, erfordert agentenbasierte KI eine flexiblere und dynamischere Orchestrierung. Komponenten, Tools und Datenquellen müssen bei Bedarf dynamisch integriert, entfernt oder ersetzt werden können, sodass Agenten die besten Ressourcen nutzen können, um ihre Ziele zu erreichen.

Im Gegensatz zu traditionellen KI-Systemen mit linearen Workflows koordinieren agentenbasierte Systeme mehrere diverse Komponenten, die asynchron und interaktiv arbeiten. Eine effektive Orchestrierung erfordert die Verwaltung von Zuständen, das Verfolgen von Interaktionen und die Beibehaltung von Kontexten über mehrere Sitzungen hinweg.

Schlüsselkomponenten für KI-Agenten

• Dynamische Verfügbarkeit von Tools und Aktionen: Agenten benötigen ein dynamisches Register verfügbarer Tools, APIs und Funktionen, um die besten Ressourcen für ihre Aufgaben zu nutzen. Frameworks wie LangChain und LlamaIndex unterstützen die dynamische Integration und effiziente Verwaltung dieser Ressourcen.
• Effektives Zustands- und Kontextmanagemen: Das Management des Anwendungszustands, Kontexts und der Historie ist essenziell, damit Agenten neue Herausforderungen bewältigen und komplexe Workflows kohärent ausführen können. Dies erfordert oft große Mengen an strukturierter und unstrukturierter Speicherung, die durch skalierbare Lösungen wie Astra DB bereitgestellt werden können.
• Echtzeit-Datenverarbeitung: Agenten müssen Eingaben akzeptieren, Daten abrufen, transformieren und Ausgaben in Echtzeit generieren. Workflow-Automatisierungstools wie Apache Kafka oder Apache Flink ermöglichen Echtzeit-Datenpipelines und effektive Entscheidungen auf Basis von Live-Datenströmen.
• Skalierbare, fehlertolerante Architektur: Eine verteilte Architektur stellt durch Wiederholungslogik, Failover-Unterstützung und Datenreplikation sicher, dass Agenten diverse Komponenten zuverlässig orchestrieren können. Tools wie Kubernetes bieten die notwendige Infrastruktur zur Skalierung und Verwaltung verteilter Dienste.
• Intelligente LLM-gesteuerte Such: Agenten benötigen kontextbewusste Suchen, um Entscheidungen effektiv zu treffen. Vektordatenbanken wie Astra DB, kombiniert mit LLMs, unterstützen Agenten dabei, relevante Informationen aus heterogenen Datensätzen effizient zu finden.
• Intuitive Entwicklungstool: Die Gestaltung und Entwicklung von KI-Agenten kann komplex sein. Visuelle Coding-Tools wie Langflow vereinfachen die Entwicklung, das Testen und den Einsatz von KI-Agenten. Diese Tools bieten oft Drag-and-Drop-Oberflächen und vorgefertigte Templates.

Schutzmaßnahmen sorgen dafür, dass KI-Agenten innerhalb sicherer und ethischer Grenzen operieren und ihre Handlungen mit den Anwendungsfällen, organisatorischen Richtlinien und gesellschaftlichen Normen in Einklang stehen. Während sich traditionelle Software auf Sicherheitsmaßnahmen, Fehlerbehandlung und Benutzereingabevalidierung konzentriert, erfordert die autonome Natur von agentenbasierter KI zusätzliche Überwachungsmechanismen.

Im Gegensatz zu herkömmlicher KI, die unter enger menschlicher Aufsicht operiert, müssen agentenbasierte KI-Systeme unabhängig funktionieren. Dies erfordert fortschrittliche Schutzmaßnahmen wie ethische Richtlinien, Echtzeitvalidierung und dynamische Überwachung, um unbeabsichtigte Konsequenzen zu vermeiden.

Schlüsselkomponenten für KI-Agenten

• Sicherheits- und Compliance-Standards: Robuste Sicherheitsmaßnahmen und die Erfüllung von Unternehmensanforderungen sind entscheidend. Tools wie AWS IAM und Azure Active Directory unterstützen die Durchsetzung sicherer Praktiken.
• Verhinderung von Off-Topic-Aktionen: Echtzeitvalidierung und Inhaltsfilter sind notwendig, um Agenten auf ihren vorgesehenen Bereich zu konzentrieren. Tools wie OpenAI’s Moderations-API können dabei helfen, Grenzen durchzusetzen.
• Ethische KI-Rahmenwerke und Validierung: Die Einbindung ethischer KI-Rahmenwerke hilft, voreingenommene und unethische Handlungen zu verhindern. Validierungs- und Testmodule wie MLflow oder Human-in-the-Loop-Prozesse gewährleisten die Genauigkeit und Vertrauenswürdigkeit der Ausgaben.
• Protokollierung und Überwachung: Um Verantwortlichkeit und Transparenz zu gewährleisten, benötigen Agenten umfassende Protokollierungs- und Überwachungsmechanismen. Tools wie Prometheus und ELK Stack liefern Metriken und Echtzeit-Audit-Protokolle.
• Erhöhte Beobachtbarkeit: KI-Agenten erfordern Echtzeit-Einblicke in ihre Handlungen. Tools wie Grafana kombiniert mit Prometheus ermöglichen eine effektive Überwachung von Agentenoperationen und -verhalten.