Trendthema: Agentic AI

Agentic AI ist das neue Schlagwort in der Automatisierung: ein LLM (Large Language Model), das autonom handelt, Entscheidungen trifft und aus Erfahrungen lernt. Was Sie über Agentic AI wissen müssen, erfahren Sie in den folgenden Abschnitten

LLMs steuern ihre Prozesse

Einerseits gibt es Agenten, in denen LLMs ihre eigenen Prozesse und den Einsatz von Werkzeugen dynamisch steuern und dabei die Kontrolle darüber behalten, wie sie Aufgaben ausführen.
Beispiel: Eine Drohne, die bei jedem Wetter selbständig von A nach B

LLMs mit vordefinierten Code-Pfad

Andererseits gibt es Agenten, in denen LLMs und Tools über vordefinierte Code-Pfade orchestriert werden. Diese Agentic Ausprägung 2, respektive dessen Ansatz, wird heute fast ausnahmslos in allen Firmen eingesetzt, da diese Herangehensweise ein hohes Mass an Transparenz, Nachvollziehbarkeit und Kontrolle bietet.

Beispiel: Fall Aufnahme in einem Spital.
Der Arzt sendet ein Überweisungsschreiben via E-Mail an das Spital. Dort wird mittels Agentic AI der Kontext, sowie die zur Erfassung benötigten strukturierten Informationen aus dem Schreiben rausgelesen, sodass der Bot den Fall im Kliniksystem automatisiert erfassen kann.

Ein Large Language Model (LLM) ist ein Deep-Learning-Algorithmus, der mit enorm grossen Datensätzen trainiert wurde. LLMs werden häufig in Anwendungen im Bereich des Natural Language Processing (NLP) eingesetzt, wenn es darum geht, Abfragen in natürlicher Sprache einzugeben, um eine Antwort bzw. ein Ergebnis zu bekommen. Ein LLM kann neue Inhalte verstehen, zusammenfassen, generieren und vorhersagen. Es verfügt typischerweise über Milliarden von Parametern, die Erinnerungen ähneln, die das Modell während des Lernens durch Training sammelt. Dadurch ist es in der Lage neue Inhalte abzuleiten.
Die bekanntesten LLMs sind GPT von Open AI, Claude von Anthropic oder Llama von Meta um nur einige zu nennen.

Diese Komponente holt relevante Informationen aus externen Quellen oder Datenbanken. Sie sorgt dafür, dass der Agent immer aktuelle und passende Daten hat, um Entscheidungen zu treffen.

Mit zugeteilten Tools kann der Agent spezielle Aufgaben erledigen. Das können z. B. Rechenoperationen, das Ausführen von Programmen oder das Nutzen von APIs sein. Die Tools erweitern die Fähigkeiten des Agenten, indem sie ihm helfen, Probleme zu lösen oder zusätzliche Funktionen anzubieten.

Das Agentic Memory speichert Informationen, die der Agent im Laufe der Zeit sammelt, wie zum Beispiel vorherige Interaktionen oder Ergebnisse. So kann der Agent auf vergangene Erfahrungen zurückgreifen, um seine Entscheidungen zu verbessern und den Kontext besser zu verstehen.

Heute sind in Unternehmen und Organisationen fast ausnahmslos Agenten mit vordefiniertem Code-Pfad im Einsatz. Der Grund dafür liegt auf der Hand. Die wichtigste Komponente eines Agenten ist das LLM (Large Language Model). Dies ist ein bereits vortrainiertes Modell mit x-Milliarden von Parametern, das in der Lage ist, neue Inhalte zu generieren.

LLMs wissen aber immer nur, welches Token (Buchstabe, Wort) mit einer bestimmten Wahrscheinlichkeit als Nächstes kommt. Ein LLM versteht nicht den Kontext eines Satzes, wie es ein Mensch kann. Darum ist es enorm wichtig, bestimmte automatisierte Validierungen (Code-Pfad) des LLM-Outputs im Hintergrund durchzuführen, um Halluzinationen zu erkennen und zu korrigieren.

Die Leistungsfähigkeit von LLMs (wie z. B. GPT) möchte auch in der Geschäftswelt niemand missen. Doch wie lässt sich dies mit dem Datenschutz vereinbaren, insbesondere wenn es um sensible Daten geht? Eine Möglichkeit, um garantiert auf der sicheren Seite zu sein, ist der Einsatz eines On-Premises (offline) LLM-Servers, der ohne Internetzugang auskommt.

Seit einigen Wochen sind wir im Besitz eines eigenen, NVIDIA-GPU-basierten Servers und begeistert davon, wie gut sich Anwendungen mit Offline-LLMs umsetzen lassen. Wie sieht unser Server aus, und wo befindet er sich:

Werden in Automatisierungslösungen LLM-basierte Agenten eingesetzt kann mit fast 100% Sicherheit vorausgesagt werden, dass auch eine Validierungs-Komponente benötigt wird. Nur dadurch können fehlende oder falsche Informationen durch den Benutzer ergänzt oder korrigiert werden. Validierungs-Apps sollten immer „build for purpose“ und mit einer modernen und selbsterklärenden Usability erstellt werden.

Verschiedene Hersteller wie Uipath, Automation Anywhere oder Microsoft, um nur einige zu nennen, bieten Frameworks an, um einen Agenten zu bauen. Diese low code / no code Benutzeroberflächen ermöglichen in kurzer Zeit einen Agenten für eine bestimmte Aufgabe zu bauen.

Dem gegenüber steht der API Ansatz, bei dem der Agent mittels einem Softwareentwicklungsansatzes zum Leben erweckt wird. Je nach Aufgabenstellung, Komplexität, Lizenzkosten, etc. eignet sich der eine oder andere Ansatz. Was jedoch gleich bleibt: Es muss ein softwaretechnologisches Verständnis vorhanden sein, um Prozesse mittels dieser spannenden Technologie umzusetzen und erfolgreich im Unternehmen zu betreiben.

Entdecken Sie in unserem Use Case, wie wir durch die Kombination von RPA und Agentic AI den Rechnungsstellungsprozess unseres Kunden zu 100 % automatisiert haben.