Wenn KI nicht nur antwortet, sondern handelt: Wer behält die Kontrolle?

KI liefert Antworten, schreibt Code und übernimmt immer mehr Aufgaben. Je überzeugender die Ergebnisse werden, desto leichter gerät eine entscheidende Frage aus dem Blick: Verstehen wir noch, was die Systeme tun, und können wir erkennen, wenn sie falschliegen?

In dieser Folge von „Cybersecurity ist Chefsache“ spricht Nico Freitag mit Marco Eggerling über den Schritt vom Chatbot zur agentischen KI, die Grenzen unseres Vertrauens und die Frage, wie Unternehmen aus technischen Möglichkeiten tatsächlich einen sinnvollen Nutzen ziehen können.

Marco ist erneut im Podcast zu Gast. Er bringt mehr als 25 Jahre Erfahrung in IT und Informationssicherheit mit und berichtet von seiner aktuellen Tätigkeit bei UiPath, wo er sich mit EMEA und Asien beschäftigt. Im Mittelpunkt steht diesmal, wie unterschiedliche Modelle, Agenten und bestehende Automatisierungen zusammenarbeiten und welche Rolle der Mensch dabei behält.

Zum Einstieg geht es um die Geschwindigkeit der Entwicklung und den eigenen Umgang mit KI. Marco erzählt, wie er verschiedene Modelle für unterschiedliche Aufgaben kombiniert und wie selbstverständlich selbst Menschen ohne technischen Hintergrund inzwischen mit Chatbots sprechen. Genau darin liegt aber auch eine Herausforderung: Eine Antwort kann schlüssig und überzeugend klingen und trotzdem falsch sein. Seine klare Aussage: KI ist keine „Truth Engine“.

Im weiteren Gespräch wird es konkret: Was unterscheidet einen Chatbot von einem Agenten, der tatsächlich Aufgaben ausführt? Marco beschreibt das Zusammenspiel spezialisierter Agenten mit dem Bild einer Fußballmannschaft. Nicht jeder muss alles können. Entscheidend ist, dass Fähigkeiten, Aufgaben und Steuerung zusammenpassen. An Beispielen aus der Prozessautomatisierung und einer automatisch bestellten Pizza wird greifbar, was daraus entstehen kann und welche Zugriffe dafür erforderlich sind.

Ein besonderer Schwerpunkt liegt auf Kosten und Abhängigkeiten. Nico hinterfragt, wie selbstverständlich wir KI inzwischen nutzen und was passieren würde, wenn ein genutztes Modell ausfällt, nicht mehr verfügbar ist oder deutlich teurer wird. Marco erläutert, wie die Orchestrierung verschiedener Modelle Abhängigkeiten reduzieren kann. Beide diskutieren, weshalb ein hoher Token-Verbrauch noch kein gutes Ergebnis bedeutet und warum Unternehmen vom gewünschten Resultat aus denken sollten.

Auch beim Vibe Coding bleibt der Blick kritisch. Nur weil sich Software schnell erzeugen lässt, sind Wartung, Verständnis und Verantwortu