Wenn KI nicht nur antwortet, sondern handelt: Wer behält die Kontrolle?

aus Cybersecurity ist Chefsache · 28.09.2026 · 65 Min.

Beschreibung

KI liefert Antworten, schreibt Code und übernimmt immer mehr Aufgaben. Je überzeugender die Ergebnisse werden, desto leichter gerät eine entscheidende Frage aus dem Blick: Verstehen wir noch, was die Systeme tun, und können wir erkennen, wenn sie falschliegen? In dieser Folge von „Cybersecurity ist Chefsache“ spricht Nico Freitag mit Marco Eggerling über den Schritt vom Chatbot zur agentischen KI, die Grenzen unseres Vertrauens und die Frage, wie Unternehmen aus technischen Möglichkeiten tatsächlich einen sinnvollen Nutzen ziehen können. Marco ist erneut im Podcast zu Gast. Er bringt mehr als 25 Jahre Erfahrung in IT und Informationssicherheit mit und berichtet von seiner aktuellen Tätigkeit bei UiPath, wo er sich mit EMEA und Asien beschäftigt. Im Mittelpunkt steht diesmal, wie unterschiedliche Modelle, Agenten und bestehende Automatisierungen zusammenarbeiten und welche Rolle der Mensch dabei behält. Zum Einstieg geht es um die Geschwindigkeit der Entwicklung und den eigenen Umgang mit KI. Marco erzählt, wie er verschiedene Modelle für unterschiedliche Aufgaben kombiniert und wie selbstverständlich selbst Menschen ohne technischen Hintergrund inzwischen mit Chatbots sprechen. Genau darin liegt aber auch eine Herausforderung: Eine Antwort kann schlüssig und überzeugend klingen und trotzdem falsch sein. Seine klare Aussage: KI ist keine „Truth Engine“. Im weiteren Gespräch wird es konkret: Was unterscheidet einen Chatbot von einem Agenten, der tatsächlich Aufgaben ausführt? Marco beschreibt das Zusammenspiel spezialisierter Agenten mit dem Bild einer Fußballmannschaft. Nicht jeder muss alles können. Entscheidend ist, dass Fähigkeiten, Aufgaben und Steuerung zusammenpassen. An Beispielen aus der Prozessautomatisierung und einer automatisch bestellten Pizza wird greifbar, was daraus entstehen kann und welche Zugriffe dafür erforderlich sind. Ein besonderer Schwerpunkt liegt auf Kosten und Abhängigkeiten. Nico hinterfragt, wie selbstverständlich wir KI inzwischen nutzen und was passieren würde, wenn ein genutztes Modell ausfällt, nicht mehr verfügbar ist oder deutlich teurer wird. Marco erläutert, wie die Orchestrierung verschiedener Modelle Abhängigkeiten reduzieren kann. Beide diskutieren, weshalb ein hoher Token-Verbrauch noch kein gutes Ergebnis bedeutet und warum Unternehmen vom gewünschten Resultat aus denken sollten. Auch beim Vibe Coding bleibt der Blick kritisch. Nur weil sich Software schnell erzeugen lässt, sind Wartung, Verständnis und Verantwortung nicht erledigt. Wer bestehende Unternehmenssoftware nachbauen möchte, muss mehr berücksichtigen als den ersten funktionierenden Prototyp. Ähnlich ist es beim Prompting: Viel Kontext und lange Eingaben führen nicht automatisch zu besseren Ergebnissen, können aber zusätzliche Kosten verursachen. Zum Abschluss geht es um spezialisierte Modelle, den Einstieg in KI, die Ausbildung von Nachwuchskräften und die Rolle der Unternehmenskultur. Marco spricht sich dafür aus, die Möglichkeiten aktiv zu erkunden und menschliches Urteilsvermögen weiterzuentwickeln. Nico betont, warum Unternehmen einen geregelten Umgang mit KI gemeinsam mit ihren Mitarbeitenden gestalten sollten, bevor sich die Nutzung an ihnen vorbei etabliert. Im Gespräch geht es unter anderem um: Warum überzeugend formulierte KI-Antworten nicht automatisch richtig sind Wie sich Chatbots und handelnde KI-Agenten unterscheiden Welche Rolle spezialisierte Agenten, Orchestrierung und menschliche Kontrolle spielen Warum bestehende Automatisierungen auch in agentischen Abläufen wertvoll bleiben Wie ein Assistenzsystem eine Pizza passend zur Ankunft bestellen könnte und welche Daten es dafür benötigt Weshalb Unternehmen vom gewünschten Ergebnis aus planen sollten Warum möglichst viele verbrauchte Tokens kein sinnvolles Erfolgsmaß sind Wie unklare Prompts und unnötiger Kontext Kosten verursachen können Weshalb KI-generierter Code weiterhin Verständnis, Prüfung und Wartung braucht Welche Abhängigkeiten durch die Konzentration auf einzelne Modelle und Anbieter entstehen Wie lokale Modelle, Alternativen und Failover-Mechanismen in die Überlegungen einfließen Warum KI zugleich eine Chance für das Geschäft und eine Aufgabe für das Risikomanagement ist Wie Nico und Marco die Grenzen von Guardrails und die Nutzung von KI auf Angriffs- und Verteidigungsseite diskutieren Weshalb synthetische Inhalte neue Fragen an die Verlässlichkeit von Wissen stellen Warum Nachwuchsausbildung und menschliche Expertise weiterhin gebraucht werden Wie Unternehmen Mitarbeitende beim Einstieg begleiten können Weshalb reine Verbote die Frage nach einem sinnvollen Umgang mit Schatten-KI nicht lösen Welche Entwicklung Marco bei spezialisierten Sprachmodellen und den Kosten von KI erwartet Der rote Faden der Folge: Der Wert von KI entsteht durch sinnvolle Ergebnisse, nachvollziehbare Abläufe und einen bewussten Umgang mit Risiken. Wer Agenten Aufgaben überträgt, muss weiterhin verstehen, was sie tun dürfen, wie Ergebnisse geprüft werden und welche Abhängigkeiten dabei entstehen. Menschliches Urteil bleibt ein entscheidender Teil der Arbeit. Eine Folge für Geschäftsführungen, CISOs, IT- und Security-Verantwortliche, Verantwortliche für KI und Automatisierung sowie alle, die KI-Agenten im Unternehmen einsetzen und dabei Nutzen, Kosten und Kontrolle zusammenbringen möchten. ____________________________________________ 👤 Mehr Informationen Marco Eggerling - LinkedIn Profil ____________________________________________ 🎧 Reinschauen lohnt sich! 🎙Podcast - Cybersecurity ist Chefsache: @cybersec_ist_chefsache 🎙Podcast - Cybersecurity shall be C-Level priority: @cybersec_clevel_priority 🎙Podcast - Die Zwei Auftrag: Cybersicherheit: @diezweicyber Schließe dich uns an, um tiefer in die Welt der digitalen Sicherheit einzutauchen. ____________________________________________ Du findest mich auf folgenden Social Media Kanälen: 📸 Instagram: cybersec_ist_chefsache 🕺 TikTok: cybersec_ist_chefsache 🤝 LinkedIn - Nico: nicofreitag 🤝 LinkedIn - Ann-Katrin: annkatrin 📌 Kontaktaufnahme - Podcast: Cybersecurity ist Chefsache ____________________________________________ Deine Reise in die Welt der Cyber Security startet hier – ich freue uns darauf, mich mit dir zu vernetzen.