Ein Modell allein reicht nicht aus: Wie wir unseren KI-Stack tatsächlich aufgebaut haben

Letzte Woche habe ich mit einem Kollegen einen Kaffee getrunken, der sich fast die Haare raufte, weil er die „perfekte“ KI-Plattform für sein gesamtes Unternehmen suchte. Er wollte einen Vertrag, eine Oberfläche und eine Rechnung.

Ich habe ihm gesagt, dass er einem Gespenst hinterherjagt.

Die „One-size-fits-all“-KI-Plattform ist ein Marketing-Mythos. Wer versucht, ein einziges Modell dazu zu zwingen, alles von der Systemarchitektur bis zu den HR-E-Mails zu übernehmen, landet am Ende bei einem Tool, das entweder zu teuer für die einfachen Aufgaben oder zu „dumm“ für die anspruchsvollen ist. Wir haben aufgehört, den „Heiligen Gral“ zu suchen, und stattdessen einen Werkzeugkasten aufgebaut.

Die wahren Kosten von „Intelligenz“

Bevor man einen Anbietervertrag unterschreibt, muss man über die glänzenden Demos hinausblicken und über die Grundlagen sprechen. Konkret: Datenschutz und die Rechnung.

Self-Hosting: Wer die Hardware und das Budget hat, für den ist das Hosten eigener Modelle (wie Llama oder Mistral) der Goldstandard in Sachen Datenschutz. Die eigenen Daten verlassen niemals die eigene VPC. Aber seien wir ehrlich – die Infrastrukturkosten und das spezialisierte Personal, das zur Wartung dieser Cluster nötig ist, werden dem Finanzchef Tränen in die Augen treiben.

Pay-per-Token: Das ist der transparenteste Weg zu skalieren. Man zahlt für das, was man nutzt. Ideal für Automatisierung mit hohem Volumen – aber ohne strenge Leitplanken kann eine einzige fehlerhafte Schleife in der Entwicklung das Monatsbudget bis zum Mittagessen aufbrauchen.

Abonnements: Diese sind vorhersehbar, was die Finanzabteilung liebt. Aber man muss die „weichen Limits“ im Auge behalten. Sobald diese unsichtbare Obergrenze erreicht ist, fühlt sich das leistungsstarke Modell plötzlich an, als liefe es über ein 56k-Modem.

Eine kurze Beobachtung: Mir ist aufgefallen, dass viele Teams die Lücke bei der „digitalen Souveränität“ ignorieren. Europa sitzt derzeit im Grunde auf der Zuschauertribüne, während die USA und China davonziehen. Für uns geht es dabei nicht nur um Technologie, sondern um Kontrolle. Jedes Mal, wenn sich ein europäisches Unternehmen ausschließlich auf ein ausländisches Modell verlässt, mieten wir unsere kognitive Infrastruktur. Das ist ein Risiko, das man managen muss – kein Posten, den man einfach ignorieren kann.

Unser Stack: Warum wir uns so entschieden haben

Wir haben uns nicht für einen einzigen Gewinner entschieden. Wir haben die besten Werkzeuge für die konkreten Aufgaben ausgewählt, die unsere Leute jeden Tag erledigen.

1. Für das Dev-Team: GitHub Copilot Pro+

Darüber haben wir nicht lange nachgedacht. Unser Code liegt auf GitHub. Unsere Entwickler leben in VSCode. Copilot Pro+ bietet uns nahtlose Integration ohne die „Kontextwechsel-Steuer“. Es liefert Zugang zu erstklassigen Modellen, und das Abo-Modell ist – angesichts der gebotenen Limits – der kosteneffizienteste Weg, ein leistungsstarkes Engineering-Team zufriedenzustellen.

2. Für alles andere: Gemini (Google Workspace)

Um den Rest unseres Betriebs zu unterstützen – Marketing, HR, Verwaltung – setzen wir auf Gemini. Da es bereits in unser Google-Workspace-Abo integriert ist, lag die Einstiegshürde bei null. Es erledigt Tabellen und E-Mails völlig zuverlässig, ohne dass wir ein weiteres separates Abo verwalten müssen.

3. Für Automatisierung: n8n + OpenAI

Und dann gibt es noch den Klebstoff, der unsere Hintergrundprozesse zusammenhält. Für unsere anspruchsvolle Automatisierung haben wir uns auf n8n in Kombination mit OpenAI standardisiert. Während Gemini die „menschennahe“ Arbeit in unseren Dokumenten übernimmt, kümmert sich dieses Duo um die Logik im Hintergrund. Wir nutzen n8n, um Workflows zu bauen – die unser CRM, Notion, BambooHR, Google Workspace und interne Datenbanken miteinander verbinden – und rufen dann die OpenAI-API (sowie eine Reihe von MCP-Servern) auf, wann immer wir ein bestimmtes „Gehirn“ brauchen, um Daten zu analysieren oder eine Entscheidung zu treffen. Das ist das ultimative Pay-as-you-go-Setup. Wir verbrauchen nur dann Tokens, wenn tatsächlich ein Trigger auslöst, wodurch unser Automatisierungs-Overhead schlank bleibt, ohne auf die rohe Leistungsfähigkeit der GPT-Modelle zu verzichten.

Das „Run Book“: IQ und Aufgabe passend zusammenbringen

Damit wir unsere Premium-Abos nicht für Aufgaben verschwenden, die auch ein Taschenrechner erledigen könnte, haben wir für unsere Engineering-Aufgaben ein eigenes „Run Book“ eingeführt. Wir behandeln KI-Tokens als Ressource, nicht als Freifahrtschein.

Das Ziel: die Anzahl der Aufgaben maximieren, die in einer einzigen Agenten-Sitzung umgesetzt werden. Wir wollen, dass die KI das Problem in einem Durchgang löst, statt sich auf einen zwanzigminütigen Dialog einzulassen, der unsere Rate-Limits aufbraucht.

Das Fazit

Hört auf, nach der „besten KI“ zu suchen. Die gibt es nicht. Schaut euch stattdessen euren Workflow an und findet heraus, wo ihr ein Skalpell braucht und wo einen Vorschlaghammer. Euer Team wird produktiver, und euer Budget bleibt tatsächlich im Plus.