LLMs

Wir entwickeln mit LLMs und bauen Automatisierungslösungen mit LLMs. Large Language Models sind das Gehirn moderner KI-Anwendungen. Sie verstehen Texte, schreiben Antworten, fassen zusammen, übersetzen, klassifizieren und planen. Und genau wie bei Menschen gilt: Nicht jedes Gehirn passt zu jedem Job.

Manche Aufgaben brauchen das größte, klügste Modell am Markt. Andere erledigt ein kleines, schnelles Modell, das auf einem einzelnen Server läuft, genauso gut, für einen Bruchteil der Kosten. Und manche Daten dürfen Ihr Haus schlicht nicht verlassen. Unsere Aufgabe ist es, für jeden Anwendungsfall das passende Modell zu finden und es sauber in Ihre Prozesse einzubauen.

Fünf Wege, ein LLM einzusetzen

Es gibt nicht »die« KI. Es gibt eine ganze Landschaft an Modellen und Betriebsformen. Wir arbeiten mit allen fünf und kombinieren sie, wo es sinnvoll ist.

Externe LLMs: Die großen Modelle führender Anbieter, per API angebunden. Maximale Leistung für komplexe Aufgaben, oft mit Rechenzentren in der EU.
Interne LLMs mit eigenen Skills und Knowledge-Files: Modelle, die mit Ihrem Wissen arbeiten. Handbücher, Produktdaten und Prozessbeschreibungen werden als Knowledge-Files hinterlegt, Skills legen fest, wie das Modell Aufgaben in Ihrem Unternehmen erledigt.
On-Prem AI: Open-Weight-Modelle, die komplett in Ihrer eigenen Infrastruktur laufen. Keine Daten verlassen das Haus, ideal für sensible Informationen.
Edge AI: Kleine, effiziente Modelle direkt auf Geräten, Maschinen oder Smartphones. Schnell, offline-fähig und datensparsam.
Cloud LLMs: Modelle auf gemieteter GPU-Infrastruktur, flexibel skalierbar, ohne eigene Hardware anschaffen zu müssen.

Skills und Knowledge-Files: Ihr Wissen, Ihr Modell

Ein Sprachmodell weiß viel über die Welt, aber nichts über Ihr Unternehmen. Es kennt weder Ihre Preisliste noch Ihre Reklamationsrichtlinie, und schon gar nicht die ungeschriebene Regel, dass Kunde Meier immer per Telefon informiert werden möchte.

Diese Lücke schließen wir auf zwei Wegen. Knowledge-Files und RAG (Retrieval-Augmented Generation) versorgen das Modell zur Laufzeit mit den passenden Fakten aus Ihren Dokumenten, inklusive Quellenangabe. Skills sind strukturierte Anleitungen, die dem Modell beibringen, wie eine bestimmte Aufgabe erledigt wird: welche Schritte, welche Prüfungen, welches Format. Das Ergebnis ist ein Modell, das sich anfühlt, als hätte es eine gründliche Einarbeitung hinter sich.

Antworten mit Quellenangabe statt Halluzination
Wissen aktualisieren, ohne das Modell neu zu trainieren
Einheitliche Qualität, weil Skills die Arbeitsweise festlegen
Wiederverwendbar über mehrere Anwendungen und Agenten hinweg

On-Prem und Edge: Wenn Daten zu Hause bleiben müssen

Personaldaten, Gesundheitsdaten, Konstruktionspläne, Verträge: Es gibt Informationen, bei denen die Frage »Welcher Cloud-Anbieter?« bereits die falsche ist. Für diese Fälle betreiben wir Sprachmodelle direkt auf Ihren Servern oder auf dedizierter Hardware in einem deutschen Rechenzentrum. Die Leistungsfähigkeit offener Modelle ist in den letzten Jahren enorm gestiegen. Für viele Aufgaben wie Klassifikation, Extraktion und Zusammenfassung reichen sie völlig aus.

Edge AI geht noch einen Schritt weiter: Das Modell läuft direkt auf dem Gerät. Das ist spannend für mobile Apps, die offline funktionieren müssen, oder für Anwendungen in Produktion und Logistik, bei denen jede Millisekunde zählt.

Das richtige Modell finden

Die Modelllandschaft verändert sich im Monatstakt. Was heute das beste Modell ist, kann in einem halben Jahr überholt sein. Deshalb bauen wir Anwendungen so, dass Modelle austauschbar bleiben. Wir bewerten jedes Modell anhand Ihrer echten Aufgaben, nicht anhand von Benchmarks aus Pressemitteilungen.

Qualität: Wie gut löst das Modell Ihre konkreten Testfälle?
Kosten: Was kostet eine Anfrage, und was kosten zehntausend pro Tag?
Geschwindigkeit: Reicht die Antwortzeit für den Anwendungsfall?
Datenschutz: Wo werden die Daten verarbeitet, und was speichert der Anbieter?
Unabhängigkeit: Können wir das Modell wechseln, ohne die Anwendung umzubauen?

Automatisierung mit LLMs

Die eigentliche Stärke von LLMs zeigt sich, wenn sie Teil eines Prozesses werden. Ein Modell, das eingehende E-Mails versteht, Dokumente ausliest oder Anfragen beantwortet, spart jeden Tag Zeit, und zwar nicht nur einer Person, sondern dem ganzen Team. Wie das in der Praxis aussieht, zeigen wir auf den Seiten Automatisierung und AI Agents.

Sprechen wir über Ihr Modell

Sie wissen noch nicht, ob Sie ein externes Modell, eine On-Prem-Lösung oder etwas dazwischen brauchen? Das ist völlig normal und genau die Frage, bei der wir helfen. Kontaktieren Sie uns für eine unverbindliche Einschätzung.