Zum Inhalt springen

KI-Entwicklung & LLM-Integration für Unternehmen

Ich baue KI-Funktionen in Ihre bestehende Software ein: Sprachmodelle, Retrieval Augmented Generation und Agenten, die belegbare Antworten liefern statt zu raten – als Freelancer, remote in der DACH-Region und vor Ort in NRW.

  • LLM-Integration in bestehende Anwendungen
  • RAG mit Quellenangaben statt Halluzinationen
  • Lokale Modelle für sensible Daten
  • Azure- und AWS-zertifiziert

KI dort, wo sie Arbeit abnimmt

Die meisten Unternehmen brauchen keinen weiteren Chatbot, sondern KI an genau den Stellen, an denen heute Zeit verloren geht: beim Suchen in Dokumenten, beim Sortieren von Anfragen, beim Übertragen von Daten zwischen Systemen. Genau dort setze ich an – in der Software, die Sie bereits nutzen, statt in einem separaten Werkzeug, das niemand öffnet.

Als freiberuflicher Senior Software Engineer bringe ich beide Seiten mit: KI-Integration und die Anwendungs- und Cloud-Entwicklung darunter. Eine KI-Funktion ist selten nur ein API-Aufruf. Sie braucht saubere Datenzugriffe, Rechte, Fehlerbehandlung, Kostenkontrolle, Monitoring und ein Deployment, das auch in drei Monaten noch nachvollziehbar ist.

Wenn Daten das Haus nicht verlassen dürfen, läuft das Modell lokal – etwa über Ollama oder LocalAI im eigenen Rechenzentrum oder in einer europäischen Cloud-Region. Wo eine gemanagte Variante genügt, nutze ich Azure OpenAI, die Claude API oder OpenAI. Diese Entscheidung treffen wir am Anfang gemeinsam, weil sie Architektur, Kosten und Datenschutz bestimmt.

Was ich im KI-Bereich umsetze

Vier Bausteine, die sich einzeln oder kombiniert umsetzen lassen – vom ersten Prototyp bis zum produktiven Betrieb.

LLM-Integration in bestehende Software

Anbindung von Claude, OpenAI, Azure OpenAI oder lokalen Modellen an Ihre Anwendungen und APIs: Textentwürfe, Zusammenfassungen, Klassifizierung von Anfragen oder strukturierte Extraktion aus Freitext – inklusive Prompt-Versionierung, Kostenkontrolle und Fallback, wenn ein Modell einmal nicht antwortet.

  • Claude API
  • Azure OpenAI
  • OpenAI
  • Structured Output

RAG & Wissenssuche

Ihr Unternehmenswissen wird durchsuchbar: Dokumente, Wiki-Inhalte, Tickets oder ERP-Daten werden aufbereitet, in einer Vektordatenbank indexiert und über semantische Suche beantwortet – mit Quellenangabe zu jedem Satz und Rechteprüfung pro Nutzer.

  • pgvector
  • Embeddings
  • Hybrid Search
  • Chunking

KI-Agenten & Automatisierung

Agenten, die mehr können als antworten: Sie rufen über definierte Werkzeuge Ihre Systeme auf, sortieren Tickets vor, prüfen Stammdaten oder bereiten Angebote vor. Über das Model Context Protocol (MCP) binde ich vorhandene Schnittstellen sauber und wiederverwendbar an.

  • MCP
  • Tool Calling
  • Human-in-the-Loop
  • Workflows

Datenschutz & KI-Betrieb

On-Premise-Betrieb oder EU-Region, Pseudonymisierung vor dem Modellaufruf, Protokollierung der Antworten und Freigabe durch Mitarbeitende, bevor etwas nach außen geht. Dazu Evaluationstests, damit eine Prompt-Änderung nicht unbemerkt die Qualität senkt.

  • DSGVO
  • Ollama
  • LocalAI
  • Evaluation

Typische Einsatzfelder

Anwendungsfälle, die sich in der Praxis bewährt haben – und bei denen der Nutzen messbar ist.

Interner Wissensassistent

Mitarbeitende fragen in natürlicher Sprache nach Richtlinien, Verträgen oder Einsatzplänen und erhalten eine Antwort mit Verweis auf das Originaldokument. Das spart die Suche in verstreuten Ablagen und macht Einarbeitung deutlich schneller.

KI auf SAP-Daten

Das Wissen liegt oft nicht in Dokumenten, sondern im ERP. Ich baue die CDS-View oder den OData-Service in SAP selbst und binde das Sprachmodell daran an – über Werkzeugaufrufe statt über einen Export. Die Berechtigungen des fragenden Nutzers bleiben dabei erhalten. Mehr dazu auf der Seite zur SAP-Integration.

Dokumentenanalyse & Extraktion

Rechnungen, Lieferscheine, Angebote oder Formulare werden ausgelesen und als strukturierte Daten an das Zielsystem übergeben – mit Konfidenzwerten und einer Prüfansicht für die Fälle, die eine menschliche Freigabe brauchen.

Support- und Ticket-Vorsortierung

Eingehende Anfragen werden kategorisiert, priorisiert und mit passenden Wissensartikeln oder Antwortentwürfen angereichert. Das Team entscheidet weiterhin, verliert aber keine Zeit mehr mit Sortieren.

KI in Fachanwendungen

Bestehende Web-Anwendungen erhalten gezielte KI-Funktionen: Vorschläge beim Ausfüllen, Plausibilitätsprüfungen, Zusammenfassungen langer Verläufe oder eine Suche, die auch Synonyme und Fachbegriffe versteht.

So gehe ich vor

KI-Projekte scheitern selten am Modell, sondern an unklaren Anforderungen und fehlender Messbarkeit. Deshalb dieser Ablauf.

  1. 01

    Anwendungsfall schärfen

    Wir klären, welche Aufgabe die KI übernehmen soll, welche Daten dafür nötig sind und woran wir Erfolg messen. Dabei sortiere ich offen aus, was sich ohne KI günstiger lösen lässt.

  2. 02

    Prototyp mit echten Daten

    Ein schlanker Prototyp auf Ihren echten Dokumenten – nicht auf Beispieldaten. Nach wenigen Tagen ist sichtbar, wie gut die Antworten sind und ob sich der weitere Aufwand lohnt.

  3. 03

    Integration & Härtung

    Anbindung an Ihre Systeme, Rechte und Protokollierung, Tests gegen einen festen Fragenkatalog, Kostenlimits und Monitoring. Danach läuft die Funktion im Alltag, nicht nur in der Demo.

  4. 04

    Betrieb & Übergabe

    Deployment über CI/CD, dokumentierte Architektur und eine Übergabe an Ihr Team. Auf Wunsch bleibe ich für Weiterentwicklung und Wartung ansprechbar.

Technologien

Was konkret zum Einsatz kommt, hängt von Datenlage, Datenschutzanforderungen und vorhandener Infrastruktur ab.

Modelle & APIs

  • Claude API
  • Azure OpenAI
  • OpenAI
  • Ollama
  • LocalAI
  • Hugging Face

RAG & Daten

  • pgvector
  • PostgreSQL
  • Embeddings
  • Hybrid Search
  • SAP OData
  • OCR

Anwendung & Integration

  • TypeScript
  • Python
  • Java / Spring Boot
  • C# / .NET
  • REST
  • MCP

Betrieb

  • Docker
  • Kubernetes
  • Terraform
  • Azure
  • AWS
  • CI/CD

Lassen Sie uns über Ihren KI-Anwendungsfall sprechen

Beschreiben Sie kurz, wo in Ihren Prozessen heute Zeit verloren geht. Ich melde mich mit einer ehrlichen Einschätzung, ob und wie KI dort hilft.

patrick.teiting@gmx.de