Qdrant: Die Vektordatenbank für lokale KI — was sie kann und warum sie ins M9TZ-Konzept gehört

Warum eine Vektordatenbank?

#

Large Language Models sind mächtig — aber sie haben kein Gedächtnis. Ein LLM kennt nur das, was in seinem Trainingsdatensatz steckt, abzüglich dessen, was es vergessen hat. Für Unternehmensanwendungen ist das ein Problem: Wie soll ein KI-Agent eine Rechnung von letzter Woche finden? Oder die technische Dokumentation zu Bauteil X? Oder alle E-Mails, in denen es um Projekt Y ging?

Die Antwort: Retrieval-Augmented Generation (RAG). Statt dem LLM alles beizubringen, geben wir ihm zur Laufzeit die relevanten Dokumente mit. Und dafür brauchen wir eine Vektordatenbank.

Was ist Qdrant?

#

Qdrant ist eine in Rust geschriebene, hochperformante Vektordatenbank. Sie speichert keine Texte, sondern deren mathematische Repräsentationen — sogenannte Embeddings. Ein Embedding ist ein Vektor (eine Liste von Zahlen), der die semantische Bedeutung eines Textes im hochdimensionalen Raum abbildet. Ähnliche Texte liegen nah beieinander, unterschiedliche weit voneinander entfernt.

# Ein Embedding für "Die Rechnung ist überfällig" könnte so aussehen:
[0.023, -0.451, 0.789, ..., 0.112]  # 768 oder mehr Dimensionen

Die Suche wird damit zur Distanzberechnung: Welche Vektoren in der Datenbank sind dem Suchvektor am nächsten? Das Ergebnis ist eine Liste von Dokumenten, die inhaltlich zur Anfrage passen — nicht nur wortwörtlich.

Warum Qdrant und nicht Elasticsearch oder PostgreSQL?

#

Für dedizierte Vektorsuche ist Qdrant die leichtgewichtigste und performanteste Lösung. pgvector ist eine gute Alternative, wenn PostgreSQL bereits im Stack ist — aber für hochvolumige semantische Suche mit vielen tausend Dokumenten ist Qdrant die bessere Wahl.

Qdrant in der M9TZ-Plattformarchitektur

#

In unserer Drei-Schichten-Architektur hat Qdrant einen festen Platz:

Die Trennung ist bewusst gewählt: PostgreSQL für strukturierte Geschäftsdaten, Qdrant für unstrukturierte Dokumente und semantische Suche. Beide Systeme haben unterschiedliche Stärken — und beide laufen lokal auf eigener Hardware.

Anwendungsfälle in der Praxis

#

1. Dokumenten-Retrieval für KI-Agenten Der Buchhaltungs-Agent soll Rechnungen prüfen: „Gab es in den letzten 6 Monaten eine Rechnung von Lieferant X über Betrag Y?" Statt alle PDFs zu durchsuchen, fragt er Qdrant: Die Embeddings der Rechnungen sind bereits indiziert, die semantische Suche findet Treffer in Millisekunden.

2. Knowledge Base für den Kundenservice Ein Helpdesk-Agent erhält die Frage: „Wie konfiguriere ich die Firewall für das neue Backup-System?" Qdrant liefert die drei relevantesten Dokumentationsseiten — das LLM formuliert daraus eine präzise Antwort mit Quellenangaben.

3. Vertragsanalyse Alle Verträge eines Mandanten liegen als Embeddings in Qdrant. Der KI-Agent kann übergreifende Fragen beantworten: „Welche Verträge enthalten eine automatische Verlängerungsklausel?" oder „Wer ist unser Ansprechpartner bei Firma Z?"

Deployment auf eigener Infrastruktur

#

Qdrant lässt sich in Minuten installieren — als Docker-Container oder als einzelnes Binary:

# Als Docker-Container (empfohlen für Produktion)
docker run -p 6333:6333 -v qdrant_storage:/qdrant/storage qdrant/qdrant

# Oder als Binary
wget https://github.com/qdrant/qdrant/releases/latest/download/qdrant-x86_64-unknown-linux-gnu.tar.gz
tar -xzf qdrant-x86_64-unknown-linux-gnu.tar.gz
./qdrant

Die REST-API ist selbsterklärend:

# Collection anlegen
curl -X PUT 'http://localhost:6333/collections/rechnungen' \
  -H 'Content-Type: application/json' \
  -d '{"vectors": {"size": 768, "distance": "Cosine"}}'

# Embedding speichern
curl -X PUT 'http://localhost:6333/collections/rechnungen/points' \
  -H 'Content-Type: application/json' \
  -d '{"points": [{"id": 1, "vector": [0.1, 0.2, ...], "payload": {"text": "Rechnung R-2026-0042"}}]}'

# Semantische Suche
curl -X POST 'http://localhost:6333/collections/rechnungen/points/search' \
  -H 'Content-Type: application/json' \
  -d '{"vector": [0.1, 0.2, ...], "limit": 5}'

Für die Embedding-Generierung vor dem Speichern empfehle ich lokale Modelle wie all-MiniLM-L6-v2 (384 Dimensionen, schnell und leichtgewichtig) oder multilingual-e5-large (1024 Dimensionen, mehrsprachig), betrieben via sentence-transformers oder Ollama.

Die Verbindung zum 6-Phasen-Migrationspfad

#

Qdrant spielt seine Stärken besonders in den Phasen 2 und 3 des Migrationspfads aus:

• Phase 2 (Intelligente Recherche): Qdrant wird mit den Dokumenten des Unternehmens befüllt. Statt sich durch 4 Programme zu klicken, stellt der Mitarbeiter eine Frage in natürlicher Sprache — und bekommt die relevanten Dokumente geliefert.

• Phase 3 (Human-in-the-Loop): KI-Agenten nutzen Qdrant für kontextbewusste Entscheidungsvorbereitung. Der Agent findet alle relevanten Verträge, Rechnungen und E-Mails zu einem Vorgang — der Mensch gibt die finale Freigabe.

• Phase 5 (Cut-Over): Qdrant wird Teil der neuen, schlanken Open-Source-Architektur und ersetzt teure DMS-Lizenzen.

Datenschutz: Der entscheidende Vorteil

#

Weil Qdrant lokal läuft, bleiben sämtliche Embeddings und Quelldokumente im kontrollierten Netzwerk. Kein externer Dienst sieht Ihre semantischen Indizes, kein Cloud-Anbieter lernt aus Ihren Unternehmensdokumenten. Das ist der fundamentale Unterschied zu Cloud-basierten Vektordatenbanken wie Pinecone oder Weaviate Cloud.

Für den Mittelstand bedeutet das:

• ✅ DSGVO-konform — keine Datenübertragung an Dritte
• ✅ Revisionssicher — alle Daten unter eigener Kontrolle
• ✅ Planbare Kosten — kein Token-basiertes Pricing, keine Überraschungen
• ✅ Offline-fähig — semantische Suche auch ohne Internetverbindung

Fazit

#

Qdrant ist mehr als eine technische Komponente — es ist die Brücke zwischen unstrukturierten Unternehmensdokumenten und der strukturierten Welt der KI-Agenten. In der M9TZ-Plattformarchitektur ist sie die Datenschicht für alles nicht-relationale: Dokumente, Verträge, E-Mails, Wissensdatenbanken.

Wer lokale KI ernsthaft betreiben will, kommt an einer Vektordatenbank nicht vorbei. Und wer es datenschutzkonform, performant und ressourcenschonend machen will, kommt an Qdrant nicht vorbei.

Kontakt aufnehmen