Technologische Souveränität als Architekturprinzip
PrAIvate verbindet kontrollierbare Datenverarbeitung, nachvollziehbares Retrieval und frei wählbare Betriebsmodelle. Datenschutz und Souveränität werden nicht nachträglich ergänzt, sondern von Beginn an berücksichtigt.
Daten, Modelle und Infrastruktur bleiben in einem kontrollierbaren Betriebsmodell.
Quellen und Metadaten machen sichtbar, auf welchen Dokumenten eine Antwort beruht.
Freie Software und konfigurierbare Modelle reduzieren unnötige Herstellerabhängigkeiten.
Von Dokumenten zu belastbaren Antworten
- Dokumente bereitstellen: Freigegebene Inhalte werden per Upload oder Schnittstelle importiert.
- Inhalte aufbereiten: Dokumente werden extrahiert, segmentiert und mit Metadaten versehen.
- Relevant suchen: Sparse und Dense Retrieval kombinieren begriffsbasierte und semantische Suche.
- Treffer bewerten: Ein Reranker priorisiert die für eine Anfrage wichtigsten Textstellen.
- Antwort erzeugen: Das Sprachmodell erhält ausschließlich den ausgewählten Kontext und erzeugt eine quellenbezogene Antwort.
Wissen gezielt nutzbar machen
PrAIvate eignet sich für interne Wissensassistenten, dokumentenbasierte Recherche, technische Dokumentation sowie begrenzte Pilotprojekte zur Bewertung von Datenqualität, Retrieval und organisatorischer Integration.
Erschließung von Richtlinien, Verfahrensbeschreibungen und internen Wissensbeständen.
Kontrollierte Nutzung vertraulicher Dokumente unter erhöhten Compliance-Anforderungen.
Interne Wissensassistenten und dokumentenbasierte Recherche ohne Bindung an proprietäre AI-Plattformen.
Kontrollierter Zugriff auf freigegebene Wissensbestände
Die weitergehende Mandantentrennung ist für das erste öffentliche Release vorgesehen. Der konkrete datenschutzkonforme Betrieb hängt zusätzlich von Konfiguration, Datenarten, Prozessen und Verantwortlichkeiten der betreibenden Organisation ab.
Zentrale Authentifizierung ist im aktuellen Prototyp vollständig implementiert.
Zusätzliche Absicherung von Benutzerkonten ist vollständig implementiert.
Benutzerverwaltung und rollenbasierte Zugriffskontrolle sind vollständig implementiert.
Betrieb ohne zwingende externe AI-Dienste
Die Architektur ist auf unterschiedliche Anforderungen an Datenschutz, Hardware, Sprachunterstützung und organisatorische Kontrolle ausgerichtet.
Der aktuelle Prototyp wird in einer Cloud-Umgebung innerhalb der Europäischen Union betrieben.
Der Betrieb kann vollständig in der eigenen Infrastruktur erfolgen.
Modelle und modellbasierte Komponenten können durch kompatible Alternativen ersetzt werden.
Komponenten- und Servicearchitektur
Verwendete Komponenten
Anwendung
FastAPI, Uvicorn, Jinja2, HTMX, Vanilla JavaScript, eigenes CSS und Server-Sent Events.
Retrieval und Ranking
Qdrant/bm25 für Sparse Retrieval und ms-marco-MultiBERT-L-12 für Reranking.
Modelle und Inference
Ollama als Inference-Laufzeit; granite4.1:3b als aktuelle Standardkonfiguration für das LLM und weitere modellbasierte Aufgaben; bge-m3 für Dense Embeddings.
Konfigurierbarkeit
Alle Modelle sind konfigurierbar und können durch kompatible Alternativen ersetzt werden.
Weitere Komponenten für Vektorspeicher, Parser, Persistenz, Deployment, Identity Provider sowie Logging und Monitoring werden vor dem öffentlichen Release vollständig dokumentiert.
Upcoming Open-Source Release
PrAIvate befindet sich derzeit im Prototypenstadium. Mandantentrennung, vollständige Technologiedokumentation und ein konsolidierter Installationsprozess gehören zu den nächsten Schritten.
Quellcode, Architekturübersicht und Installationshinweise werden für das erste öffentliche Release vorbereitet.
Eine Demonstrationsumgebung mit dafür vorgesehenen Beispieldaten ist in Vorbereitung.
Individuelle Pilotprojekte können Einführung, Datenqualität, Retrieval und Betriebsmodell systematisch prüfen.
Open-Source-Software mit strategischer und technischer Begleitung
PrAIvate wird als freie Software veröffentlicht. Ergänzend stehen Beratung und individuelle Pilotprojekte für Organisationen mit besonderen Anforderungen an Datenschutz, Souveränität und Integration zur Verfügung.
Mögliche Leistungen umfassen Anwendungsfallanalyse, AI- und RAG-Strategie, Datenschutz- und Betriebsmodelle, System- und Enterprise-Architektur, Integration freier Komponenten, Pilotimplementierung sowie Wissenstransfer.
Kontakt und weitere Informationen
Informationen zu PrAIvate, zur Architektur, zum geplanten Open-Source-Release sowie zu möglichen Pilotprojekten können über das Formular angefragt werden.