Tehnološki suverenitet kao princip arhitekture
PrAIvate povezuje obradu podataka koju je moguće kontrolisati, proverljivo pronalaženje informacija i slobodan izbor modela rada. Zaštita podataka i suverenitet razmatraju se od početka, umesto da se dodaju naknadno.
Podaci, modeli i infrastruktura ostaju u okviru modela rada koji je moguće kontrolisati.
Izvori i metapodaci pokazuju na kojim dokumentima se odgovor zasniva.
Slobodan softver i modeli koji se mogu konfigurisati smanjuju nepotrebnu zavisnost od proizvođača.
Od dokumenata do pouzdanih odgovora
- Postavite dokumente: Odobreni sadržaj se uvozi otpremanjem ili preko interfejsa.
- Pripremite sadržaj: Dokumenti se izdvajaju, segmentiraju i dopunjuju metapodacima.
- Pretražujte relevantan sadržaj: Sparse i dense retrieval povezuju pojmovnu i semantičku pretragu.
- Ocenite rezultate: Reranker daje prednost odlomcima koji su najvažniji za upit.
- Generišite odgovor: Jezički model dobija isključivo izabrani kontekst i generiše odgovor zasnovan na izvorima.
Znanje učinite ciljano dostupnim
PrAIvate je pogodan za interne asistente za znanje, istraživanje dokumenata, tehničku dokumentaciju i ograničene pilot projekte za procenu kvaliteta podataka, pretrage i organizacione integracije.
Obrada pravilnika, opisa postupaka i internih baza znanja.
Kontrolisano korišćenje poverljivih dokumenata uz strože zahteve usklađenosti.
Interni asistenti za znanje i istraživanje dokumenata bez vezivanja za vlasničke AI platforme.
Kontrolisani pristup odobrenim bazama znanja
Dalja izolacija klijenata planirana je za prvo javno izdanje. Konkretan rad usklađen sa zaštitom podataka zavisi i od konfiguracije, vrsta podataka, procesa i odgovornosti organizacije koja upravlja sistemom.
Centralna autentifikacija je u potpunosti implementirana u trenutnom prototipu.
Dodatna zaštita korisničkih naloga je u potpunosti implementirana.
Upravljanje korisnicima i kontrola pristupa zasnovana na ulogama u potpunosti su implementirani.
Rad bez obaveznih eksternih AI usluga
Arhitektura je prilagođena različitim zahtevima u pogledu zaštite podataka, hardvera, jezičke podrške i organizacione kontrole.
Trenutni prototip radi u okruženju oblaka unutar Evropske unije.
Sistem može u potpunosti da radi na sopstvenoj infrastrukturi.
Modeli i komponente zasnovane na modelima mogu se zameniti kompatibilnim alternativama.
Arhitektura komponenti i servisa
Primenjivane komponente
Aplikacija
FastAPI, Uvicorn, Jinja2, HTMX, Vanilla JavaScript, sopstveni CSS i Server-Sent Events.
Pretraga i rangiranje
Qdrant/bm25 za sparse pretragu i ms-marco-MultiBERT-L-12 za ponovno rangiranje.
Modeli i inferencija
Ollama kao okruženje za inferenciju; granite4.1:3b kao trenutna podrazumevana konfiguracija za LLM i druge zadatke zasnovane na modelima; bge-m3 za dense embeddings.
Podesivost
Svi modeli se mogu konfigurisati i zameniti kompatibilnim alternativama.
Ostale komponente za vektorsko skladište, parsere, perzistenciju, postavljanje, pružaoce identiteta, evidenciju i nadzor biće u potpunosti dokumentovane pre javnog izdanja.
Predstojeće izdanje otvorenog koda
PrAIvate je trenutno u fazi prototipa. Izolacija klijenata, potpuna tehnološka dokumentacija i objedinjeni postupak instalacije spadaju u naredne korake.
Izvorni kod, pregled arhitekture i uputstva za instalaciju pripremaju se za prvo javno izdanje.
Demonstraciono okruženje sa namenskim primerima podataka je u pripremi.
Individualni pilot projekti mogu sistematski da provere uvođenje, kvalitet podataka, pretragu i model rada.
Softver otvorenog koda uz stratešku i tehničku podršku
PrAIvate će biti objavljen kao slobodan softver. Organizacijama sa posebnim zahtevima u pogledu zaštite podataka, suvereniteta i integracije dostupni su i savetovanje i individualni pilot projekti.
Moguće usluge obuhvataju analizu slučaja upotrebe, AI i RAG strategiju, modele zaštite podataka i rada, sistemsku i poslovnu arhitekturu, integraciju slobodnih komponenti, pilot implementaciju i prenos znanja.
Kontakt i dodatne informacije
Informacije o sistemu PrAIvate, njegovoj arhitekturi, planiranom izdanju otvorenog koda i mogućim pilot projektima mogu se zatražiti putem ovog formulara.