Platformă local-first
Rulează local sau on-premise și folosește modele locale/open-weight acolo unde se potrivesc deployment-ului și sensibilității datelor.
Platformă AI privată · Control local · Roadmap security-first
SephiraLLM — AI self-hosted pentru medii sensibile
O platformă AI configurabilă și local-first pentru organizații care au nevoie de analiză privată a documentelor, fluxuri de securitate și suport de conformitate fără a trimite date sensibile către modele cloud.
Local-first
Self-hosted
Agnostic față de model
Fără cloud obligatoriu
Direcție enterprise-ready
Problema
Adopția AI este blocată când datele sensibile nu pot părăsi mediul propriu.
Multe organizații vor să folosească AI, dar nu pot trimite date sensibile către LLM-uri cloud din cauza confidențialității clienților, GDPR, mediilor reglementate, politicilor interne, restricțiilor contractuale, cerințelor de securitate sau deployment-urilor air-gapped.
SephiraLLM este poziționat pentru piloți controlați și realiști în aceste medii. Platforma susține fluxuri sensibile la confidențialitate fără garanții exagerate de conformitate sau certificări care nu există.
Ce este SephiraLLM
O platformă AI privată configurabilă, proiectată în jurul controlului deployment-ului, alegerii providerului și ipotezelor de securitate.
Abstracție de provider
Ollama este primul runtime suportat, nu limita produsului. Arhitectura este concepută pentru ca modelele și runtime-urile să poată fi schimbate.
Profiluri de utilizare
Profilurile de utilizare definesc comportament, politici și capabilități; nu hardcodează un model anume. Modelele sunt configurabile per deployment și per use case.
Securitate de la început
Conceput cu documentație de securitate, threat modeling și ipoteze clare de operare încă de la început, nu ca un adaos ulterior.
Profiluri de utilizare
Profilurile configurează comportamentul și politicile pentru un flux de business, rămânând separate de providerul de model/runtime.
Confidential Document Assistant
Pentru avocați, consultanți fiscali, consultanți și echipe reglementate care au nevoie de Q&A local pe documente, rezumare, extragere de clauze și citarea surselor.
Security Analyst Assistant
Pentru echipe SecOps, securitate IT și infrastructură care au nevoie de analiză locală a logurilor, output-ului de scanere, CVE-urilor, fragmentelor de firewall sau notelor de incident.
Compliance Copilot
Pentru ISO 27001, NIS2, DORA, GDPR și audit intern: suport pentru mapping, pregătirea dovezilor și gap analysis, nu consultanță juridică.
Internal Knowledge Base
Pentru runbook-uri, politici, documente de onboarding, proceduri operaționale și documentație internă cu retrieval local și citări.
Secure Developer Assistant
Pentru codebase-uri confidențiale unde codul nu trebuie trimis către asistenți cloud. Explicare locală de cod, suport pentru review securizat și redactare de teste sau documentație.
Air-gapped / Offline AI Appliance
Un profil de deployment care poate fi combinat cu alte cazuri de utilizare pentru OT, industrie, infrastructură critică sau medii cu restricții contractuale no-cloud.
Customer Support Knowledge Assistant
Un asistent on-prem pentru istoricul sensibil al tichetelor, cunoștințe interne de suport și proceduri operaționale care trebuie să rămână în organizație.
Principii de arhitectură
Principii de design ușor de înțeles pentru deployment-uri AI private, cu elementele de roadmap separate clar de ipotezele pilotului.
Proiectat în direcția platformei
- Design agnostic față de model cu abstracție provider/runtime.
- Profiluri de deployment pentru laptop local, Docker Compose, VM on-prem și scenarii offline.
- Fără telemetrie implicită, fără telemetrie obligatorie și fără dependență cloud cerută de direcția produsului.
- Roadmap security-first cu threat modeling, ipoteze documentate și predare către operatori.
Calea către deployment enterprise
Capabilitățile enterprise planificate includ deployment-uri cu PostgreSQL, OIDC/LDAP, RBAC, hardening TLS, backup/restore, auditabilitate ca funcție de produs, update-uri offline și ulterior Kubernetes. Acestea sunt teme de roadmap și integrare cu clienții, nu afirmații că fiecare funcție este livrată astăzi.
Pilot comercial
Private AI Pilot
Un pilot concentrat pentru validarea unui singur use case AI local într-un mediu controlat.
Livrabile sugerate
- workshop de definire a use case-ului
- concept de deployment local/self-hosted
- profil de utilizare selectat
- recomandare de model/runtime
- threat model și ipoteze de securitate
- predare către operatori
- roadmap pentru următorii pași