Sicherheit und Verschlüsselung in Privatemode
Privatemode ist ein KI-Inferenzdienst mit durchgehender Vertraulichkeit und lückenloser Überprüfbarkeit. Auf dieser Seite erfahren Sie, wie diese Eigenschaften erreicht werden.
Das Problem
Konventionelle KI-Dienste können Ihre Daten offenlegen.
Prompts werden im Klartext verarbeitet.
Konventionelle KI-Dienste wie OpenAI, Anthropic oder AWS Bedrock haben keine technischen Mechanismen, die Ihre Daten durchgehend schützen. Bei der Verarbeitung sind Ihre Daten im Klartext auslesbar.
Daten können für Insider und Angreifer sichtbar werden.
Daten können für Insider und Angreifer sichtbar werden. Wenn Daten im Klartext verarbeitet werden, können privilegierte Betreiber sie potenziell einsehen. Gleiches gilt für Logging-Prozesse und andere Systeme auf Seiten des KI-Dienstes. Auch Angreifer können Zugriff erhalten, wenn sie in den Dienst eindringen.
Für sensible Daten ist das Risiko zu hoch.
Deshalb zögern viele Unternehmen, sensible Daten mit konventionellen KI-Diensten zu verarbeiten. Dadurch können sie die Vorteile Cloud-basierter KI nur eingeschränkt nutzen.
Die Lösung
Privatemode schützt Ihre Daten durchgehend.
Prompts werden in einer abgeschirmten Umgebung verarbeitet.
Ihre Daten werden in einer abgeschirmten Umgebung verarbeitet, die auf Confidential Computing basiert. Diese hardwaregestützte Technologie schützt Prompts und Antworten auch während der Verarbeitung. So bleiben sie bei der Übertragung, bei der Speicherung und während der KI-Verarbeitung geschützt.
Der Schutz Ihrer Daten ist nachprüfbar.
Mit Remote Attestation prüfen Sie vorab, ob in der abgeschirmten Umgebung der erwartete Code läuft. Sie erhalten einen kryptografischen Integritätsnachweis. Nicht nur ein vertragliches Versprechen.
Cloudbasierte KI wird für sensible Daten nutzbar.
So können Sie generative KI auch dort einsetzen, wo sensible Daten verarbeitet werden. Kundendaten, Verträge und Gesundheitsdaten bleiben nicht länger ausgeschlossen.
Grundlagen
Privatemode läuft auf Contrast von Edgeless Systems
Privatemode läuft auf Contrast von Edgeless Systems. Contrast ist eine skalierbare Plattform für Confidential Computing. Sie stellt sicher, dass der Privatemode-Dienst durchgehend vertraulich bleibt und technisch überprüfbar ist.
Grundlagen
Die drei Säulen von Privatemode
Säule 1
Durchgängiges Confidential Computing
- Prompts werden clientseitig mit AES-256 verschlüsselt
- Prompts bleiben auch während der Verarbeitung geschützt
- Klartext ist nie zugänglich
Prompts und Antworten sind vollständig vor externem Zugriff geschützt. Prompts werden clientseitig mit AES-256 verschlüsselt und nur innerhalb der Confidential-Computing-Umgebung von Privatemode entschlüsselt, abgesichert durch AMD SEV-SNP, Intel TDX und Nvidia Confidential Computing. Innerhalb dieser Umgebung bleiben die Daten auch zur Laufzeit geschützt und erscheinen nie als Klartext im Arbeitsspeicher.
Säule 2
Lückenlose Attestation und Verifikation
- CPUs und GPUs stellen kryptografische Zertifikate aus
- Die Zertifikate umfassen alle relevanten Softwarekomponenten
- Der gesamte Privatemode-Dienst lässt sich überprüfen
Die CPUs und GPUs, die die Confidential-Computing-Umgebung von Privatemode absichern, stellen kryptografische Zertifikate für alle darin laufenden Softwarekomponenten aus. Mit diesen Zertifikaten lässt sich die Integrität des gesamten Privatemode-Dienstes prüfen, bevor ein Prompt Ihr Gerät verlässt. Die Verifikation erfolgt automatisch über den Privatemode Proxy oder die Web-App.
Säule 3
Zero-Access-Architektur
- Der Infrastrukturanbieter kann keine Nutzerdaten einsehen
- Edgeless Systems kann keine Nutzerdaten einsehen
- Modellanbieter können keine Nutzerdaten einsehen
Privatemode basiert auf Confidential Computing. Dadurch ist die Plattform so aufgebaut, dass Nutzerdaten für Dritte nicht zugänglich sind. Das gilt für den Infrastrukturanbieter, für Edgeless Systems als Dienstanbieter und für weitere Parteien wie den Anbieter des KI-Modells.
Detaillierte Dokumentation und öffentlicher Quellcode
Die Architektur ist durchgängig dokumentiert. Das reicht vom Client-Proxy über den Contrast Coordinator und den Secret Service bis zu den KI-Workern. Auch der vollständige Attestation-Flow ist beschrieben. Reproduzierbare Builds und öffentlicher Quellcode ermöglichen es Security- und Engineering-Teams, das Design zu prüfen und Privatemode sicher zu integrieren.
FAQ
Technische Details
Häufige Fragen zu Sicherheit und Compliance bei Privatemode
Privatemode verschlüsselt Ihre Daten, bevor sie Ihr Gerät verlassen. Dank Confidential Computing bleiben sie auch während der KI-Verarbeitung geschützt. Lokal übernimmt der Privatemode Proxy Remote Attestation und Ende-zu-Ende-Verschlüsselung. Er verschlüsselt alle Inferenzanfragen und entschlüsselt die Antworten der KI. Die Schlüssel liegen nur in Ihrem lokalen Proxy und beim isolierten KI-Worker vor.