
Über
Kauz.ai
Kauz.ai ist der Anbieter von aiStudio, einer Self-Service-Plattform zur Verwaltung und zum Training von einfachen und komplexen KI-Assistenten. Das Unternehmen integriert verschiedene Large Language Models (LLMs) mit seiner selbst entwickelten NLU-Engine (Natural Language Understanding). Mit Kauz.ai sind die Antworten der KI-Assistenten kontextbasiert und erweiterbar, sodass Unternehmen aller Art KI effizient und einfach nutzen können.
Intelligente Chatbots, die generative KI und LLMs wie ChatGPT nutzen, bieten enorme Möglichkeiten für Innovation und Effizienz. Aufgrund strenger IT-Sicherheits- und Datenschutzanforderungen können viele Unternehmen, besonders im Bank- und Finanzsektor, diese Technologien jedoch nicht in großem Umfang einsetzen. Vor dieser Herausforderung stand auch Kauz.ai: Wie können wir unseren Kunden leistungsstarke Chatbots mit modernsten LLMs bieten und gleichzeitig Datensicherheit und Datenschutz gewährleisten?
Privatemode AI ist die ideale Lösung für dieses Problem. Privatemode ist ein Service für den Einsatz von LLMs mit Ende-zu-Ende-Verschlüsselung, unterstützt durch Confidential Computing. Confidential Computing ermöglicht die Verschlüsselung von Daten sogar während der Verarbeitung. Zusätzlich bietet es eine Fernattestierung (engl. Remote Attestation), welche die Integrität eines geschützten Workloads für den Benutzer nachvollziehbar macht. Mit den Nvidia H100 GPUs ist Confidential Computing auch für Setups möglich, die KI-Beschleuniger benötigen.
Privatemode AI ermöglicht die Erstellung von Diensten im ChatGPT-Stil, bei denen sowohl die Benutzeranfragen als auch die Modellgewichte durchgängig geschützt sind. Dadurch wird sichergestellt, dass weder die Infrastruktur noch der Dienstanbieter auf Benutzerdaten im Klartext zugreifen können. Das Modell läuft hier in einer Confidential Computing Umgebung, in der die Daten im Speicher verschlüsselt bleiben. Der Inferenzcode, der die Prompts verarbeitet, läuft in einer Sandbox, um Datenabfluss zu verhindern.
Eine vertrauliche Version von aiStudio bietet den Kunden von Kauz.ai in regulierten Sektoren wie Banken und Versicherungen eine zusätzliche Sicherheitsebene. Durch die Nutzung der Confidential Computing-Fähigkeiten von Privatemode stellt die kombinierte Lösung sicher, dass Prompts und Antworten während der Verarbeitung verschlüsselt bleiben und das Risiko von Datenlecks an Infrastruktur- oder Modellanbieter eliminiert wird.
Mit diesem Angebot zeigt Kauz.ai sein Engagement für die besonderen Sicherheitsbedürfnisse von Kunden mit sensiblen Daten und personenbezogenen Informationen (Personal Identifiable Information, PII). Mit dem confidential aiStudio können diese Unternehmen KI-Assistenten nutzen, ihre Abläufe optimieren und das Kundenerlebnis verbessern, während gleichzeitig ein Höchstmaß an Sicherheit und Compliance gewährleistet ist.