AI-Modelle

Jede App auf Canvas wird von einem AI-Builder-Agent gebaut. In dieser Anleitung geht es darum, welches AI-Modell ein Repository nutzen soll, wie Sie die in Ihrer Organisation erlaubten Modelle steuern, und wie Sie Modelle, die personenbezogene Daten verarbeiten, in der EU halten.

Im Produkt liegt das unter LLM-Modelle. Eine kleinere Gruppe von Personen (Ihre Guardrail-Manager) pflegen einen Satz von Standardmodellen, der jedem Repository zur Verfügung steht; Builder wählen pro Repository eines aus und können zusätzliche Modelle anfragen, die ein Manager freigibt.

Die Ideen dahinter

• Ein gepflegter Katalog mit Residenz-Kennzeichnung. Jedes Modell trägt ein Badge, das zeigt, wo es läuft: Lokal DE (selbst gehostet in Deutschland), EU oder Drittland (außerhalb der EU). Die Kennzeichnung ist immer sichtbar, damit eine Wahl informiert getroffen wird.
• Standardmodelle, überall verfügbar. Manager markieren einen Satz von Modellen als Standard; jedes Repository darf sie ohne Anfrage nutzen.
• Zusätzliche Modelle auf Anfrage. Ein Builder kann ein Modell, das kein Standard ist, für eines seiner Repositories anfragen. Die Anfrage wartet auf die Freigabe oder Ablehnung durch einen Manager.
• Ein sicherer Standard für personenbezogene Daten. Für ein Repository, das personenbezogene Daten verarbeitet, empfiehlt Canvas ein Lokal-DE- oder EU-Modell. Ein Modell außerhalb der EU erreicht ein solches Repository erst, nachdem ein Manager es dafür freigegeben hat: die Freigabe ist die Kontrolle.
• Alles wird festgehalten. Das Setzen von Standards, Anfragen, Freigaben, Ablehnungen und Modellwechsel werden alle im Audit-Log festgehalten.

Den Standard-Satz zu pflegen und Anfragen freizugeben erfordert die Guardrail-Manager-Berechtigung. Executives und Org Admins haben sie und können sie an eine vertraute Person delegieren. Wie Berechtigungen vergeben werden, steht unter Identität und Zugriff.

Die Standardmodelle festlegen

Als Guardrail-Manager öffnen Sie LLM-Modelle und sehen den gesamten Katalog mit dem Residenz-Badge jedes Modells, und schalten um, welche davon Standard für Ihre Organisation sind.

Wir empfehlen, den Standard-Satz auf Lokal-DE- und EU-Modelle zu beschränken und Builder pro Repository ein Drittland-Modell anfragen zu lassen, wenn es einen Grund dafür gibt, sodass die Ausnahme bewusst getroffen und festgehalten wird.

Ein Modell für ein Repository wählen

Wenn ein Builder ein neues Repository anlegt, wählt er dessen Modell direkt im Anlage-Formular aus dem Standard-Satz. Das sichere lokale Modell ist vorausgewählt.

Ein Builder kann das Modell eines Repositories jederzeit unter LLM-Modelle ändern und wählt dabei aus den für dieses Repository verfügbaren Modellen (den Standards, plus allem, was dafür freigegeben wurde). Für ein Repository, das personenbezogene Daten verarbeitet, wird hier die Lokal-/EU-Empfehlung angezeigt.

Ein zusätzliches Modell anfragen

Unter LLM-Modelle sieht ein Builder jedes seiner Repositories, dessen aktuelles Modell und den Katalog. Für ein Modell, das für ein Repository noch nicht verfügbar ist, fragt er es an; der Status der Anfrage (offen, freigegeben oder abgelehnt) wird direkt dort angezeigt.

Anfragen freigeben

Guardrail-Manager prüfen offene Anfragen unter LLM-Modelle, in Anfragen. Jede Anfrage zeigt das Repository, das Modell und seine Residenz, wer angefragt hat, und, wo es am wichtigsten ist, eine Kennzeichnung, wenn das Repository personenbezogene Daten verarbeitet, sodass die Residenz-Entscheidung mit diesem Wissen getroffen wird. Sie geben frei oder lehnen ab; die anfragende Person wird so oder so benachrichtigt, und die Entscheidung wird festgehalten.

Modellwahl und personenbezogene Daten

Canvas ist so angelegt, dass die Modelle, die Ihre Daten verarbeiten, standardmäßig in der EU bleiben. Der empfohlene Standard-Satz sind Lokal-DE- und EU-Modelle; ein Modell außerhalb der EU erreicht ein Repository, das personenbezogene Daten verarbeitet, erst, nachdem ein Manager es dafür bewusst freigegeben hat, mit der im Moment der Entscheidung angezeigten Residenz. Als Verantwortlicher treffen Sie diese Wahl nach dem für Sie geltenden Recht; die Rolle von Canvas ist, die Wahl transparent zu machen, die sichere Option als Standard zu halten und festzuhalten, was entschieden wurde.

Sicherheit und wo Ihre Daten liegen

Das Standardmodell zum Bauen ist lokal und in Deutschland selbst gehostet. Welche Modelle Ihre Organisation erlaubt, welches Modell jedes Repository nutzen soll und jede Anfrage und Freigabe werden im Audit-Log festgehalten. Wie alles auf Canvas läuft das auf Servern in Deutschland und wird im Einklang mit der DSGVO verarbeitet.