was der Assistent tun kann und was nicht

diese Seite ist die kurze Antwort auf die wichtigste Frage zu einer KI, die Aktionen ausführen kann: was genau darf sie tun? hier finden Sie das gesamte Bild an einem Ort — was der Assistent tun kann, was er niemals tun kann und die Prüfungen dazwischen.

was er tun kann

ausgehend vom Katalog der Fähigkeiten, die Sie freigeben, kann der Assistent:

• Fragen zu Ihrem Produkt beantworten, gestützt auf das Wissen und die Dokumentation, die Sie ihm geben.
• Dinge für den Nutzer nachschlagen — Daten lesen, die dieser ohnehin sehen darf.
• Aktionen aus Ihrer API ausführen, die Sie aktiviert haben — dieselben Aktionen, die der Nutzer auch von Hand ausführen könnte.
• reichhaltige Ergebnisse anzeigen — Karten, Tabellen und Komponenten, die Sie registriert haben — direkt im Chat.
• nützlichen Kontext innerhalb eines Gesprächs behalten und über Sitzungen hinweg nur dann, wenn Sie das aktivieren.

was er nicht tun kann

das sind keine Einstellungen, die Sie richtig setzen müssen — sie sind fest in die Funktionsweise von Syncanix eingebaut:

• er kann die Berechtigungen des Nutzers nicht überschreiten. wenn dieser etwas in Ihrer App nicht tun kann, kann es der Assistent auch nicht.
• er kann nicht als jemand anderes oder als Admin- bzw. Dienstkonto handeln — jede Aktion trägt die echte Identität des Nutzers.
• er kann keine zerstörerische Aktion ausführen, die Sie nicht ausdrücklich aktiviert haben — solche sind standardmäßig blockiert.
• er kann keine erforderliche Bestätigung oder erneute Anmeldung überspringen, um eine Aktion durchzudrücken.
• er kann Ihren Quellcode, Ihre Umgebungsvariablen, Ihre Datenbank oder Ihre Geheimnisse nicht sehen — er arbeitet mit einem strukturierten Katalog, nicht mit Ihren internen Systemen.
• er kann Ihre Seite, die Cookies Ihrer Nutzer oder irgendetwas auf dem Bildschirm nicht lesen, das ihm nicht übergeben wurde — das Widget ist von der Host-Seite abgeschottet.
• das Sprachmodell hält niemals eine langlebige Anmeldeinformation — die Identität wird pro Aktion frisch durch Ihre Systeme aufgelöst.

wie riskante Aktionen abgesichert werden

nicht jede Aktion wird gleich behandelt. jede Fähigkeit hat eine Risikostufe, die Sie festlegen, und diese Stufe entscheidet, was geschieht, bevor sie ausgeführt wird:

Lesen — läuft automatisch

etwas nachzuschlagen unterbricht den Nutzer nicht, sodass Antworten schnell bleiben.

Schreiben — fragt zuerst nach

alles, was Daten verändert, hält an und zeigt dem Nutzer genau, was passieren wird, und wartet auf sein Ja.

Zerstörerisch — standardmäßig blockiert

das Löschen oder unumkehrbare Ändern von Daten ist deaktiviert, es sei denn, Sie erlauben es, und kann eine erneute Anmeldung sowie eine getippte Bestätigung erfordern.

ein Gespräch, Schritt für Schritt

so läuft es tatsächlich ab, wenn einer Ihrer Nutzer den Assistenten bittet, etwas zu tun:

1. 1
   der Nutzer fragter tippt eine Anfrage in den Chat — etwa „storniere meine letzte Bestellung.“
2. 2
   die Identität wird aufgelöstSyncanix bestätigt über Ihren Identitätsanbieter, wer die Person ist, in ihrem eigenen Browser — keine gemeinsame Anmeldung, kein gespeichertes Passwort.
3. 3
   der Assistent planter ermittelt, welche Ihrer freigegebenen Fähigkeiten die Anfrage beantworten und in welcher Reihenfolge.
4. 4
   riskante Schritte fragen zuerst nachein Lesevorgang läuft sofort; ein Schreibvorgang zeigt eine klare Zusammenfassung und wartet auf ein Ja; ein zerstörerischer Schritt bleibt blockiert, es sei denn, Sie haben ihn erlaubt.
5. 5
   die Aktion läuft als der NutzerIhre API erhält den Aufruf mit der eigenen Identität des Nutzers und entscheidet anhand seiner echten Berechtigungen, ob er ausgeführt wird.
6. 6
   sie wird protokolliertdie Aktion landet im Prüfprotokoll, zurechenbar auf den Nutzer, der sie ausgeführt hat.

was, wenn er ausgetrickst wird oder sich irrt?

KI kann manipuliert werden und sie kann etwas falsch verstehen. Syncanix ist so gebaut, dass in einem solchen Fall der Schaden begrenzt bleibt — denn Cleverness war ohnehin nie das, was eine Aktion durchgelassen hat:

• die Berechtigungen sind die tatsächliche Grenze. selbst ein perfekt manipulierter Prompt kann nur versuchen, was der Nutzer ohnehin tun könnte — er kann nichts Neues freischalten.
• Inhalte, die der Assistent liest (ein Dokument, ein Werkzeug-Ergebnis), gelten als nicht vertrauenswürdig — sie können eine Antwort mitgestalten, aber sie können ohne eine erneute Bestätigung nicht von sich aus einen Schreibvorgang oder eine sensible Aktion auslösen.
• Schreibvorgänge werden vom Nutzer genehmigt und zerstörerische Aktionen sind blockiert, sodass ein Fehltritt zuerst nachfragt, statt still zu handeln.
• umkehrbare Aktionen lassen sich rückgängig machen, und jede Aktion wird protokolliert, sodass ein Fehler sichtbar und wiederherstellbar ist.

Nächste Schritte