lo que el asistente puede y no puede hacer
un resumen en lenguaje sencillo de exactamente qué está autorizado a hacer el asistente de IA en tu nombre, qué nunca puede hacer y cómo se comprueba cada acción de riesgo.
esta página es la respuesta breve a la pregunta más importante sobre una IA que puede realizar acciones: ¿qué está autorizada a hacer, exactamente? aquí tienes el panorama completo en un solo lugar: lo que el asistente puede hacer, lo que nunca puede hacer y las comprobaciones que hay entre medias.
lo que puede hacer
a partir del catálogo de capacidades que apruebas, el asistente puede:
- responder preguntas sobre tu producto, basándose en el conocimiento y la documentación que le proporciones.
- consultar información para el usuario, leyendo datos que ya tiene permiso para ver.
- realizar acciones de tu API que hayas habilitado: las mismas acciones que el usuario podría hacer manualmente.
- mostrar resultados enriquecidos —tarjetas, tablas y componentes que hayas registrado— directamente dentro del chat.
- recordar contexto útil durante una conversación, y entre sesiones solo si tú lo activas.
lo que no puede hacer
estos no son ajustes que tengas que configurar bien: forman parte de cómo funciona Syncanix:
- no puede superar los permisos del propio usuario. si esa persona no puede hacer algo en tu aplicación, el asistente tampoco.
- no puede actuar como otra persona, ni como un administrador o una cuenta de servicio: cada acción lleva la identidad real del usuario.
- no puede ejecutar una acción destructiva que no hayas habilitado explícitamente: están bloqueadas de forma predeterminada.
- no puede saltarse una confirmación obligatoria ni una comprobación de reautenticación para forzar una acción.
- no puede ver tu código fuente, tus variables de entorno, tu base de datos ni tus secretos: trabaja a partir de un catálogo estructurado, no de tus componentes internos.
- no puede leer tu página, las cookies de tus usuarios ni nada de lo que aparece en pantalla que no se le haya entregado: el widget está aislado de la página anfitriona.
- el modelo de lenguaje nunca guarda una credencial de larga duración: la identidad se resuelve de nuevo, en cada acción, mediante tus sistemas.
cómo se controlan las acciones de riesgo
no todas las acciones se tratan igual. cada capacidad tiene un nivel de riesgo que tú defines, y ese nivel decide qué ocurre antes de que se ejecute:
- lectura: se ejecuta automáticamente
- consultar algo no interrumpe al usuario, así que las respuestas siguen siendo rápidas.
- escritura: pregunta primero
- cualquier cosa que cambie datos se pausa y muestra al usuario exactamente qué va a ocurrir, y espera su confirmación.
- destructiva: bloqueada de forma predeterminada
- eliminar o cambiar datos de forma irreversible está desactivado salvo que tú lo permitas, y puede exigir una reautenticación y una confirmación escrita.
una conversación, paso a paso
esto es lo que ocurre realmente cuando uno de tus usuarios pide al asistente que haga algo:
- el usuario preguntaescribe una petición en el chat; por ejemplo, «cancela mi pedido más reciente».
- se resuelve la identidadSyncanix confirma quién es a través de tu proveedor de identidad, en su propio navegador: sin inicio de sesión compartido y sin contraseñas almacenadas.
- el asistente planificadetermina cuáles de tus capacidades aprobadas responden a la petición, y en qué orden.
- los pasos de riesgo preguntan primerouna lectura se ejecuta de inmediato; una escritura muestra un resumen claro y espera una confirmación; un paso destructivo permanece bloqueado salvo que lo hayas permitido.
- la acción se ejecuta como el usuariotu API recibe la llamada con la propia identidad del usuario y decide, según sus permisos reales, si se lleva a cabo.
- queda registradala acción queda en el registro de auditoría, atribuible al usuario que la ejecutó.
¿y si lo engañan o se equivoca?
la IA puede ser manipulada y puede malinterpretar. Syncanix está diseñado de forma que, cuando eso ocurre, el daño queda contenido, porque ser astuto nunca fue lo que permitió que una acción se ejecutara en primer lugar:
- los permisos son el límite real. incluso una petición manipulada a la perfección solo puede intentar lo que ese usuario ya podría hacer: no puede desbloquear nada nuevo.
- el contenido que el asistente lee (un documento, el resultado de una herramienta) se trata como no fiable: puede fundamentar una respuesta, pero no puede desencadenar por sí solo una escritura ni una acción sensible sin una nueva confirmación.
- las escrituras las aprueba el usuario y las acciones destructivas están bloqueadas, de modo que un paso en falso pregunta antes de actuar en lugar de actuar en silencio.
- las acciones reversibles se pueden deshacer, y cada acción queda registrada, así que un error es visible y recuperable.