ما الذي يمكن للمساعد فعله وما لا يمكنه
ملخّص بلغة واضحة لما يُسمح للمساعد الذكي بفعله نيابةً عنك تحديدًا، وما لا يمكنه فعله أبدًا، وكيف يُدقَّق كل إجراء ينطوي على مخاطرة.
هذه الصفحة هي الإجابة المختصرة عن أهم سؤال حول ذكاء اصطناعي قادر على تنفيذ إجراءات: ما الذي يُسمح له بفعله تحديدًا؟ إليك الصورة كاملة في مكان واحد — ما يمكن للمساعد فعله، وما لا يمكنه فعله أبدًا، والضوابط بينهما.
ما يمكنه فعله
انطلاقًا من كتالوج القدرات التي توافق عليها، يمكن للمساعد أن:
- يجيب عن الأسئلة المتعلّقة بمنتجك، مستندًا إلى المعرفة والوثائق التي تزوّده بها.
- يبحث عن الأمور نيابةً عن المستخدم — بقراءة البيانات المسموح له برؤيتها أصلًا.
- ينفّذ إجراءات من الـ API الخاص بك بعد أن تُفعّلها — وهي الإجراءات نفسها التي يمكن للمستخدم تنفيذها يدويًا.
- يعرض نتائج غنية — بطاقات وجداول ومكوّنات سجّلتها — داخل المحادثة مباشرةً.
- يتذكّر سياقًا مفيدًا عبر المحادثة الواحدة، وعبر الجلسات فقط إن فعّلت ذلك.
ما لا يمكنه فعله
هذه ليست إعدادات عليك ضبطها بشكل صحيح — بل هي مبنيّة في صميم آلية عمل Syncanix:
- لا يمكنه تجاوز صلاحيات المستخدم نفسه. إن تعذّر على المستخدم فعل شيء في تطبيقك، فلن يقدر المساعد عليه أيضًا.
- لا يمكنه التصرّف بصفة شخص آخر أو بصفة مسؤول أو حساب خدمة — كل إجراء يحمل هوية المستخدم الحقيقي.
- لا يمكنه تنفيذ إجراء مدمّر لم تُفعّله صراحةً — فتلك محظورة افتراضيًا.
- لا يمكنه تخطّي تأكيد مطلوب أو خطوة إعادة مصادقة لتمرير إجراء ما.
- لا يمكنه رؤية شيفرتك المصدرية أو متغيّرات البيئة أو قاعدة البيانات أو الأسرار — فهو يعمل من كتالوج منظَّم، لا من مكوّناتك الداخلية.
- لا يمكنه قراءة صفحتك أو ملفات تعريف الارتباط الخاصة بمستخدميك أو أي شيء على الشاشة لم يُسلَّم إليه — فالودجت معزول تمامًا عن الصفحة المضيفة.
- لا يحتفظ النموذج اللغوي بأي بيانات اعتماد طويلة الأمد — إذ تُحلّ الهوية من جديد، مع كل إجراء، عبر أنظمتك أنت.
كيف تُضبَط الإجراءات ذات المخاطرة
لا تُعامَل جميع الإجراءات بالطريقة نفسها. لكل قدرة مستوى مخاطرة تحدّده أنت، وهذا المستوى يقرّر ما يحدث قبل تنفيذها:
- قراءة — تُنفَّذ تلقائيًا
- البحث عن شيء ما لا يقاطع المستخدم، فتبقى الإجابات سريعة.
- كتابة — تسأل أولًا
- أي إجراء يغيّر البيانات يتوقّف ويُظهر للمستخدم ما سيحدث تحديدًا، وينتظر موافقته.
- مدمّرة — محظورة افتراضيًا
- حذف البيانات أو تغييرها على نحو لا رجعة فيه معطّل ما لم تسمح به، وقد يستلزم إعادة مصادقة وتأكيدًا مكتوبًا.
محادثة، خطوة بخطوة
إليك ما يحدث فعليًا حين يطلب أحد مستخدميك من المساعد تنفيذ شيء ما:
- المستخدم يطلبيكتب طلبًا في المحادثة — مثل: «ألغِ آخر طلب لي».
- تُحلّ الهويةيتحقّق Syncanix من هوية المستخدم عبر مزوّد الهوية الخاص بك، في متصفّحه هو — بلا تسجيل دخول مشترك ولا كلمة مرور مخزَّنة.
- المساعد يخطّطيحدّد أيّ القدرات التي وافقت عليها تلبّي الطلب، وبأي ترتيب.
- الخطوات ذات المخاطرة تسأل أولًاالقراءة تُنفَّذ فورًا؛ والكتابة تُظهر ملخّصًا واضحًا وتنتظر الموافقة؛ والخطوة المدمّرة تبقى محظورة ما لم تكن قد سمحت بها.
- الإجراء يُنفَّذ بصفة المستخدميتلقّى الـ API الخاص بك الطلب بهوية المستخدم نفسه، ويقرّر بناءً على صلاحياته الحقيقية ما إذا كان سيحدث.
- يُسجَّليُدوَّن الإجراء في سجل التدقيق، منسوبًا إلى المستخدم الذي نفّذه.
ماذا لو خُدع أو أخطأ الفهم؟
يمكن التلاعب بالذكاء الاصطناعي، ويمكن أن يسيء الفهم. صُمِّم Syncanix بحيث يكون الضرر محتوىً حين يحدث ذلك — لأن الذكاء لم يكن يومًا هو ما يمرّر الإجراء أصلًا:
- الصلاحيات هي الحدّ الحقيقي. حتى الطلب المتلاعَب به تمامًا لا يمكنه إلا محاولة ما يستطيع ذلك المستخدم فعله أصلًا — فلا يفتح شيئًا جديدًا.
- المحتوى الذي يقرأه المساعد (وثيقة أو نتيجة أداة) يُعامَل بوصفه غير موثوق — يمكنه إثراء إجابة، لكنه لا يستطيع بمفرده تحفيز عملية كتابة أو إجراء حسّاس دون تأكيد جديد.
- عمليات الكتابة تتطلّب موافقة المستخدم والإجراءات المدمّرة محظورة، فالمنعطف الخاطئ يسأل قبل أن يتصرّف بدل أن يتصرّف بصمت.
- الإجراءات القابلة للعكس يمكن التراجع عنها، وكل إجراء يُسجَّل، فيكون الخطأ ظاهرًا وقابلًا للاستدراك.