מה העוזר יכול לעשות ומה לא
סיכום בשפה פשוטה של מה בדיוק העוזר החכם מורשה לעשות בשמכם, מה הוא לעולם לא יכול לעשות, וכיצד כל פעולה בעלת סיכון נבדקת.
הדף הזה הוא התשובה הקצרה לשאלה החשובה ביותר לגבי בינה מלאכותית שיכולה לבצע פעולות: מה בדיוק היא מורשית לעשות? הנה כל התמונה במקום אחד — מה העוזר יכול לעשות, מה הוא לעולם לא יכול, והבדיקות שביניהם.
מה הוא יכול לעשות
מתוך קטלוג היכולות שאתם מאשרים, העוזר יכול:
- לענות על שאלות לגבי המוצר שלכם, מבוסס על הידע והתיעוד שאתם מספקים לו.
- לחפש דברים עבור המשתמש — לקרוא נתונים שכבר מותר לו לראות.
- לבצע פעולות מה-API שלכם שהפעלתם — אותן פעולות שהמשתמש היה יכול לבצע ידנית.
- להציג תוצאות עשירות — כרטיסים, טבלאות ורכיבים שרשמתם — ישירות בתוך הצ'אט.
- לזכור הקשר שימושי לאורך שיחה, ובין הפעלות רק אם תפ עילו זאת.
מה הוא לא יכול לעשות
אלה אינם הגדרות שאתם צריכים לכוונן נכון — הם מובנים באופן שבו Syncanix עובד:
- הוא לא יכול לחרוג מההרשאות של המשתמש עצמו. אם הוא לא יכול לעשות משהו באפליקציה שלכם, גם העוזר לא יכול.
- הוא לא יכול לפעול בתור מישהו אחר, או בתור מנהל או חשבון שירות — כל פעולה נושאת את הזהות האמיתית של המשתמש.
- הוא לא יכול להריץ פעולה הרסנית שלא הפעלתם במפורש — אלה חסומות כברירת מחדל.
- הוא לא יכול לדלג על אישור נדרש או על בדיקת אימות מחדש כדי לדחוף פעולה קדימה.
- הוא לא יכול לראות את קוד המקור, משתני הסביבה, מסד הנתונים או הסודות שלכם — הוא עובד מקטלוג מובנה, לא מהמערכות הפנימיות שלכם.
- הוא לא יכול לקרוא את הדף שלכם, את העוגיות של המשתמשים, או כל דבר על המסך שלא נמסר לו — הווידג'ט אטום ומופרד מהדף המארח.
- מודל השפה לעולם אינו מחזיק אישור ארוך-טווח — הזהות נפתרת מחדש, בכל פעולה, על ידי המערכות שלכם.
כיצד פעולות בעלות סיכון נשלטות
לא כל פעולה מטופלת באותו אופן. לכל יכולת יש רמת סיכון שאתם קובעי ם, ורמה זו קובעת מה קורה לפני שהיא מורצת:
- קריאה — מורצת אוטומטית
- חיפוש של משהו אינו קוטע את המשתמש, כך שהתשובות נשארות מהירות.
- כתיבה — שואלת קודם
- כל דבר שמשנה נתונים עוצר ומראה למשתמש בדיוק מה יקרה, וממתין לאישורו.
- הרסני — חסום כברירת מחדל
- מחיקה או שינוי בלתי-הפיך של נתונים כבויים אלא אם תאפשרו זאת, ויכולים לדרוש אימות מחדש ואישור מוקלד.
שיחה, שלב אחר שלב
הנה מה שקורה בפועל כשאחד המשתמשים שלכם מבקש מהעוזר לעשות משהו:
- המשתמש מבקשהוא מקליד בקשה בצ'אט — למשל, "בטל את ההזמנה האחרונה שלי."
- הזהות נפתרתSyncanix מאמת מי הוא דרך ספק הזהות שלכם, בדפדפן שלו עצמו — ללא כניסה משותפת, ללא סיסמה שמורה.
- העוזר מתכנןהוא מברר אילו מהיכולות המאושרות שלכם עונות על הבקשה, ובאיזה סדר.
- שלבים בעלי סיכון שואלים קודםקריאה מורצת מיד; כתיבה מציגה סיכום ברור וממתינה לאישור; שלב הרסני נשאר חסום אלא אם אפשרתם אותו.
- הפעולה מורצת בתור המשתמשה-API שלכם מקבל את הקריאה עם הזהות של המשתמש עצמו ומחליט, בהתבסס על ההרשאות האמיתיות שלו, האם היא מתרחשת.
- היא נרשמתהפעולה נכנסת ליומן הביקורת, ניתנת לייחוס למשתמש שהריץ אותה.
מה אם הוא מרומה או טועה?
בינה מלאכותית ניתנת למניפולציה, והיא יכולה לטעות בהבנה. Syncanix מתוכנן כך שכאשר זה קורה, הנזק מוכל — כי חוכמה מעולם לא הייתה מה שאיפשר מלכתחילה לפעולה לעבור:
- ההרשאות הן הגבול האמיתי. אפילו הנחיה שעברה מניפולציה מושלמת יכולה רק לנסות את מה שהמשתמש כבר יכול לעשות — היא לא יכולה לפתוח שום דבר חדש.
- תוכן שהעוזר קורא (מסמך, תוצאת כלי) מטופל כלא-מהימן — הוא יכול להזין תשובה, אך אינו יכול להפעיל כתיבה או פעולה רגישה בכוחות עצמו ללא אישור חדש.
- כתיבות מאושרות על ידי המשתמש ופעולות הרסניות חסומות, כך שפנייה שגויה שואלת לפני שהיא פועלת ולא פועלת בשקט.
- פעולות הפיכות ניתנות לביטול, וכל פעולה נרשמת, כך שטעות היא גלויה וניתנת לשחזור.