סוכני AI, מאגרי ידע ואוטומציה
מערכות AI שעובדות עם הנתונים והכלים של הארגון: סוכנים, מאגרי ידע ובוטים לערוצי שיחה, עם גבולות ברורים, אדם בלולאה וניטור אחרי העלייה לאוויר.
מה אפשר לבנות
מסוכן בודד שמבצע משימה מוגדרת ועד פלטפורמה שמנהלת שיחות בכמה ערוצים.
סוכנים שמבצעים פעולות
סוכן שמבין בקשה ומבצע פעולה מוגדרת, כמו בדיקת סטטוס, עדכון רשומה או קביעת פגישה, דרך קריאה לפונקציות במערכות שלכם.
מאגרי ידע (RAG)
תשובות שמבוססות על המסמכים והמידע של הארגון, עם חיפוש וקטורי וגיבוי בחיפוש מילות מפתח.
בוטים לערוצי שיחה
וואטסאפ, טלגרם, מסנג׳ר, אינסטגרם ואימייל, עם תהליכי שיחה מובנים לצד שיחה חופשית ותיבת שיחות לנציגים.
אוטומציה של עבודה חוזרת
תמלול וסיכום שיחות, סיווג פניות, קליטת לידים ומשימות מתוזמנות שעוברות מהצוות למערכת.
ייעוץ וארכיטקטורה
בחירת מודל, תכנון זרימת הנתונים, הערכת עלויות ושיקולי פרטיות, לפני שמתחייבים לפתרון.
גבולות שמתוכננים מראש
מודלי שפה טועים לפעמים. במקום להניח שזה לא יקרה, מתכננים את המערכת כך שטעות תתגלה ותיעצר מוקדם, ושתמיד תהיה דרך להגיע לאדם.
חלק מהמנגנונים האלה ממומשים בפלטפורמת KaliAI, מוצר של Kliento Technologies, החברה שבה דורון סויסה מכהן כ-CTO.
- grounding
- תשובות מתוך מאגר הידעהסוכן נשען על מקורות שהוגדרו לו, ומוגדר לומר שאין לו תשובה כשאין מקור.
- scope
- סינון נושאיםשאלות שמחוץ לתחום שהוגדר נעצרות או מופנות הלאה.
- injection
- זיהוי prompt injectionניסיונות לשנות את הוראות הסוכן דרך תוכן השיחה מזוהים ומטופלים.
- tools
- הרשאות לפעולותהסוכן מפעיל רק פונקציות שהוגדרו לו, בהרשאות המינימליות שנדרשות.
- human
- העברה לנציגנציג אנושי יכול לקחת את השיחה בכל שלב.
- logs
- תיעוד וניטורשיחות ופעולות נשמרות לבדיקה, כדי לזהות טעויות ולשפר.
מאבחון ועד ניטור בייצור
כל שלב נגמר בהחלטה מפורשת אם ואיך ממשיכים.
אבחון
מגדירים את המשימה, את מקורות המידע ואת מה שנחשב תשובה טובה, כולל דוגמאות אמיתיות לבדיקה.
אב־טיפוס
גרסה ראשונה על נתונים אמיתיים, שנבדקת מול סט הדוגמאות לפני שמחליטים להמשיך.
ייצור
חיבור לערוצים ולמערכות, הרשאות, מנגנוני הגנה וטיפול במקרי קצה.
ניטור ושיפור
מעקב אחרי שיחות ופעולות, עדכון מאגר הידע וכוונון לפי מה שעולה מהשטח.
עקרונות שמלווים כל פרויקט
- לא כל בעיה צריכה מודל שפה. לפעמים טופס, כלל פשוט או חיפוש רגיל עושים את העבודה טוב יותר ובעלות נמוכה יותר.
- מצמצמים למינימום את המידע האישי והרגיש שנשלח למודל.
- המשתמשים יודעים שהם מדברים עם מערכת אוטומטית, ויכולים לבקש אדם.
- בודקים את המערכת מול דוגמאות אמיתיות לפני כל שינוי ואחריו.
- ההחלטה מה הסוכן רשאי לעשות נשארת אצלכם.
רוצים לבדוק אם AI מתאים למשימה שלכם?
ספרו מה התהליך ומה הנתונים, ונחזור אליכם עם הצעה לשלב הבא. אפשר להתחיל גם מהרצאה או סדנה לצוות.