אבטחת מידע ופרטיות בשירות לקוחות אוטומטי: איך מודדים הצלחה
אבטחת מידע אלון וייס 7 דקות קריאה
כשסוכן AI מנהל שיחות עם לקוחות, עולות שאלות שאי אפשר להתחמק מהן. מה החוק הישראלי דורש כיום, מה לבדוק אצל ספק הפלטפורמה, ואיך מודדים הצלחה בפועל.
כשאתם מחברים סוכן AI לשירות הלקוחות שלכם, אתם מפקידים מידע רגיש בידי מערכת שמנהלת שיחות, שומרת היסטוריה ולעיתים מגיעה למאגרי מידע פנימיים. אבטחת מידע ופרטיות בשירות לקוחות אוטומטי אינן שאלה תיאורטית: החוק הישראלי השתנה באוגוסט 2025, הסיכונים הייחודיים של מערכות AI מתועדים בתקנים רשמיים, ויש מדדים ברורים לדעת האם הפלטפורמה שבחרתם עומדת בסטנדרט. המאמר הזה מסביר איפה נוצרים הסיכונים, מה החוק מחייב, ואיך בונים מדדים שמספרים את האמת.
הסיכונים שמייחדים סוכן AI משאר הכלים
ההבדל המהותי בין סוכן AI לבין כלי שירות מסורתי הוא שהסוכן מבין את תוכן השיחה ולעיתים פועל בהתבסס עליה. ארגון OWASP, שמפרסם את תקני הסיכונים הסטנדרטיים לאפליקציות תוכנה, פרסם ב-2025 את OWASP Top 10 לאפליקציות LLM. בראש הרשימה עומדת הזרקת הוראות (Prompt Injection): תוקף מנסח הודעה שגורמת לסוכן לחשוף מידע של לקוחות אחרים, לדלוף את הגדרות המערכת הפנימיות, או לבצע פעולות שאינן בסמכותו. מקום שישי ברשימה תפסה 'סוכנות מופרזת' (Excessive Agency), מצב שבו הסוכן קיבל הרשאות רחבות מדי ומבצע פעולות שלא הורשה לבצע.
הצד המעשי: עסק שמחבר סוכן AI לוואטסאפ, לדואל ולמאגר ידע פנימי בו-זמנית מייצר מפגש עם כמה מערכות. אם אחת מהן מכילה נתוני לקוחות ללא הפרדה מספקת, שיחה של לקוח אחד עלולה לדלוף לשיחה של אחר. זו לא תיאוריה, זה וקטור תקיפה מתועד שפלטפורמה ברת-סמך חייבת לטפל בו.
מה דורש החוק הישראלי מאוגוסט 2025
תיקון 13 לחוק הגנת הפרטיות נכנס לתוקף ב-14 באוגוסט 2025. לפי ניתוחים שפרסמו BigID ו-Safetica, מדובר באחד מחוקי הגנת הפרטיות הבודדים בעולם הכולל התייחסות מפורשת למערכות AI. החוק אינו מבחין בין חברה גדולה לעסק קטן בכל הנוגע לחובות הבסיסיות.
החובות שחלות על כל מי שמפעיל סוכן AI לשירות לקוחות כוללות הסכמה מדעת לפני שימוש במערכת שמעבדת מידע אישי, גילוי ברור ללקוח שהוא מדבר עם AI בתחילת האינטראקציה, הערכת השפעה על פרטיות (DPIA) לפני השקת כל מערכת AI, ולארגונים שפועלים בקנה מידה רחב, מינוי ממונה על הגנת פרטיות שאינו יכול לשמש בו-זמנית כמנהל אבטחת מידע.
מבחינת אכיפה: הקנסות האדמינסטרטיביים מגיעים עד 320,000 שקל לכל הפרה. למחזיקי מאגרי מידע גדולים ורגישים, לפי BigID, הסכומים יכולים להגיע למיליוני שקלים עם מכפלות על עיבוד בקנה מידה או על נתונים רגישים. יחידים רשאים להגיש תביעה עצמאית ולקבל פיצוי של עד 100,000 שקל ללא צורך להוכיח נזק ממשי. הרשות להגנת הפרטיות רשאית לעצור את פעולת מאגרי הנתונים ולפרסם את שם הארגון המפר לתקופה של עד ארבע שנים. על ארגונים שמחזיקים מאגרים גדולים ורגישים, לפי Safetica, מוטלת גם חובה לבצע בדיקות חדירה לפחות כל 18 חודשים.
שאלות שחייבים לשאול כל ספק לפני החיבור
לפני שחותמים על חוזה, אלה הנקודות שמפרידות בין פלטפורמה שמגינה על נתוני הלקוחות שלכם לבין אחת שלא.
- אישורי אבטחה: SOC 2 Type II הוא ביקורת מתמשכת לאורך 6-12 חודשים ולא בדיקה נקודתית. לפי מדריך הערכת האבטחה של fin.ai, SOC 2 לבדו אינו מכסה סיכונים ייחודיים ל-AI. לכן כדאי לשאול גם על ISO 27001 (ניהול אבטחת מידע) ועל ISO 42001 (ממשל ייעודי לסיכוני AI), שהוא תקן ספציפי למערכות AI שצמח בשנים האחרונות.
- הצפנה: AES-256 לנתונים במנוחה, TLS 1.2 ומעלה לנתונים בתעבורה. אלה הסטנדרטים המינימליים לפי fin.ai, ופלטפורמה שלא מציינת אותם לפי דרישה צריכה לעורר שאלה.
- שמירת נתונים אצל ספק המודל: האם שיחות עוברות למודל LLM חיצוני? האם הנתונים משמשים לאימון מחדש? מדיניות 'אפס שמירה' (zero retention) אצל ספק המודל היא הפרקטיקה המומלצת.
- ניקוי PII בלוגים: לוגים שמשמרים שמות, כתובות ומספרי טלפון הם סיכון עצמאי. בקשו הוכחה שהמערכת מבצעת redaction אוטומטי לפני שנתוני לקוח נשמרים בכל לוג.
- שרשרת ביקורת: כל שיחה וכל פעולה שביצע הסוכן חייבת להיות רשומה ונגישה לכם לצורך ביקורת עצמאית.
- הסכם עיבוד נתונים: ספק שלא מציע DPA חתום לפני שמידע לקוחות נוגע בשרתיו אינו עומד בדרישות החוק הישראלי.
איך מודדים הצלחה בפועל
מדדי ביצועים של סוכן AI נחלקים לשניים: מדדי איכות שוטפים ומדדי אבטחה. שניהם נדרשים, ואין להסתפק בקטגוריה אחת בלבד.
לפי ניתוח של helply.com, הבנצ'מרק לדיוק תשובות עומד על 87-92%, עם הרבעון העליון מעל 92%. שיעור הזיות (תשובות שגויות שהסוכן מציג כעובדות) אמור לעמוד על פחות מ-2% כסטנדרט, ופלטפורמות בולטות מגיעות לפחות מ-1%. שיעור הסלמה לנציג אנושי שנמצא בטווח 16-30% הוא בריא ומסמן שהסוכן מטפל ברוב הפניות מבלי לבצע over-escalation שמגביר סיכוני חשיפה. שיעור פניות חוזרות תוך 72 שעות מתחת ל-15% מסמן שהפנייה נסגרה באמת ולא שהלקוח פשוט ויתר.
לצד מדדי האיכות, יש לעקוב גם אחרי מדדי אבטחה ספציפיים: כמות אירועי אבטחה ועצמתם בחודש, שיעור האיומים שנעצרו לפני שהפכו לאירועים פעילים, וזמן ממוצע מגילוי אירוע לסגירתו. מדד נוסף שכדאי לבקש מהפלטפורמה: כמה ניסיונות הזרקת הוראות זוהו ונחסמו. פלטפורמה שלא מדווחת על ניסיונות כאלה לא בהכרח מסמנת שאין כאלה. לרוב המשמעות היא שאין ניטור.
הטעות הנפוצה: לטפל באבטחה כרשימת תיוג חד-פעמית
הבעיה שחוזרת על עצמה אינה ספק זדוני ואינה פריצה מתוחכמת. היא ספק שלא חתם על הסכם עיבוד נתונים לפני שמידע עבר אליו, לוגים שנשמרים עם PII כי ברירת המחדל היא שמירה, וסוכן AI שקיבל הרשאות גישה רחבות בשלב ההטמעה ואיש לא הצר אותן לאחר מכן.
הגישה הנכונה היא לראות את האבטחה כתהליך רציף: ביקורת רבעונית על הרשאות, עיון בדוחות ביקורת שמוציאה הפלטפורמה, ובדיקת חדירה תקופתית לפחות כל 18 חודשים, כפי שהחוק הישראלי דורש ממחזיקי מאגרים גדולים.
NextBot, למשל, מחברת ערוצים מרובים כולל וואטסאפ, אינסטגרם, מסנג'ר, מייל וצ'אט באתר לתיבה אחת, כשהסוכן נקס לומד ממאגר הידע הפנימי של העסק. כשפלטפורמה נוגעת בנתונים ממספר ערוצים בו-זמנית, חשוב לוודא שהגדרות ההרשאות מפרידות בין הערוצים ושכל פעולה רגישה מחכה לאישור. אפשר לראות את המבנה המלא של הפלטפורמה בדף התמחור שלה, החל מ-146 שקל לחודש, ולהחליט האם הארכיטקטורה עונה על הדרישות שלכם לפני שמידע לקוחות נוגע בה.
מקורות
- What Israel's Amendment 13 Means for Businesses in 2025 — BigID
- Israel's Amendment 13: What the new data protection law means for your business — Safetica
- AI Agent Security Evaluation: Compliance Guide — Fin AI
- OWASP Top 10 for LLM Applications 2025 — OWASP
- AI Customer Support KPIs: 2026 Metrics & Benchmarks — Helply
- AI Chatbot Security and Privacy 2026 — Authority Solutions
שאלות נפוצות
האם חוק הגנת הפרטיות הישראלי חל על עסקים קטנים שמשתמשים בסוכן AI?
תיקון 13 לחוק חל על כל ארגון שמעבד מידע אישי של לקוחות, ללא קשר לגודלו. חובת הגילוי על שימוש ב-AI, ההסכמה המדעת ותיעוד פעולות עיבוד הנתונים חלות גם על עסקים קטנים. הדרישות הכבדות יותר, כמו מינוי ממונה על הגנת פרטיות ובדיקות חדירה כל 18 חודשים, מופנות בעיקר לארגונים שמחזיקים מאגרים גדולים ורגישים.
מה ההבדל בין SOC 2 Type I ל-Type II ולמה זה משנה לשירות לקוחות אוטומטי?
SOC 2 Type I הוא בדיקה נקודתית ביום אחד. Type II הוא ביקורת מתמשכת לאורך 6-12 חודשים שמאמתת שבקרות האבטחה אכן פועלות לאורך זמן. לשירות לקוחות שמחזיק מידע לקוחות ברציפות, Type II מספק ביטחון הרבה יותר רב. עם זאת, לפי fin.ai, SOC 2 לבדו לא מכסה סיכונים ייחודיים ל-AI כמו הזרקת הוראות, ולכן כדאי לברר גם על ISO 42001.
האם הלקוחות חייבים לדעת שהם מדברים עם AI ולא עם נציג אנושי?
לפי תיקון 13 לחוק הגנת הפרטיות הישראלי, שנכנס לתוקף באוגוסט 2025, חובה לגלות שימוש ב-AI בתחילת האינטראקציה עם הלקוח. מדובר בדרישה מפורשת בחוק ולא בהמלצה בלבד. מבחינה מעשית, לקוחות שיודעים שהם מדברים עם סוכן AI ומבינים שיכולים לבקש נציג אנושי, נוטים להרגיש בטוחים יותר ולייצר פחות הסלמות מיותרות.
מהו שיעור הזיות מקובל בסוכן AI לשירות לקוחות?
לפי ניתוח של helply.com, שיעור הזיות אמור לעמוד על פחות מ-2% כסטנדרט מינימלי. פלטפורמות ברמה גבוהה מגיעות לפחות מ-1%. חשוב לדרוש מהספק הגדרה מדויקת של כיצד הוא מודד 'הזיה', כי הגדרות שונות מייצרות מספרים שונים מאוד ולא ניתנות להשוואה ישירה.
מה קורה לנתוני השיחות שסוכן ה-AI מנהל?
זה תלוי לחלוטין בפלטפורמה ובהגדרות שלה. יש לברר: האם שיחות נשמרות ולכמה זמן? האם מידע מזהה (שם, טלפון, כתובת) נמחק מהלוגים? האם נתונים עוברים לספק LLM חיצוני ואם כן, מה מדיניות שמירתם? פלטפורמה שאין לה מדיניות zero retention אצל ספק המודל, ושלא מבצעת redaction ל-PII בלוגים, חושפת אתכם לסיכון גם אם הממשק עצמו נראה מאובטח.