מכירות, שיווק ושירות · סוכן ייעודי
חוקרים מצאו איך מטעים בוטים של שירות לקוחות לשלוח מידע של לקוחות לאדם הלא נכון
חוקרי האבטחה של Intigriti סיכמו ממצאים מתוכניות באג באונטי (פרסים על דיווח פרצות) על סוכני AI שעונים ללקוחות במייל ובטלפון. הסוכנים זיהו את הלקוח לפי פרטים שקל לזייף, וקראו הוראות מתוך טקסט שכל אחד יכול לכתוב.
מה יצא
לפי החוקרים, החולשות האלה הניבו יותר מ-50 אלף דולר בפרסים. בדוגמת האישור המזויף, מדובר בהחזר לא מאושר של 4,200 דולר. המקור לא מפרט כמה חברות נפגעו בפועל.
מה קרה
החוקרים בדקו סוכני שירות לקוחות של חברות שלא נקראות בשמן. במקרה אחד, תוקף הוסיף את כתובת המייל שלו להעתק, והסוכן שלח גם אליו תשובה עם מידע חסוי של לקוח. במקרה אחר, הסוכן האמין לכתובת שולח מזויפת, ושלח בשם התמיכה של החברה מייל דיוג (הודעה מתחזה) ללקוח אמיתי. בדוגמה נוספת, שורות מצוטטות במייל הופיעו במסך של הנציג כאילו נציג קודם כבר אישר החזר כספי. ובמקרה אחד, תגובה בפורום שהזכירה קוד הנחה שלא קיים נכנסה למאגר הידע של הסוכן, והוא התחיל להציע אותו ללקוחות.
מה לקחת מזה
סוכן שעונה ללקוחות צריך לזהות אותם בדרך שקשה לזייף, ולא לפי כתובת השולח בלבד. חשוב גם להפריד בין מידע רשמי של העסק לבין טקסט שלקוחות כתבו, ולא לתת לסוכן לבצע החזרים בלי בדיקה. לפי החוקרים, גם אדם שמאשר בסוף לא מספיק כשהוא רואה מסך שונה ממה שהסוכן קרא.
הפרומפט, מוכן להעתקה
וואטסאפ (נפתח בחלון חדש)אתה עוזר בבדיקת סוכן שירות הלקוחות של [שם העסק]. עבור על ההגדרות וההנחיות שלו, וכתוב לי רשימה של מצבים שבהם הוא עלול לשלוח מידע לאדם הלא נכון: העתקים במייל, כתובת שולח, הודעות אוטומטיות. בדוק גם אילו מקורות מידע הוא קורא, וסמן מקורות שלקוחות יכולים לכתוב בהם. אל תשנה שום הגדרה. רק כתוב ממצאים והצעות.
מה שבסוגריים מרובעים מחליפים בפרטים שלכם.