עבודה ותפעול · סוכן ייעודי
Deloitte החזירה חלק מ-440 אלף דולר אוסטרלי על דוח שנכתב בעזרת AI ונמצאו בו מקורות מומצאים
Deloitte באוסטרליה הגישה למשרד ממשלתי דוח של 237 עמודים, שנכתב בעזרת Azure OpenAI. חוקר מצא בו ציטוט מומצא של שופט והפניות למחקרים שלא קיימים, והחברה הסכימה להחזיר את התשלום האחרון בחוזה.
מה יצא
לפי המשרד, Deloitte אישרה שחלק מההערות וההפניות לא היו נכונות, והסכימה להחזיר את התשלום האחרון מתוך חוזה של 440 אלף דולר אוסטרלי. לפי המשרד, המסקנות וההמלצות לא השתנו. Deloitte לא אמרה אם ה-AI גרם לטעויות.
מה קרה
הדוח בדק מערכות מחשב של משרד העבודה האוסטרלי, והתפרסם באתר המשרד ביולי 2025. כריס ראדג', חוקר באוניברסיטת סידני, מצא בו עד 20 טעויות. בין השאר: ציטוט מומצא שיוחס לשופט פדרלי, והפניה לספר שלא קיים בשם פרופסורית למשפטים. לדבריו, הוא ידע מיד שזה "hallucinated by AI". אחרי שפנה לתקשורת, פורסמה גרסה מתוקנת, ובה צוין לראשונה שבכתיבה נעשה שימוש ב-Azure OpenAI. הציטוטים וההפניות המומצאים הוסרו.
מה לקחת מזה
מודל שפה יכול להמציא ציטוטים ומקורות שנראים אמינים לגמרי. כל מקור במסמך שיוצא החוצה צריך לבדוק ידנית, ולציין בגלוי שנעשה שימוש ב-AI.
הפרומפט, מוכן להעתקה
וואטסאפ (נפתח בחלון חדש)עבור על המסמך [שם המסמך] והוצא רשימה של כל ציטוט, הפניה ומקור. לכל אחד: כתוב מאיפה הוא נלקח לפי המסמך, וסמן אם אתה לא יכול לאמת שהוא קיים. אל תשלים ואל תתקן מקורות בעצמך. אני בודק כל אחד ידנית.
מה שבסוגריים מרובעים מחליפים בפרטים שלכם.