מה מותר להעלות ל-AI, ומה בשום אופן לא
השאלה שעוצרת יותר פרויקטים מכל שאלה אחרת. כללי אצבע מעשיים למידע רגיש, בלי להפוך את זה לפרויקט משפטי של חצי שנה.
מאת דניאל נחמיהובני פרבר · · עודכן
בכל ארגון שנכנסנו אליו זו השאלה שעוצרת הכי הרבה יוזמות. לרוב היא נשארת פתוחה חודשים, ובינתיים העובדים ממשיכים להשתמש, בחשבונות פרטיים, בלי בקרה. חוסר החלטה הוא לא הימנעות מסיכון; הוא הסיכון.
הארגון שלא החליט עדיין מה מותר, כבר מעלה מידע רגיש. הוא פשוט לא יודע כמה.
ההבחנה הראשונה: איזה סוג חשבון
לפני כל דיון על סוגי מידע, יש הבחנה שקובעת הכול. בחשבונות עסקיים וארגוניים של הספקים המובילים יש התחייבות חוזית שהתוכן שלכם לא משמש לאימון המודלים. בחשבונות פרטיים, התנאים שונים ולעיתים ניתנים לשינוי בהגדרות שאיש לא בדק.
- חשבון ארגוני עם הסכם מתאים, נקודת המוצא לכל שימוש עסקי.
- חשבון פרטי, מתאים ללמידה ולתוכן ציבורי בלבד.
- תמיד לבדוק את התנאים העדכניים מול הספק ולא לפי מאמר. הם משתנים.
שלוש קטגוריות: לא עשרים
מדיניות שאף אחד לא זוכר היא מדיניות שלא קיימת. אנחנו ממליצים על שלוש קטגוריות שאפשר לזכור בעל פה.
ירוק: חופשי
מידע שכבר פומבי או שאין בעיה שיהיה: חומרי שיווק, תוכן מהאתר, ידע מקצועי כללי, טיוטות שאין בהן שמות או נתונים. זה מכסה חלק גדול מהשימוש היומיומי.
צהוב: אחרי הסרת מזהים
מסמכים פנימיים, נתוני ביצועים, תכתובות, אחרי החלפת שמות, מספרי זהות ופרטי התקשרות במחליפים. הרעיון שהמודל צריך לעבוד עליו הוא לרוב המבנה, לא הזהות.
אדום: לא, ולא בחשבון ארגוני
- מידע רפואי מזוהה.
- נתוני אשראי ותשלומים.
- מידע שכפוף לחיסיון מקצועי, עורך דין–לקוח, פסיכולוג–מטופל.
- סודות מסחריים ליבתיים, קוד מקור קנייני קריטי, מידע לפני פרסום מהותי.
- מידע ביטחוני מסווג.
איך מיישמים בלי לחנוק
- 1לספק חשבון ארגוני מוסדר לפני שאוסרים משהו. איסור בלי חלופה מייצר שימוש מחתרתי.
- 2לפרסם את שלוש הקטגוריות בעמוד אחד. לא מסמך של 30 עמודים.
- 3להגדיר איש קשר לשאלות גבול, כדי שיהיה למי לפנות ברגע ההתלבטות.
- 4לבדוק אחרי חודש מה קורה בפועל, ולעדכן. הרשימה הראשונה תמיד שגויה במשהו.
מודל סיווג פשוט שאנשים באמת זוכרים
מדיניות של 40 עמודים אינה עוזרת לעובד מול חלון צ׳אט. צריך ארבע רמות ברורות ודוגמאות מהארגון. הסיווג אינו רק לפי סוג המידע אלא גם לפי הכלי, החשבון, החיבור והפעולה. אותו מסמך יכול להיות מותר לסיכום בחשבון עסקי ומוגן, ואסור להעלאה לכלי צרכני לא מאושר.
| רמה | דוגמאות | כלל עבודה |
|---|---|---|
| ציבורי | אתר, קטלוג, פרסום | מותר בכלי מאושר, עדיין בודקים זכויות ודיוק |
| פנימי | נהלים, סיכומים, חומרי הדרכה | רק בחשבון ארגוני ובמקורות מורשים |
| סודי | חוזים, תחזיות, קוד, מידע עסקי | צמצום נתונים, הרשאות, לוגים ואישור תהליך |
| רגיש/מפוקח | בריאות, פיננסים, זיהוי אישי, סודות | לא מעבירים ללא בסיס משפטי, אבטחה ובעלים מוסמך |
בדיקת ספק וכלי לפני חיבור
- האם הנתונים משמשים לאימון, באילו תוכניות ומהי ברירת המחדל?
- איפה הנתונים נשמרים, לכמה זמן ואיך מוחקים או מייצאים אותם?
- אילו תקני אבטחה, הסכמים ובקרות מנהל קיימים?
- האם Apps, Connectors או Plugins מעבירים מידע לצד שלישי נוסף?
- איך מנהלים זהויות, MFA, RBAC, scopes וביטול גישה?
- אילו לוגים זמינים ומי מקבל התראה על פעולה חריגה?
Prompt injection: כשהמידע מנסה להפוך להוראה
סוכן שקורא מייל, אתר או מסמך יכול לפגוש טקסט שמנסה לגרום לו להתעלם מהמשימה, לחשוף מידע או להפעיל כלי. לכן מפרידים בין הוראות אמינות לתוכן חיצוני, מגבילים כלים והרשאות ודורשים אישור לפני פעולה רגישה. פילטר טקסט לבדו אינו מספיק; צריך להקטין את הנזק האפשרי גם אם ההתקפה הצליחה.
נוהל אירוע AI קצר
- 1עוצרים את הסוכן או החיבור ומבטלים credential שנחשף.
- 2שומרים לוגים, שיחה, קבצים ופעולות בלי להפיץ את המידע הלאה.
- 3ממפים איזה מידע נחשף, למי, באיזה חשבון ומה נשמר.
- 4מערבים אבטחה, פרטיות, משפטי ובעל התהליך לפי חומרת האירוע.
- 5מתקנים את ההרשאה או ה-workflow ומוסיפים מקרה לערכת הבדיקות.
- 6מחזירים פעילות בהדרגה ורק אחרי שאפשר לזהות הישנות.
כשעובדים עם Skills, Plugins ו-MCP, השתמשו גם בצ׳קליסט האבטחה במדריך החיבורים. לתכנון הרשאות סוכן ראו את המדריך לסוכני AI בארגון.
שאלות נפוצות על מידע רגיש ו-AI
האם חשבון עסקי הופך כל שימוש לבטוח?+
לא. הוא יכול להציע התחייבויות ובקרות טובות יותר, אך עדיין צריך סיווג מידע, הרשאות, בדיקת Apps וחיבורים, לוגים והדרכת עובדים.
האם אפשר לאנונימיזציה לפתור את הבעיה?+
לפעמים, אם מסירים מזהים ישירים ועקיפים ולא ניתן לשחזר את האדם או הלקוח. במידע עשיר, שילוב פרטים יכול לזהות גם בלי שם.
מי צריך לאשר Connector חדש?+
בעל המערכת, אבטחת מידע או IT ובעל התהליך. בחיבור בעל מידע אישי או מפוקח נדרשת גם בדיקת פרטיות ומשפטית לפי הארגון.
