מאמר
מערכות מידע בעולם של בינה מלאכותית
AI לא מבטל אבטחת מידע — הוא מרחיב את משטח התקיפה. מה משתנה בארכיטקטורה, בנתונים ובאמון.
כשמכניסים מודל או סוכן לתוך מערכת מידע, נוצרות שלוש שאלות ישנות באריזה חדשה: מי רואה מה, מה יוצא החוצה, ומי אחראי על ההחלטה.
מה השתנה
- נתונים זזים למודל — פרומפטים, הקשר CRM, תמלולי שיחה
- פלט לא דטרמיניסטי — קשה יותר לאכוף מדיניות רק ב«קוד עסקי»
- שרשרת ספקים — API של צד ג׳, embeddings, לוגי ספק
האיום אינו רק פריצה קלאסית. זה גם דליפה דרך שיחה, הרעלת הקשר, או סוכן שקיבל הרשאות רחבות מדי.
עקרונות ארכיטקטורה
- מינימום הקשר — לשלוח למודל רק מה שנדרש לתרחיש
- גבולות ברורים — המודל מציע; מערכת הליבה מבצעת עם הרשאות
- סיווג נתונים — מה אסור בכלל לצאת לספק חיצוני
- לוגים ומדידה — בלי PII מיותר, עם אפשרות לחקירה
- בידוד סביבות — אימון / ניסוי / ייצור לא על אותם סודות
אמון מול נוחות
«תנו לסוכן גישה לכל ה־Salesforce» זה נוח — וזה גם דרך קצרה לתקרית. חיבור נכון הוא צר, מבוקר, וניתן לביטול.
שורה תחתונה
AI הוא שכבה חדשה במערכת המידע, לא תחליף ל־IAM, הצפנה ומדיניות. מי שמתכנן את האמון לפני הדמו — יישן טוב יותר אחרי הפרודקשן.