שאלות נפוצות על אבטחת בינה מלאכותית | ישראל פיגא פתרונות סייברהגנת סייבר על מערכות AI — מה שארגונים שואלים בפועל

בדיקת חדירה קלאסית מחפשת פרצה בקוד, בתשתית ובהרשאות. במערכת בינה מלאכותית הפרצה יושבת גם בשכבה שאין לה קוד: מה המודל מוכן לעשות כשמבקשים ממנו נכון. בדיקה של מערכת AI חייבת לכלול את שתי השכבות, אחרת היא מפספסת בדיוק את החלק החדש.

כן, ובדרך כלל יותר ממה שנדמה. השאלה היא לא כמה גדול הבוט אלא למה הוא מחובר: למאגר לקוחות, למערכת הזמנות, למייל היוצא. בוט שמחובר למערכת אחת בלבד הוא בדיקה של ימים ספורים.

אבטחת AI אינה באחריות הספק בלבד. הספק מאבטח את המודל שלו; הוא לא מאבטח את הפרומפט שכתבתם, את ההרשאות שנתתם לסוכן, את מאגר הידע שחיברתם ואת מה שהמערכת שלכם עושה עם התשובה. שם נמצאים רוב הכשלים שאנחנו מוצאים.

בדיקה ממוקדת של מערכת אחת — בין שלושה לחמישה ימי עבודה, כולל דוח. מערכת עם כמה סוכנים, מאגר ידע והרשאות כתיבה — שבועיים עד שלושה שבועות. התיחום נקבע בשיחת האפיון, והמחיר נגזר ממנו ולא משתנה באמצע.

התרחישים מסווגים מראש לפי פוטנציאל ההשפעה, ומה שיכול לפגוע בזמינות מורץ רק בסביבה ובחלון זמן שאתם מאשרים. פעולות שאין מהן חזרה לא מבוצעות אלא באישור מפורש בכתב.

מידע שנחשף בבדיקה מתועד רק במידה הדרושה להוכחת הממצא, נשמר מוצפן, ונמחק בתום תקופה שנקבעת בהסכם. הסכם סודיות נחתם לפני תחילת העבודה.

זה בדיוק הזמן. שני הממצאים היקרים ביותר לתיקון — מערכת שמתייחסת לפלט המודל כאל פקודה, וסוכן עם הרשאות רחבות מדי — הם החלטות ארכיטקטורה. אחרי שהמערכת באוויר, שינוי שלהן עולה פי כמה.

כן. למודל שרץ על התשתית שלכם יש משטח תקיפה שונה — גישה למשקולות, טעינת מודלים ממקורות חיצוניים ושרת הסקה פנימי — והוא נכלל בבדיקה.

פירוט הניסיון, ההסמכות והפרויקטים נמסר בשיחת האפיון ובהצעה, יחד עם ממליצים רלוונטיים לתחום שלכם.