איומי סייבר על שרשרת האספקה של תוכנות בינה מלאכותית

פושעי סייבר מנצלים את התפוצה הגוברת של טכנולוגיות AI

עם העלייה המטאורית בשימוש בבינה מלאכותית (AI) בתעשיות ויישומים שונים, הגנה על שרשרת האספקה של תוכנות AI מפני התקפות סייבר הפכה לקריטית יותר מתמיד. מחקר חדש חשף קבוצת כופרה חדשה בשם NullBulge המתמקדת בהרעלת קוד במאגרים פתוחים כמו Hugging Face ו־GitHub . קבוצה זו, הטוענת להיות ארגון אקטיביסטי עם מוטיבציה אנטי AI מכוונת במיוחד למשאבים אלו כדי להרעיל מאגרי מידע המשמשים לאימון מודלים של בינה מלאכותית.

מגוון רחב של פתרונות AI חשופים לסיכון

כל שרשרת האספקה של AI במוקד התקפות הסייבר

בין אם אתם משתמשים בפתרונות AI מובילים, משלבים אותם במערכות הקיימות שלכם באמצעות ממשקי APIs או אפילו מפתחים מודלים משלכם מתוך מודלי בסיס בקוד פתוח, כל שרשרת האספקה של תוכנות AI נמצאת כעת במוקד ההתקפות של פושעי הסייבר.

הרעלת מאגרי מידע בקוד פתוח

נקודת תורפה מרכזית בשרשרת האספקה של  AI

רכיבי קוד פתוח ממלאים תפקיד קריטי בשרשרת האספקה של AI. רק לחברות הגדולות ביותר יש גישה לכמויות העצומות של מידע הנדרשות לאימון מודל מאפס, ולכן רוב החברות נאלצות להסתמך רבות על מאגרי מידע בקוד פתוח כמו LAION 5B או Common Corpus. הגודל העצום של מאגרי מידע אלה הופך את השמירה על איכות המידע וציות לחוקי זכויות יוצרים ופרטיות למשימה מאתגרת במיוחד.

הרעלת נתונים וקוד במאגרים פתוחים

כיצד פועלות שיטות ההרעלה ומהן ההשלכות שלהן

הרעלת נתונים וקוד במאגרים פתוחים היא טקטיקה מתוחכמת שמשתמשים בה פושעי סייבר כדי לפגוע במערכות AI. להלן הסבר מפורט יותר על התהליך וההשלכות:

1. הרעלת נתונים: תוקפים מכניסים מידע שגוי או מטעה למאגרי מידע המשמשים לאימון מודלי AI במטרה לגרום למודל AI ללמוד וליצור תוצאות לא מדויקות או מוטות. לדוגמה הוספת תמונות מסווגות באופן שגוי למאגר תמונות, מה שעלול לגרום למודל זיהוי תמונות לטעות בזיהוי אובייקטים.
2. הרעלת קוד: תוקפים משנים או מוסיפים קוד זדוני לספריות או כלים בקוד פתוח המשמשים בפיתוח AI במטרה ליצור פרצות אבטחה או להכניס פונקציונליות זדונית למערכות AI. לדוגמה הוספת קוד שאוסף מידע רגיש או מאפשר גישה לא מורשית למערכת.
3. השלכות:
   • ביצועים לקויים: מודלי AI שאומנו על נתונים מורעלים עלולים לקבל החלטות שגויות או להפיק תוצאות לא אמינות.
   • פרצות אבטחה: קוד מורעל עלול ליצור נקודות כניסה למערכות ולאפשר לתוקפים לגשת למידע רגיש או לשבש פעולות.
   • אובדן אמון: כשמתגלה שמודל AI הושפע מהרעלת נתונים או קוד, זה יכול לפגוע קשות באמון המשתמשים והלקוחות.
4. אתגרים בזיהוי:
   • קושי באיתור: בגלל הגודל העצום של מאגרי הנתונים והקוד, קשה מאוד לזהות הרעלה לפני שהיא משפיעה על המערכת.
   • השפעה ארוכת טווח: הרעלה שאינה מתגלה יכולה להשפיע על מערכות AI לאורך זמן, כשהנזק מצטבר ומתפשט.
5. הגנה:
   • בדיקות קפדניות: יש לבצע בדיקות מקיפות של נתונים וקוד לפני שילובם במערכות AI.
   • מקורות מהימנים: שימוש במקורות מידע וקוד מאומתים ומהימנים.
   • ניטור מתמשך: מעקב שוטף אחר ביצועי המודלים לזיהוי אנומליות שעלולות להצביע על הרעלה.

הבנת הסיכונים והשלכות של הרעלת נתונים וקוד היא קריטית עבור ארגונים המפתחים או משתמשים במערכות AI. זה מדגיש את החשיבות של אבטחה חזקה ופרקטיקות בדיקה קפדניות לאורך כל שרשרת האספקה של AI.

וקטורי תקיפה נוספים בעלייה

מעבר להרעלת מידע – שיטות תקיפה מתוחכמות

מלבד הרעלת מאגרי מידע, פושעי סייבר מפתחים שיטות תקיפה נוספות. אחת מהן היא "Flood Attack", בה התוקפים שולחים כמויות עצומות של מידע לא זדוני דרך מערכת AI בניסיון להסוות קוד זדוני. נוסף לכך, אנו עדים לעלייה בהתקפות על APIs, בייחוד אלה שחסרים הליכי אימות חזקים.

הגנה על פרויקטי ה־AI שלכם

אסטרטגיות להתמודדות עם איומי הסייבר החדשים

למרות האיומים, אין סיבה להימנע משימוש ב־AI. אבל יש לשלב אבטחה כחלק בלתי נפרד מכל שלב בפיתוח, הטמעה, שימוש ותחזוקה של טכנולוגיות מבוססות AI. חברות זקוקות ליכולת מעקב מלאה אחר כל הרכיבים המשמשים בפיתוח AI, וכן ליכולת הסבר ואימות מלאה לכל פלט שנוצר על ידי AI.

תובנות מומחי סייבר בכירים של IPV Security בעניין טכנולוגיות AI:

1. אימות וניהול של שרשרת האספקה: כל רכיב שמגיע ממקור חיצוני, בין אם הוא קוד פתוח או תוסף למערכת קיימת, צריך לעבור תהליך אימות קפדני. יש לוודא שכל ספרייה, מאגר נתונים או קוד מגיע ממקור מהימן ולבצע בדיקות בטיחות על רכיבים אלו לפני שילובם בפרויקט.
2. בדיקות קוד מקיפות: יש לבצע סריקות ובדיקות אבטחה אוטומטיות על קוד פתוח המשולב במערכות AI, וכן לקוד הנכתב בתוך הארגון. כל קוד צריך לעבור תהליך סקריפט אוטומטי לסריקת נוזקות וקוד זדוני אפשרי.
3. חיזוק אבטחת ה־APIs :API הם נקודת תורפה מרכזית במערכות מבוססות AI ולכן יש להבטיח שכל ממשק תכנות מאובטח בתהליכי אימות חזקים, כולל שימוש באימות רב־שלבי (MFA) והצפנת תעבורה.
4. ניטור שוטף של תהליכים ומודלים: יש להפעיל מערכות ניטור כדי לזהות אנומליות או פעילות חשודה במהלך אימון ושימוש במודלי AI. כל שינוי בביצועים של מודל, בייחוד כתוצאה מנתונים מזויפים או קוד מורעל, צריך להיות מסומן לבדיקה.
5. חינוך והכשרת הצוות: מעבר לאמצעים טכנולוגיים, חשוב להדריך את הצוותים על סיכוני אבטחה ייחודיים ל־AI ולשרשרת האספקה, ולהעלות את המודעות לגבי התקפות אפשריות כמו הרעלת נתונים וקוד.

לסיכום, תפקידם של פתרונות אבטחה מבוססי  AI

שילוב טכנולוגיה וגורם אנושי בהגנה מפני איומים

פתרונות אבטחה מבוססי AI ממלאים תפקיד קריטי בהתמודדות עם האיומים. הם אינם מחליפים אנליסטי אבטחה מוכשרים, אלא מעצימים את יכולותיהם ומאפשרים להם לפעול בקנה מידה שהיה בלתי אפשרי להשיג בעבר. שילוב של טכנולוגיה מתקדמת עם מומחיות אנושית הוא המפתח להתמודדות עם נוף האיומים המתפתח בעידן ה־AI.

למידע נוסף: How cyber criminals are compromising AI software supply chains (securityintelligence.com)

להתייעצות מקצועית ניתן לפנות אלינו לאימייל info@ipvsecurity.com או במספר הטלפון 077-4447130. IPV Security מתמחה זה 19 שנה באבטחת מידע, סייבר, סקרי סיכונים ותקנים ורגולציות הנוגעים לביטחון מידע ועוד.