מאת: אבי שוורץ, Account Executive ב-Dell Technologies ישראל

בינה מלאכותית ואיומי סייבר

על התולעת שניזונה מבינה מלאכותית, סכנות נוספות ופתרון חזק אחד

נראה שכולם מדברים היום על בינה מלאכותית/ג'נרטיבית GenAI. הטכנולוגיה נכנסה בסערה לחיינו ופתחה צוהר ליישומים מדהימים שאנו רק מתחילים לגלות. היכולות לשילוב בינה מלאכותית במנועי החיפוש, בפיתוח קוד, אופטימיזציה של תהליכים, זיהוי תבניות... הן רק קצה הקרחון. אין ספק שהתחום ייגע בכל אחד מאיתנו ובכל תחומי החיים.

אבל המאמר הקצר הזה לא בא לספר על פיתוח חדש ומהפכני בעולם הבינה המלאכותית, אלא דווקא על איום ישן ומוכר היטב. איומי סייבר. כמו כל טכנולוגיה חדשה, גם ביישומי GenAI קיימים סיכוני סייבר משמעותיים. 

כמו שאמר פעם אדם חכם "תוקפים מול מגנים זה 'לא כוחות' " (ניר צוק). התוקפים תמיד יהיו צעד אחד קדימה מהמגינים ויחפשו את פירצת האבטחה הבאה – ולכן גם ימצאו אותה. 

עולם הבינה המלאכותית מספק לתוקפים כר חדש ופורה לפיתוח כלי תקיפה חדשים ומציאת 'חורי' אבטחה שטרם התגלו. התנועה המהירה והמוטיבציה לפיתוח פורץ דרך ומרים כותרות, מבטיחות פוטנציאל רגישות גבוה לפורצים. 

והנה מקרה בוחן, למזלנו אקדמי אך מציאותי לחלוטין: 

צוות בינלאומי, המורכב מחוקרי אבטחה מארה"ב וישראל (סתיו כהן מהטכניון, רון ביטון מחברת Intuit ובן נסי מאוניברסיטת Cornell Tech), יצרו תולעת מחשבים (Morris II) המסוגלת לשכפל עצמה באופן אוטומטי וממוקדת לתקוף יישומי בינה מלאכותית/ג'נרטיבית GenAI. 

באופן טבעי, בשימוש בטכנולוגיית GenAI, אזור התקיפה גדל עקב הקישוריות הגבוהה והמספר הרחב של היישומים העושים שימוש בטכנולוגיה. 

התולעת שפותחה עושה שימוש בכלי עצמו לצורך שכפול עצמי וניצול הקישוריות הרחבה הקיימת בתוך ה ecosystem של סביבת ה GenAI. הסיכון הגדול שבפיתוח Zero Click Malware מהווה סיכון סייבר משמעותי בכך שהיא מסוגלת להונות כלי AI כ ChatGPT או Gimini לבצע פעולות שאינן מורשות. 

במקרה זה, מוריס התולעת ממנפת נקודות תורפה ספציפיות, שכבר נמצאו בפריסה של יישומי GenAI, ומנצלת את הפעולות האוטומטיות הרבות המשמשות יישומי GenAI כדי להפיץ עצמה בין משתמשים או יישומים נוספים. התולעת תוכננה כך שהיא מסוגלת לעקוף הגנות סייבר מסורתיות ומשתמשת ביכולות היישום עצמו לבצע רפליקציה באופן עצמאי, ולבצע תקיפה רחבה בכל רחבי רשת הארגון.

התולעת פותחה בכדי להציג את הסיכונים הללו והיא מסוגלת כאמור לחדור לסביבת הלקוח ובעלת פוטנציאל לסכן כמעט כל רכיב ב DC (דוגמת מיילים, הפצת תוכנות זדוניות, גניבת נתונים או הצפנתם). 

למזלנו הרב היא לא נועדה לפגוע בנו, אלא לשמש כתמרור אזהרה: התולעת מייצגת התפתחות משמעותית ומדאיגה באבולוציה של כלי סייבר התקפיים בכל הקשור להתפתחות המואצת של יישומי GenAI שחודרים לחלקים נרחבים מחיינו.

אם הגעתם עד כאן, מגיעה לכם גם סוף טוב בסיפור המתח הזה. 

ומי מגיע לסוף טוב? כמו תמיד, מי שנערך במבט מפוקח ואצבע על הדופק, ועושה בחירות נכונות. 

כדי להתמודד עם איומי סייבר, אנו ב Dell Technologies מספקים פתרון אשר מאפשר לארגון לשמור על המידע שלו בכספת מאובטחת מנותקת מהעולם- Cyber Recovery. גם אם תוקף חדר לארגון, הצפין/גנב/מחק מידע, הארגון יכול להיות בטוח שהמידע הקריטי שלו שמור בכספת אליה לא ניתן לחדור ושם תמיד יישמר המידע מוגן. הפתרון לא יימנע חדירה, אבל יוכל לאפשר לארגון לדעת שגם אם חדרו אליו- המידע הקריטי מוגן.

ככל שארגונים מיישמים יותר פתרונות AI עליהם להכיר באיומי הסייבר החדשים ולתכנן מראש כיצד הארגון יחזור לפעילות במהירות הגבוהה ביותר גם ביום שאחרי. אל תסתפקו בפתרון שהוא Good Enough או רק בהקשחות של הסביבה הקיימת. פתרון Cyber Recovery היחיד שמיישם Air Gap אמיתי ועוד שורה ארוכה של שכבות הגנה, ויציל את הארגון מאסון.