צוות חוקרי אבט"מ מפרסמים כיצד הצליחו להשתלט על החשבון שמנהל את המודל Kokoro להמרת טקסט לדיבור. מדובר במודל פופולרי (כ-13 מיליון הורדות בחודש) המשולב בפרויקטים של Google, NVIDIA, Intel, AMD ו-AWS.
החוקרים זיהו שהדומיין של מפתח המודל פג תוקף, רכשו אותו והשתמשו בו כדי לאפס את סיסמת החשבון ב-Hugging Face.
לאחר שהשיגו גישה הם, בדקו בסביבה מנותקת שיש להם הרשאות לשנות את המשקולות של המודל ולגרום לו לספק תשובות שונות ממה שצריך.
המשמעות היא שתוקף שמשתלט על חשבון של מפתח של מודל AI יכול להפיץ עדכון שמשנה את התנהגות המודל אצל משתמשים וארגונים מבלי שמערכות אבטחה רגילות יזהו את השינוי.
החוקרים כמובן לא העלו את המודל ששונה לפלטפורמה, ועבדו בצורה מסודרת כדי לדווח ל-Hugging face וכו'.
