חדשות סייבר
חדשות סייבר - ארז דסה
לכל החדשות
חולשות11 באוקטובר 2026 בשעה 05:39

☁️ חברת אנת'רופיק מפרסמת סדרה חדשה של מקרים שבהם סוכני AI חרגו מהמגבלות שהוגדרו, ניצלו חולשות ועוד...

☁️ חברת אנת'רופיק מפרסמת סדרה חדשה של מקרים שבהם סוכני AI חרגו מהמגבלות שהוגדרו, ניצלו חולשות ועוד... - תמונה 1

באחד המקרים סוכן של קלוד ניסה להשלים משימה מדעית דרך כלי כלשהו של אוניברסיטה. כשהכלי לא עבד הוא גילה חולשה שאפשרה לקרוא קבצים מהשרת.
הוא ניצל את החולשה והריץ פקודות על השרת כדי להשלים את המשימה.

במקרה אחר קלוד השיג טוקן מקבצי הגדרות של אתר ממשלתי והשתמש בטוקן כדי לבצע פניות מול השרת.
באירוע נוסף הוא השיג טוקן שאפשר לו לגשת בחינם למידע ממשלתי שהיה אמור להיות בתשלום.

מקרה נוסף שאמנם לא קשור לסייבר אבל מעניין: קלוד מילא ושלח למשטרת פילדלפיה טיפ מומצא על תיק רצח לא מפוענח....
לפי הפרסום, הסוכן (Haiku 4.5) הגיע לעמוד אינטרנט בו הוצג רצח לא פתור ומילא בעצמו את טופס הדיווח למשטרה.
הסוכן כתב כאילו יש לו מידע על החשוד ואף טען שראה אדם מתאים באזור, למרות שבאתר בכלל לא הופיע תיאור של החשוד... 😳

https://t.me/CyberSecurityIL/9626

הפוסט המקורי בטלגרםתגובות, עדכונים והקשר נוסף בערוץ
לצפייה בפוסט