רשת של יותר מ-400 אפליקציות ואתרי אינטרנט, שהציגו עצמם כשירותי בינה מלאכותית תמימים, הסתירה כלים ליצירת תמונות וסרטונים מיניים מזויפים באמצעות תמונות של אנשים אמיתיים. כך עולה מתחקיר שפרסם אתמול (ב') המגזין WIRED , שחשף כיצד המפעילים הפיצו את השירותים באמצעות חנויות האפליקציות הרשמיות ורשתות הפרסום של ענקיות הטכנולוגיה. האפליקציות הציעו לכאורה שירותים שגרתיים, ובהם יצירת דיוקנאות של חיות מחמד, לימוד שפות ותוכניות אימון אישיות. אלא שמאחורי הממשקים התמימים הסתתרו כלים שאפשרו ליצור תכנים מיניים מזויפים ללא הסכמת המצולמים, לרבות דימויים של אלימות מינית. כיצד הצליחו האפליקציות להסתיר את פעילותן? אחת האפליקציות שנחשפו בתחקיר היא Viefur , שהציעה להפוך תמונות של חיות מחמד לדיוקנאות שנוצרו באמצעות בינה מלאכותית. בפועל, לפי התחקיר, האפליקציה הייתה חלק מרשת רחבה שאפשרה למשתמשים מסוימים לגשת לממשק אחר לגמרי, שנועד ליצירת תכנים מיניים מזויפים. חוקרים שבדקו את האפליקציות גילו כי הן השתמשו במנגנון שאפשר להציג תוכן שונה למשתמשים שונים. בעת פתיחת האפליקציה נשלחו לשרת פרטים כגון שפת המשתמש, מקור ההגעה שלו ומזהה ייחודי, והשרת החזיר הוראות שקבעו אם להציג את השירות התמים או את הממשק הפוגעני. אחד הגורמים שעשויים היו להשפיע על התוכן שהוצג היה כניסה לאפליקציה דרך פרסומת ברשתות החברתיות. כך יכלו המפעילים להציג לחנויות האפליקציות שירות שנראה תקין, ובהמשך לחשוף בפני משתמשים אחרים את היכולות שהוסתרו במהלך הבדיקה. מאות דומיינים ויותר מ-350 אלף הורדות חוקרים מארגון AI Forensics ומחברת אבטחת המידע Infoblox זיהו קשרים טכנולוגיים בין מאות אתרים ואפליקציות. הבדיקות חשפו רכיבי קוד משותפים, רשימות של דומיינים, מפתחות הצפנה ומנגנוני מעקב פרסומיים ששימשו את הרשת. מאל לה טוז , חוקר איומים ב-Infoblox, זיהה כמעט 500 דומיינים מקושרים. לדבריו, האתרים השתמשו בקוד משותף והפנו זה לזה, באופן שהצביע על פעילות מתואמת ולא על אוסף מקרי של שירותים עצמאיים. לפי ממצאי החוקרים, האפליקציות החלו להופיע לקראת סוף 2025, והפעילות התרחבה במהלך 2026. בשלב מסוים נרשמו כ-30 אתרים ואפליקציות חדשים מדי שבוע, ובספטמבר האחרון עדיין היו 27 אפליקציות מהרשת זמינות בחנות האפליקציות של גוגל. האפליקציות הללו צברו יחד יותר מ-350 אלף הורדות. אחת מהן, DiffAI , הורדה יותר מ-100 אלף פעמים, אף שבתגובות המשתמשים כבר הופיעו אזהרות מפני האפשרות ליצור באמצעותה תכנים מיניים פוגעניים, לרבות תכנים המתארים פגיעה מינית בילדים. פרסומות פוגעניות בפייסבוק ובאינסטגרם הפעילות לא הוגבלה לחנויות האפליקציות. לפי התחקיר, מפעילי הרשת הפיצו עשרות אלפי פרסומות ברשתות החברתיות פייסבוק ו אינסטגרם , שבבעלות מטא , ובהן פרסומות שקידמו יצירת דיפ-פייק מיני. חלק מהפרסומות שנבדקו כללו תכנים של פגיעה מינית בילדים שנוצרו באמצעות בינה מלאכותית, ואף תמונות של קטינים אמיתיים. פרסומות אחרות השתמשו בשמות מזויפים של מפרסמים ובעמודים כמעט ללא עוקבים, באופן שהקשה לזהות את הקשרים בין השירותים השונים. התופעה מצטרפת לשימושים פוגעניים נוספים בטכנולוגיית הדיפ-פייק. מוקדם יותר השנה פתח האיחוד האירופי בחקירה בעקבות יצירת דיפ-פייקים מיניים באמצעות גרוק , לאחר שמשתמשים ניצלו את יכולות עריכת התמונות של הצ'אטבוט ליצירת תכנים אינטימיים ללא הסכמה. אפל הסירה 19 אפליקציות, מטא חסמה אלפי חשבונות אפל הסירה 19 אפליקציות מחנות App Store, ובהן Viefur, לאחר ש-WIRED העביר לה מידע על הפעילות. החברה מסרה כי האפליקציות עמדו בכללים כאשר נבדקו לראשונה, אך לאחר אישורן שינו המפתחים את התוכן שהן הציגו באמצעות אתרי אינטרנט חיצוניים. אפל הדגישה כי היא אוסרת על אפליקציות המיועדות ליצירת תמונות עירום מזויפות ועל שירותים פורנוגרפיים. לדבריה, בשנה האחרונה היא השעתה עשרות אלפי אפליקציות שהשתמשו בשיטות של הצגת תוכן לגיטימי בזמן הבדיקה והחלפתו בתוכן אסור לאחר מכן. גוגל הסירה את מרבית האפליקציות שזוהו ברשת עוד לפני פניית WIRED, אך לא השיבה לבקשת התגובה של המגזין. לפי התחקיר, חלק מהשירותים המשיכו להיות זמינים בפלטפורמות גם כאשר החקירה התקרבה לסיומה. מטא מסרה כי נקטה צעדים נגד 11,600 חשבונות פרסום, יותר מ-4,700 עמודים עסקיים, 5,200 משתמשים וכ-15 אלף עמודים שנקשרו לדומיינים שנחשפו. בנוסף, החברה חסמה 209 אפליקציות מפרסום בפלטפורמות שלה. קשר אפשרי לחברה הרשומה בהונג קונג התחקיר הצביע על קשרים בין הרשת לבין מפתחים דוברי סינית וחברה הרשומה בהונג קונג בשם KeLing Technology Limited . החוקרים מצאו כי שמה וכתובות דוא"ל הקשורות אליה הופיעו בפרטי קשר של אתרים ובממשקי ניהול שנקשרו לפעילות. לפי WIRED, לאחר שהמגזין פנה לגורמים המעורבים, חלק מפרטי הקשר שהצביעו על החברה הוסרו מאתרים ומחשבונות ברשתות החברתיות. החברה והגורמים שאליהם פנה המגזין לא השיבו לבקשות התגובה, והקשרים שנמצאו אינם מהווים כשלעצמם קביעה משפטית בדבר אחריותה. מטא מסרה כי כבר ב-2025 אסרה על KeLing Technology Limited לפרסם בשירותיה, לאחר שלטענתה החברה לא נענתה למכתב התראה. למרות זאת, לפי התחקיר, הפעילות הקשורה לרשת נמשכה באמצעות חשבונות ודרכי פרסום אחרות. הממצאים ממחישים את הקושי של חנויות האפליקציות ורשתות הפרסום לזהות שירותים שמשנים את התנהגותם לאחר שאושרו. הם מצטרפים ל דיווחים קודמים על שימוש בדיפ-פייק בקמפיינים של הונאה , ומעלים שאלות באשר ליכולתן של ענקיות הטכנולוגיה למנוע הפצה של תכנים פוגעניים דרך השירותים שלהן. הפוסט מאות אפליקציות AI תמימות הסתירו כלים ליצירת דיפ-פייק מיני הופיע ראשון ב אנשים ומחשבים - פורטל חדשות היי-טק, מיחשוב, טלקום, טכנולוגיות
מאות אפליקציות AI תמימות הסתירו כלים ליצירת דיפ-פייק מיני
