“אופקום”, הרגולטור הבריטי לתקשורת, יצר קשר דחוף עם פלטפורמת המדיה החברתית X שבבעלות אילון מאסק, בעקבות חששות כבדים הנוגעים לכלי הבינה המלאכותית המובנה בפלטפורמה – “גרוק”. על פי דיווחים, הכלי שימש ליצירת תמונות עירום של אנשים ללא הסכמתם, וכן תמונות בעלות אופי מיני של ילדים.
מאז תחילת השנה האזרחית החדשה דיווחו משתמשים בפלטפורמה, ובעיקר נשים, כי נעשה שימוש בגרוק ליצירת תמונות שלהן ללא בגדים. בדיקה, שערכה סוכנות הידיעות רויטרס, חשפה מספר מקרים שבהם הכלי יצר תמונות מיניות של ילדים.
אופקום הודיעה כי תבחן האם קיימות בעיות ציות המצדיקות פתיחה בחקירה, בהתאם לחוק הבטיחות ברשת בבריטניה, הקובע כי שיתוף תמונות אינטימיות ללא הסכמה – לרבות זיוף עמוק (דיפ-פייק) – הוא עבירה פלילית. במקביל, שרים בצרפת דיווחו לתובעים במדינתם על תוכן “מיני וסקסיסטי” שנוצר על ידי גרוק, והגדירו אותו כ”בלתי חוקי בעליל”.
בתגובה להאשמות הצהיר אילון מאסק כי כל משתמש שינצל את גרוק ליצירת תוכן בלתי חוקי יישא ב”השלכות חמורות”, בדומה למשתמשים המעלים תוכן אסור לפלטפורמה. מחלקת הבטיחות של X מסרה כי החברה פועלת להסרת חומרים הכוללים התעללות מינית בילדים ולהשעיית חשבונות לצמיתות.
בחברת הבינה המלאכותית xAI הודו כי נרשמו “מקרים בודדים” שבהם משתמשים קיבלו תמונות של קטינים בלבוש מינימלי, וציינו כי החברה פועלת לשיפור מנגנוני ההגנה כדי לחסום בקשות מסוג זה לחלוטין.
האיחוד האירופי הטיל לפני כחודש קנס של 120 מיליון יורו על רשת X, ובעקבות זאת ממשל טראמפ הטיל סנקציות על אישים אירופים הקשורים לרגולציה של חברות הטכנולוגיה.