בחודשים האחרונים, המקרה של טיילור סוויפט, הזמרת והיוצרת הידועה שהייתה מושא לכמה תמונות מזויפות שנוצרו באמצעות בינה מלאכותית ואשר הפכו מיד לוויראליות, עורר חשש נוסף לגבי הסכנות הקשורות לשימוש ב-AI מבוססי. כלים .
"בואו נשקול את המקרה של טיילור סוויפט, מדגישה מורגן רייט, יועצת האבטחה הראשית של SentinelOne, היא אישה עשירה מאוד, יש לרשותה צבא של עורכי דין ויש לה קשרים בכל העולם. אפילו היא התקשתה להגן על עצמה מפני התמונות המזויפות העמוקות המיניות שהסתובבו ברשתות החברתיות. למרות שהיא הצליחה לחסום אותם (לקחו עשרים וארבע שעות לעשות זאת), התמונות ממשיכות להסתובב באלפי אתרים אחרים והבעיה מתגברת עבור אלה עם פחות משאבים כספיים מטיילור סוויפט".
מה שקורה הוא שתוקף מחליט להשיג אודיו, וידאו ורפרודוקציות גרפיות של המטרה שזוהתה כדי לרדוף אחרי מטרה. תלוי מה המטרה, זה יכול להיות השילוב של כל פנים עם זה של אדם שני (בדרך כלל שזורים בפורנוגרפיה, מכיוון שהוא נוטה להסב את הנזק הרב ביותר למוניטין של הדמות), התמונה, הווידאו או השמעת האודיו שנוצרה. מופץ ברשתות החברתיות ומתואר בכותרות בסגנון רכילות כדי למשוך תשומת לב ולהתחיל את התופעה הויראלית.
"ישנם סוגים אחרים של זיופים עמוקים, ממשיך רייט מ-SentinelOne, כולל אלו בעלי אופי פוליטי, יחסי, פיצויים ושליליים (מניפולציה על ידי ממשלות כדי להשפיע על דעות) שכן היכולות ליצור רפרודוקציות מזיקות אלה הפכו קלות וזולות יותר."
מה הם הדברים הראשונים לעשות אם אתה חושש להיות קורבן לזיופים עמוקים?
"העצה היא להודיע מיד למשטרת הדואר ולהגיש דו"ח, מסכם רייט. יתרה מכך, בהתאם לסוג הפלטפורמה המעורבת, קיימות כמה הוראות המאפשרות לאדם המעוניין להגיש תלונה לספק השירות ולדווח על הנושא הקריטי. לאחר אירוע מזויף עמוק, לא מומלץ לשתף תמונות, סרטונים או קובצי אודיו באתרי מדיה חברתית. ככל האפשר, עלינו להסיר את מה שאנו יודעים שנמצא במחזור או לקחת חשבונות במצב לא מקוון עד שניתן יהיה לאמת את הסיכון".
לסיכום, אנו מציעים להעריך את האפשרות לשנות את כל הגדרות הפרטיות של הערוצים החברתיים על מנת להגביל את הגישה לתוכן המקוון שלנו. זה לא יהיה קל, אבל זה יכול לעזור להגביל את ההשפעה העתידית.
הירשם לניוזלטר שלנו!