מסימיליאנו D'Elia
Il פסגה ביקש בשבוע שעבר על ידי ראש ממשלת אנגליה סונאק בבריטניה על AI (בינה מלאכותית) השתתפו חברות ההיי-טק הגדולות בעולם ורוב המנהיגים בעולם. בתום הפסגה התחייבו החברות, באמצעות הצהרת כוונות, להכיר בתפקידן של ממשלות בפעילות האימות לפני שיווק חיצוני של כל מוצר AI. מטרת ההשתתפות ציבורי פרטי הוא לנתח בקפידה שימושים מסוכנים פוטנציאליים של AI בתחום הביטחון הלאומי או בחברה.
מה שבטוח הוא שהדרך מהכוונה לתרגול עדיין ארוכה ומפותלת. למעשה סונאק כבר קפץ קדימה ואמר: "להפוך דברים למחייבים ולפרסם חוקים לוקח זמן, אנחנו צריכים לנוע מהר יותר מאשר עכשיו: חשוב שהתקנות יהיו מבוססות אמפירית, לפני שמפרטים רגולציה פורמלית".
לכן כל מדינה תצטרך לעשות שימוש במבנה האחראי לאימות מודלים חדשים של בינה מלאכותית. באנגליה יהיוהמכון לבטיחות בינה מלאכותית.
הסיכונים שמהם חוששים סונאק וגם מ אלון מאסק, הנוכחים בפסגה, מודאגים מהאפקט של Terminator שהטכנולוגיה החדשה והבלתי נחקרה הזו הייתה יכולה לראות שדגמים המצוידים באינטליגנציה-על יוכלו להתפתח בעצמם, לחוות רגשות ויכולים להיות מסוגלים לפעול באופן אוטונומי. החשש הוא שיום אחד, לא רחוק מדי, הם עלולים להוות סכנה ממשית לקיומה של האנושות.
מושק, בהקשר זה, היה לאפידי: "בינה מלאכותית מייצגת את אחד הסיכונים הגדולים ביותר לאנושות כי בפעם הראשונה אנו עומדים בפני משהו שיהיה הרבה יותר אינטליגנטי מאיתנו".
הפנטגון פרסם את אסטרטגיית הבינה המלאכותית שלו
על פי ספירה שפורסמה על ידי משרד אחריות הממשלה ארה"ב, בתחילת 2021 משרד ההגנה ינהל יותר מ-685 פרויקטים הקשורים לבינה מלאכותית. הצבא מוביל את הדרך עם לפחות 232 פרויקטים. לעומת זאת, חיל הנחתים מנהל לפחות 33.
משרד ההגנה האמריקני נאלץ לצאת ולאחרונה פרסם אסטרטגיה חדשה על שימוש בניתוח נתונים ובינה מלאכותית, ודוחף להשקעה נוספת ב-AI לפיתוח מודלים מתקדמים של הטכנולוגיות האוטונומיות, כולל רחפנים.
הפנטגון מתכוון לספק למפקדיו הצבאיים בשטח כלים חדשים המסוגלים לתמוך בהם בהחלטות. מסיבה זו, התעשייה מתבקשת לפתח דגמי AI חדשים.
יעדים נוספים המפורטים באסטרטגיה כוללים תשתית משופרת וגדולה יותר שׁוּתָפוּת עם קבוצות מחוץ למשרד ההגנה ורפורמה בבירוקרטיה הפנימית שלעתים קרובות מונעת מהטכנולוגיה להתקדם מהר יותר ממה שהמשרד היה רוצה.
עם מסמך זה, הפנטגון גם מקים את הישות הפנימית (CDAO) שאמורה לשלוט בו.
ה-CDAO הוקם בשנת 2021 ושילב את מרכז הבינה המלאכותית המשותפת, ה-Defense Digital Service, פלטפורמת הנתונים Advana ולקח על עצמו את תפקיד קצין הנתונים הראשי.
השימוש ב-AI גנרטיבי בצבא שנוי במחלוקת, כותב Defense News. היתרון העיקרי שלו הוא היכולת שלו לייעל משימות פשוטות או שגרתיות, כמו חיפוש קבצים, מציאת פרטי קשר ומענה על שאלות פשוטות. אבל הטכנולוגיה שימשה גם כדי לתדלק מתקפות סייבר, ניסיונות זיוף וקמפיינים של דיסאינפורמציה.
הפנטגון הבטיח שבני אדם יישארו אחראים לשימוש בכוח קטלני, וכפי שנאמר בסקירה האחרונה של הנשק הגרעיני שלו, הם יישארו בשליטה אנושית קפדנית.
הפיתוח והשימוש בכלי נשק חצי אוטונומיים או אוטונומיים לחלוטין מוסדר על ידי מה שנקרא דירקטיב 3000.09, שנחתם במקור לפני עשור ועודכן בינואר האחרון.
ההנחיה נועדה לצמצם את הסיכונים של אוטונומיה וכוח אש. זה לא חל על קיברנטיקה, תחום שבו מנהיגים דוגלים יותר ויותר בצורך ביכולות אוטונומיות.
כוח המשימה לימה, בפיקוח ה-CDAO, נוצר מוקדם יותר השנה כדי להעריך ולהנחות את היישום של AI גנרטיבי למטרות ביטחון לאומי.
הפנטגון ביקש 1,4 מיליארד דולר עבור AI ב-FY 2024, שמתחיל ב-1 באוקטובר, תוך שמירה על רמות המימון ללא שינוי מהשנה הקודמת.
הירשם לניוזלטר שלנו!