(מאת דייוויד מניסקאלקו, עורך דין וראש אזור AIDR בסיציליה) "אם יש 'אלגוקרטיה' חייבת להיות גם 'אלגוריתמיקה'". למונסניור וינצ'נצו פאגליה, נשיא האקדמיה האפיפיורית לחיים, אין ספק: "הממד הטכנולוגי עומד לשירות האנושות, אחרת האפליה מכפילה". הוותיקן, אם כן, תוהה גם לגבי סיכויי הבינה המלאכותית. בעוד שהנציבות האירופית הודיעה על הצגת "הספר הלבן" בנושא בינה מלאכותית ליום 19 בפברואר, הכנסייה הקתולית מתעקשת לקרוא לתחושת אחריות ב"שאלה האתית "המהותית של ההתקדמות הטכנולוגית. יחד עם ענקיות הדיגיטל, מיקרוסופט ו- IBM, היא נענתה לאתגר לתמוך בכל גורמי הקהילה המדעית, הפוליטית והחברתית המעורבים בתפקידים שונים, במפעל של בניית "הומניזם דיגיטלי" חדש ושוויוני על בסיס ערכים אנושיים.
במהלך ראיון עם קישור ל- דוחות אופקים, מונסינור פאגליה דן בתפקידה של הכנסייה הקתולית במעבר אפוקאלי של המציאות העכשווית שלנו. "ההתקדמות הופכת להתפתחות כאשר היא נשלטת על ידי בחירות אתיות - הוא הסביר - מסיבה זו חשוב מאוד להבהיר את המשמעות הסמנטית של אתיקה, מכיוון שאם אתה מדייק בסטיית המשמעות, אתה נהיה קוהרנטי עם הביטויים הלשוניים 'ממד אתי' ו'גישה '. אנתרופוצנטרי '. וכך, בשקיפות מלאה, הטכנולוגיות המתעוררות חייבות להתכנס גם למהפכה דיגיטלית המייצגת רנסנס, או הומניזם חדש. אנו מפתחים קריאה לאתיקה - הוסיף - שתוביל להערכה קריטית של ההשפעות של טכנולוגיות אלה, של הסיכונים הכרוכים בהן, של דרכים אפשריות לוויסות, גם ברמה החינוכית ". המאמר בפרויקט יעסוק באתגרים בתחומי האתיקה, הרגולציה והבריאות וישותף עם מיקרוסופט ו- IBM במהלך האירוע "RenAIssance: for an Human Intelligence Artificial" שייערך ב 28 בפברואר, באודיטוריום של האקדמיה האפיפיורית לחיים.
אז, עד כמה יכולה הטכנולוגיה להגיע ומה הגבול שמעבר לו האבולוציה כבר לא מתקדמת? על כך מפלגת מונסניור פגליה מכוונת: "בואו נגיד שהיום אנחנו מוצאים את עצמנו במצב חסר תקדים. אנו חווים את השלב האחרון של מה שאנו יכולים להגדיר כ'שינוי גיל '- הוא מדגיש - ב -70 השנים האחרונות ייצרנו טכניקה המאפשרת לנו להרוס הכל בכוח גרעיני. וזו טכניקה צבאית. למעשה, הבנו זאת ומיד ייצרנו הסכמים לתיקון. השיקול השני נוגע להיבט הכלכלי, ובמיוחד לניצול חסר טעם של משאבי אנרגיה. נוצרה סכנה עולמית נוספת שהיא הרס האקלים ולכן האנושות. כבר הזהירו אותנו ולא יכולנו. ואז לפני ארבע שנים כל ראשי השלטון התכנסו בפריז כדי להקים בנק. עד כה ניתן היה לשלוט בטכניקות צבאיות ובניצול הקפיטליסטי בצורה ישירה ביותר: היה מספיק לא לייצר אותן יותר או לא ליישם אותן. אחרי פריז כולנו קשובים יותר גם אם יש עדיין מצפון חלש מאוד ". נשיא האקדמיה האפיפיורית לחיים מדגיש אז "גל שלישי". "אנו עומדים בפני טכנולוגיות חדשות 'מתעוררות ומתכנסות' - הוא מדגיש - ויש לנו אפשרות להתערב באופן 'טכני' במין האנושי. אז קיים לא רק סיכון להרס, אלא גם דה-הומניזציה עצמית, עד כדי כך שיש המדברים על פוסט-הומניזם או על אדם מוגבר. או שוב, האפשרות ליצור מעין עבדות חדשה על בסיס קפיטליזם שהפעם כבר לא הבעלים של נפט אלא ביג דאטה. מול זה אנו נקראים ל"טלטלה "אנושית מוסרית, פוליטית. במובן זה, מול התפתחות טכנולוגית פרוגרסיבית זו, אם איננו מתערבים באופן מכריע והולם, אנו מסתכנים בפריצה חדשה שלא נדע מה יהיו ההשלכות שלה. בהחלט, כתוצאה ראשונה, קיים הסיכון כי אי-השוויון שמייצר המשק ופיתוח התעשייה הוא הרבה יותר חמור אם הוא מיוצר על ידי אלגוריתמים ".
הפרלט הגבוה דיבר שוב ושוב על תרופה שיכולה להיות גרועה יותר מהמחלה.
עד כמה אכפתית לך מההתפתחות הטכנולוגית בתחום הרפואי והמדעי?
להלן מספר שיקולים. בואו נתחיל עם זו הגסה והמחוספסת יותר. נתחיל מהצעת המדען היפני (הירושי אישגורו אד) ליצור שיבוט של האדם. כאן אנו עומדים בפני סיכוי מצמרר - מזהיר נשיא האקדמיה האפיפיורית לחיים - כאשר מדען זה דיבר בשנה שעברה באסיפה על רובוטים, הוא דיבר על ההתפתחות האנושית הנוכחית כדור הביולוגי, האורגני האחרון. אולם זהו עתיד מצמרר. נכון שההתפתחות הטכנולוגית יכולה להציע אפשרויות ריפוי אדירות ויוצאות דופן וכל זה השער ההגיוני ביותר, וגם אני בעד. אבל בכל מקרה אני רוצה להניח הנחת יסוד. ההתפתחות הטכנולוגית באה מאדם והאדם עושה את זה, בשבילי שהוא מאמין, מכיוון שהוא קיבל כוח, יכולת ואינטליגנציה מאלוהים עצמו. אז ההתקדמות הטכנולוגית היא תוצאה של הידיים שלנו. עכשיו מה הנקודה המכריעה בהקשר זה? זו המודעות לגבול - ממשיך מונסיניור פאגליה - יתר על כן, בבריאה, כשחשבון בראשית אומר 'אתה יכול לאכול כל דבר, למעט (...)', הוא אישר את הרעיון של מודעות לגבול. אם אנו שורפים מודעות אנו מגיעים לפיתוי הפרומתי, כלומר להאמין שאנחנו באמת אלים. זה דבר אחד לדעת ולדאוג, חשבון אחר הוא לדעת וליצור. במובן זה שלא צריך לעשות כל מה שניתן לעשות. זו הסיבה שעלינו להתמודד עם ההתפתחות הטכנולוגית המתקדמת בצורה נבונה, נבונה, בידיעה שהטכניקה מיועדת לאדם ולא להפך. והנה האזהרה שנתנו לנו כמה הוגים מאז שנות החמישים. יתר על כן, היידגר עצמו כשאמר שרק האל יכול להציל אותנו, הוא לא אמר זאת למען האל הנוצרי, אלא מסיבת האל. רק סיבה יכולה להציל אותנו. המשמעות היא תשומת לב: הטכניקה חייבת להיות לשירות האדם ולא להפך. כך שכל עוד הגילוי עוזר לדעת להחלים ולהיות תמיד "אנושיים", אנו בדרך הייתי אומר בכבוד להתפתחות. זה כשזה מגיע להשפיע ולתפעל את האדם אנו חייבים להיות זהירים. עכשיו כאן, לדעתי, מגיעה הנקודה המכריעה ביותר. הטכנולוגיה מתקדמת כל כך מהר בהשוואה למודעות אתיות ואנתרופולוגיות עד שאנו מסתכנים באיחור "של אי יכולת לבלום את המכונית יותר, שכבר נמצאת בירידה מסחררת. הבעיה היא שאנחנו צריכים להישאר ברכב מההתחלה ולא להגיע לנקודה מסוימת כאשר אולי זה יהיה קשה. במובן זה, מוסברת הסיבה להתעניינות האקדמיה הפונטיפית לחיים בסוגיות אלה, להכניס אותם לאופק מורכב יותר וחכם יותר ". ואז מדגיש מונסיניור פגליה: "קודם כל, כשמדברים באופן אישי, הייתי מוסיף אלמנט נוסף להבנתו. מכיוון שלא רק האדם האנושי קיים, המשפחה האנושית קיימת. לכן, בתקופה שהטכנולוגיה היא גלובלית, קשרים ומסחר הם גלובליים, עלינו לזכור שמימד הטכנולוגיה אינו יכול להימצא גם כשירותה של האנושות כולה. התפתחות אינטגרלית נוגעת לאנשים ולכל המשפחה האנושית כאחד.
הוותיקן, למעשה, רוצה להתמקד בדיוק בנושא האפליה האפשרית הקשורה להתפתחות הטכנולוגיה. "חוסר השוויון שמייצר הפיתוח הכלכלי חמור יותר ממה שחשבו עם אידיאולוגיה קצת יותר פשוטה, זו של הגאות: אם הרווחה עולה, היא עולה גם אל קו האוקיינוס וגם אל הסירה. במציאות זה לא קרה ככה. יש כמה ספינות שעלו יותר, סירות אחרות שכמעט שקעו. במובן זה, סטייה זו, שהיא אחת מבעיות המשבר של החברה העכשווית שלנו, יכולה להפוך את הסטייה לעבדות מוחלטת. במקום זאת, ניהול הנתונים הגדולים עלול לגרום לספינות האוקיינוס להרים יותר ויותר לרעת סירות. לדוגמא - הוא ממשיך - עם זיהוי פנים כבר אין עשירים ועניים, אבל יש עריצים מוחלטים וסובייקטים מוחלטים. מי שמחזיק בזהב, ביג דאטה, יכול להרוס אותך. אז בשביל זה אני מאמין שיש צורך בחיזוק אתי כפול. לא מספיק לומר, כמו בעבר, שאנחנו צריכים רק לחלק מחדש את העושר. יש צורך בצמיחה בידע, בחוק, בהשתתפות. לכן, מבחינת הכנסייה הקתולית, איננו יכולים להציע נקודות מבט כיום באופן חיצוני. עלינו להישאר בפנים כדי שנוכל להבין, מבפנים, את הפוטנציאל וגם את הסכנות הטמונות בטכנולוגיות חדשות. כאן הבעיה היא לא רק בשימוש הסופי של הטכנולוגיות, אלא שאלה של תשומת לב לאחריות של כל אחת ואחת לאורך המחקר, הניסויים, הבנייה, ההפצה, השימוש האישי והשימוש המיוחד במכשירים טכנולוגיים אלה. והכרה ".
עד כמה מורגשת האחריות הזו וכמה מודאג הסיכון להקריב את חופש ההגדרה העצמית האנושית? "אני מאמין - מודה הארכיבישוף - ש"הפלישה" לאלגוריתמים אינה ניתנת לעצירה במובנים מסוימים. עד כדי כך שיש מי שמדבר על אלגוקרטיה. לאחר שאמרנו זאת, ברור שאם אנו רוצים להציל את כבוד האדם, את הדמוקרטיה, את הפוליס במובן הרחב ביותר, חיוני, להשתמש במינוח המהפכה הצרפתית, כדי לשמור על ראשוניותם של חופש, שוויון ואחווה. כבוד האדם ומשפחת האדם חייבים להיות מסוגלים להיות מועשרים ולא כפופים. לכן, אם יש אלגוקרטיה, חייב להיות גם אלגוריתם לשזור את שתי הפרספקטיבות. אם הייתי מדמיין את זה כמרקם, זה צריך להיות מורכב מחוטי האלגוריתמים וחוטי האתיקה בו זמנית. במובן זה חופש, שוויון ואחווה הם שלושה ממדים חילוניים ואוונגליסטים באותה מידה שניתן להבין על ידי כולם: על ידי אלה המאמינים ועל ידי אלה שאינם מאמינים.
במובן זה עלינו ככנסייה הקתולית להיות ה"זקיף "של מי שמזייף את המוני הנתונים הגדולים הללו תוך התחשבות שיש להבטיח חופש ולהבטיח שוויון ולקדם גם אחווה. לכן על הטכניקה להציע את כל זה ולא להכחיש זאת. משמעות הדבר היא כי חיוני, אל מול הטכנולוגיות החדשות הללו, שהן מוקפות ומחלחלות בכל המציאות המכריעה של החברה, הפוליטיקה, הכלכלה, האתיקה, הדת, מעמד העובדים, כל המוסדות, כל המדעים. חיוני לקדם זיהום קולגיאלי. גם המדעים השונים והמציאות החברתית השונה חייבים להיות מתכנסים. במובן זה הייתי מדבר על דרך משותפת הכרחית. למעשה, זה באופן אישי עשה רושם עלי מכיוון שאנשי אקדמיה מצאנו את עצמנו מקדמים את התהליך הזה לא ביוזמתנו, אלא לבקשת אחת הגדולות בעולם. " מונסינור פגליה מספר אם כן כיצד ענקיות ה- IT רצו לערב את הוותיקן בנושא אתי בוער לכנסייה כמו פיתוח בינה מלאכותית. "נשיא מיקרוסופט בא לומר לנו - הוא זוכר - 'כולנו מהנדסים, ולכן אנו נידונים ליצור חדש שנמצא בכל שבוע כדי להישאר בשוק. אנחנו יודעים שאנחנו יכולים לעשות דברים מצוינים, למשל ברפואה, אבל גם דברים דרמטיים. בשלב זה נצטרך לא לקיים כנס איתך, אבל ברצוננו לשאול אותך אם אתה יכול ללוות אותנו לאורך התהליך. ' זו הבקשה, שאפשר לסמן אותה גם בעמימות (אנחנו רוצים את החותמת). אבל יש כאן "אלגוריתם רוחני" שנקרא אמון. כי אל נשכח שבינה מלאכותית היא רק מתמטיקה. אמון הוא לא מתמטיקה. אמון שכנע אותי, שיש לנו חופש מוחלט ללוות בלי שום התניה, שנוכל להיענות לאתגר, כי ההשלכות של ההתפתחות הטכנולוגית כל כך חשובות, כך שחשבנו, הכנסייה הקתולית לא יכולה לעמוד בצד. במובן זה הדוגמה לשאלה החברתית ראויה. הכנסייה הקתולית בסוף המאה התשע עשרה, עם התפתחות תעשייתית שברור שמה קץ לתרבות הכלכלית של האיכרים, הרגישה את האחריות להיכנס לעולם העבודה עם דוקטרינה חדשה, מחשבה חדשה. באופן דומה, בצומת היסטורי זה, אנחנו כבר לא יכולים לעמוד בחוץ ולהסתכל, גם מכיוון שאם אתה נמצא בחוץ, אתה לא יכול להבין מלמעלה, אפשר להגיע מאוחר מדי ואז גם הפרדיגמה השתנתה. כלומר, אם אתה לא מעורב ישירות, אני מאמין שהמציאות קשה מאוד להבנה. נהיה בעולם אחר שיכול לדבר, להכתיב כללים, לדבר בשפה ולעמוד במצב שהוא לגמרי חיצוני, לא נשמע, לא יעיל ולכן חסר תועלת ולדעתי חוטא.
מהן יכולות להיות הסיבות לכך שמיקרוסופט ביקשה את מעורבות האקדמיה? דילמה אתית, משהו שזעזע אותם?
"אני מאמין - מעיר המפתח - כי ההנהלה החדשה של מיקרוסופט (ובמציאות גם שמתי לב לזה של יבמ) שונה מזו של הקרן שלהם. והנהגה זו הציבה בעיות מוסריות והמימד ההומניסטי הזה היה מעורב בהן באופן ישיר יותר. זו הייתה הסיבה הבסיסית, מכיוון שהם מודעים היטב לכך שללא כללים זו בעיה אפילו עבור החברה עצמה. והנה דוגמא שנתן לי הנשיא בראד סמית '. לעומת זיהוי פנים, שברור שניתן לפתח אותו גם על ידי מתחרים אחרים, אם לא נמצא תקנה חוקית בקרב כולנו, ניפול כולנו לתהום. סכסוכים עם מכשירים אלה הם מסוכנים וקלים בהרבה מאלה עם כוח גרעיני. לכן, הצורך בוויסות משפטי ואתי מתעורר בצורה חזקה יותר ויותר ככל שהפוטנציאל הטכנולוגי גדל עד כדי כך ששני הענקים מסכימים להיכנע לכללים אתיים, משפטיים וחינוכיים מסוימים. שזה מצב דומה לאקלים. כאן במובנים מסוימים זה אפילו חזק יותר, כי כאן אנחנו מתערבים ישירות על האדם, לא על הסביבה. וזו הסיבה שהצעד האתי וגם המשפטי מוטל במידה רבה יותר ולהיות לבד בפיקוד על מהפכה כה מזעזעת זה לא קל. אתה גם מרגיש צורך להיות בחברה או בכל מקרה להיות מסוגל לשלוט גם על האחר. ברור שיהיה צורך להתערב להסדרה אתית ומשפטית על השימוש באלגוריתם ברמה בינלאומית, אחרת בסופו של דבר האנרכיה בניהול הביג דאטה עלולה להפוך למסוכנת מאוד, אפילו להישרדות החברה. הייתי אומר בואו נחבר את שניהם: קצת הומניזם וקצת סיכון צפוי ופחד מכוח גרעיני. יתכן שהפחד מפני הרס קבע את השאלה המוסרית קצת כמו האקלים ".
האם יש מודעות קונקרטית ברמה הגלובלית?
"במיקרוסופט, כן - נשיא האקדמיה לחיים האפיפיור עונה ללא היסוס - ברמה העולמית אני עדיין חושב שלא. אני משוכנע שבדומה לשני האתגרים האחרים בין גרעין לאקלים, אם לא נכה אותם בראש לא תהיה לנו מודעות מלאה. נכון שתשומת הלב צומחת בהדרגה. זה חייב לעורר טלטלה של השתתפות וכללים שיש לתת, אתיים ומשפטיים וגם חינוכיים. עם זאת, מכיוון שהטכנולוגיה פועלת מהר מאוד והאחריות מתנהלת לאט יותר, עלינו להאיץ בחזית זו כדי לסייע למודעות הממשלות לא רק להבטיח את הטכנולוגיה אלא עם חזון אמיתי של המדיניות. בכך אני מבלה יותר מילה על אחריות אירופה מכיוון שיש לה מורשת הומניסטית שאין בה את המזרח הרחוק ולא את המערב הרחוק. לא במקרה השתמשנו בביטוי הומניזם ".
אירופה הודיעה כי השימוש בטכנולוגיות לזיהוי פנים על ידי המגזר הציבורי או הפרטי ייאסר לפרק זמן (שלוש עד חמש שנים), שבמהלכן מתודולוגיה להערכת ההשפעה של אלה ניתן לזהות ולפתח טכנולוגיות ואמצעים אפשריים להפחתת סיכונים. בפרט, הכרזת הצגת הספר הלבן על בינה מלאכותית ליום 19 בפברואר. אבל האם מסמך זה איכשהו כבר היה משותף בין כל שחקני הקריאה לאתיקה?
"נוכחותו של דייויד סאסולי בפרלמנט האירופי מדגימה את האינטרס הברור של אירופה, כמו גם את האינטרס של ה- FAO ואני יכול לומר כי ישנן ממשלות אחרות שבאמצעות שגרירויותיהן מבקשות מאיתנו להיות מסוגלים להפיץ קריאה זו באופן בינלאומי ו , בוודאי שנעשה זאת - חושף מונסינור פאגליה - הודות לאלוהים יש הד חשוב, סימן לכך שיש מודעות חשובה שככל שהוא מתפשט יותר, זה כרוך גם ברמה הפוליטית ".
כמה חשובים גופי ביניים בזה?
"גופי הביניים הם הדרך לנקוט כדי למנוע מהאינדיבידואליזציה של החברה לדחוף את עצמה לחפש את 'המושיע'. תודה לאל שיש רק אחד מ'סלבטורה 'והוא כבר הציל אותנו. במובן זה, אם כן, העזרה, הדחיפה לתת אחריות לגופי הביניים, שנמצאים שם, היא לא שהם לא שם, זה פשוט שהם נוזלים בצורה לא אחראית, היא מהותית. כל אחד חייב לעשות את שלו ובזה גופי הביניים יכולים בהחלט לעזור בהעצמה - מציין מונסינור פאגליה - זו נקודת ההתכנסות והזיהום בקרב כולם, כי זה עוזר לצמיחת המודעות של כולם ולהתערבות חיובית שאינה פרטנית. אלא רבים ".
בינתיים, לאור אסיפת האקדמיה הפונטיפית לחיים, בין התאריכים 26-28 בפברואר, נודע הידיעה על הרחבת הרכב קבוצת האקדמאים, המחולקת לכתבים רגילים, כבוד, צעירים.
האם זה גם סימן לגישה המחודשת של הכנסייה הקתולית לאתגרים האתיים שמציבה התקדמות טכנולוגית?
מסיים מונוסים אלה, מסכם מונסניור פגליה, עם אינדיקציות האפיפיור, כלומר "התחדשות בהיגיון הכפול של הרחבה והעמקה. החידוש בהחלט לא טמון בשינוי האובייקט: דוקטרינה קתולית, חוכמת הבשורה על המתנה העצומה של חיי אדם, חייבים להמשיך לעורר עמוקות את המחויבות שלנו, להאיר את כל תחומי החוויה והתרבות האנושית של חיים. אבל החדשות הטובות של הבשורה על חיי אדם מבקשות להיות מוצעות כמקור השראה וכנושא של דיאלוג תרבותי, פוליטי וחברתי, גם ובעיקר עם אלה שלא חושבים כמונו בדיוק, אבל כמונו, יש בלב את החיים והחברה האנושית ".
המינוי נדחה אפוא ל -26 בפברואר, היום הפתיח של האסיפה של האקדמיה הפונטיפית לחיים, המוקדש לבינה מלאכותית, שתתקיים באולם PAV ב- via della Conciliazione n. 1.