-
אני רוצה לספר לכם
מה אני צופה שיהיה.
-
התמזל מזלי לעבוד על
הבינה המלאכותית מזה כמעט 15 שנה.
-
כשהתחלתי, לכנות אותה "תופעת שוליים"
היה לשון המעטה.
-
החוקרים היו אומרים, "לא, לא,
אנו עובדים רק על למידת מכונה."
-
כי העבודה על בינה מלאכותית
נתפסה כרעיון מוגזם ביותר.
-
בשנת 2010, רק עצם אזכור הביטוי
“בינה מלאכותית כללית”
-
היה מזכה אתכם
בכמה מבטים מוזרים ביותר
-
ואפילו בכתף קרה.
-
“אתה באמת בונה בינה מלאכותית כללית?”
אנשים היו שואלים.
-
"זה לא משהו
מתוך ספר מדע בדיוני?"
-
אנשים חשבו שמדובר בעתיד
של 50 או 100 שנה,
-
אם זה בכלל אפשרי.
-
הדיבורים על בינה מלאכותית היו,
אני מניח, די מביכים.
-
אנשים בדרך כלל חשבו שאנחנו מוזרים.
-
ואני מניח שבמובנים מסוימים
אכן היינו כאלה.
-
עם זאת, לא עבר זמן רב
עד שהבינה המלאכותית
-
החלה לנצח בני אדם
במגוון שלם של משימות
-
שאנשים חשבו בעבר
שהן רחוקות מהישג ידה.
-
הבנת תמונות,
-
תרגום שפות,
-
תמלול דיבור,
-
משחקי "גו" ושחמט
-
ואפילו אבחון מחלות.
-
אנשים התחילו לקלוט
את העובדה
-
שלבינה המלאכותית
תהיה השפעה עצומה,
-
והם הפנו לטכנולוגים כמוני, ובצדק,
כמה שאלות די קשות.
-
“האם נכון שהבינה המלאכותית
תפתור את משבר האקלים?”
-
“האם היא תהפוך את החינוך
המותאם-אישית לזמין לכולם?“
-
“האם זה אומר שכולנו נקבל
הכנסה בסיסית אוניברסלית
-
“ולא נצטרך לעבוד יותר?”
-
“האם עלי לפחוד?”
-
“מה זה אומר מבחינת נשק ומלחמה?”
-
וכמובן, “האם סין תנצח?”
-
“האם אנחנו במירוץ?”
-
“האם מצפה לנו אפוקליפסה עצומה
של מידע מוטעה?”
-
כולן שאלות טובות.
-
אבל למעשה, היתה שאלה פשוטה
ובסיסית הרבה יותר
-
שהותירה אותי מבולבל.
-
שאלה שלמעשה נוגעת
בלב העבודה היומיומית שלי.
-
בוקר אחד, בארוחת הבוקר,
-
אחייני קספיאן בן השש
שיחק עם “פיי“,
-
הבינה המלאכותית שיצרתי בחברה
האחרונה שלי, “אינפלקשן“.
-
עם פה מלא ביצה מקושקשת,
-
הוא הביט בי
ישר בעיניים ושאל,
-
"אבל מוסטפא,
מה זה בכלל בינה מלאכותית?"
-
הוא בחור קטן,
כנה, סקרן ואופטימי.
-
הוא דיבר עם פיי על כמה יהיה מגניב
אם יום אחד בעתיד,
-
הוא יוכל לבקר דינוזאורים בגן החיות.
-
ושהוא יכול להכין כמויות
אינסופיות של שוקולד בבית.
-
ומדוע פיי עדיין לא יכול
לשחק “איי ספיי“.
-
“ובכן,” אמרתי, “מדובר בתוכנה חכמה
-
“שקראה את רוב הטקסט באינטרנט הפתוח,
-
"והיא יכולה לדבר איתך
על כל מה שאתה רוצה."
-
"אה.
-
"אז כמו בן אדם?"
-
נאלמתי דום.
-
ממש גירדתי את הראש.
-
כל התשובות השגורות והמשעממות שלי
עלו מיד בדעתי.
-
“לא, אבל הבינה המלאכותית היא רק
עוד טכנולוגיה כללית,
-
“כמו הדפוס או הקיטור.“
-
“זה יהיה כלי שיעצים אותנו
ויהפוך אותנו לחכמים ופוריים יותר.
-
"וכשזה יילך וישתפר,
-
"זה יהיה כמו אורקל יודע-כל
-
"שיעזור לנו לפתור
אתגרים מדעיים גדולים".
-
אתם יודעים, התחלתי להרגיש
שכל התגובות האלה, אני מניח,
-
קצת מתגוננות.
-
ולמעשה, מתאימות יותר לסמינר מדיניות
-
מאשר לארוחת-בוקר עם ילד בן שש
שאי-אפשר לעבוד עליו.
-
“למה אני מהסס?“
שאלתי את עצמי.
-
הבה נהיה כנים.
-
האחיין שלי שאל אותי שאלה פשוטה
-
שאלה שאנחנו, בבינה המלאכותית
פשוט לא מתעמתים איתה מספיק.
-
מה אנו בעצם יוצרים?
-
מהי המשמעות של ליצור
משהו חדש לגמרי,
-
שונה באופן יסודי
מכל המצאה שהכרנו עד כה?
-
ברור שאנו נמצאים בנקודת-מפנה
בתולדות האנושות.
-
במסלול הנוכחי שלנו,
-
אנו מתקדמים לקראת הופעתו של משהו
-
שכולנו מתקשים לתאר,
-
ובכל זאת איננו יכולים לשלוט
במה שאיננו מבינים.
-
ולכן לדימויים,
למודלים המנטליים, לשמות,
-
לכל אלה יש חשיבות
-
אם ברצוננו להפיק את המרב
מהבינה המלאכותית
-
תוך הגבלת החסרונות הפוטנציאליים שלה.
-
כמי ששמחים על האפשרויות
הטמונות בטכנולוגיה זו,
-
אבל שתמיד איכפת לנו מאוד
ביחס לאתיקה שלה,
-
אנו צריכים, לדעתי,
-
להיות מסוגלים לתאר בקלות
את מה שאנחנו בונים,
-
כולל בפני ילדים בני שש.
-
אז ברוח זו אני מציע היום
את הדימוי הבא
-
שיעזור לנו לנסות להתמודד עם
האמת של הרגע הזה.
-
אני חושב שהכי טוב להבין
את הבינה המלאכותית
-
כאילו היא מין דיגיטלי חדש.
-
אל תיקחו את זה מילולית מדי,
-
אבל אני חוזה שנלמד לראות בה
חברה דיגיטלית,
-
שותפה חדשה במסעות בכל חיינו.
-
לא משנה אם לדעתכם מדובר כאן
בדרך של 10, 20 או 30 שנה,
-
זו, לדעתי, הדרך המדויקת
-
וביסודה, הישרה ביותר לתאר
את מה שבאמת מגיע.
-
ומעל לכל, זה
מאפשר לכולם להתכונן
-
ולעצב את מה שיבוא.
-
אני לגמרי מבין שזהו טיעון רציני,
-
ואני אסביר לכולם כמיטב יכולתי
מדוע אני מעלה אותו.
-
אבל תחילה תנו לי רק
לנסות להגדיר את ההקשר.
-
מאז האורגניזמים המיקרוסקופיים הראשונים,
-
החיים על פני כדור הארץ
התפתחו במשך מיליארדי שנים.
-
במהלך הזמן הזה,
החיים התפתחו והתגוונו.
-
ולפני כמה מיליוני שנים,
משהו התחיל להשתנות.
-
לאחר אינספור מחזורים
של צמיחה והסתגלות,
-
אחד מענפי החיים
החל להשתמש בכלים,
-
ומהענף הזה התפתחנו אנחנו.
-
ייצרנו מגוון מהפנט
של כלים,
-
בהתחלה לאט,
ואז במהירות מדהימה,
-
הגענו מגרזני האבן ומן האש
-
עד לשפה, לכתיבה ובסופו של דבר
לטכנולוגיות תעשייתיות.
-
המצאה אחת הביאה לאלף נוספות.
-
ועם הזמן הפכנו ל“הומו טכנולוגיקוס“.
-
לפני כ-80 שנה נולד
ענף טכנולוגיה חדש.
-
עם המצאת המחשבים
-
זינקנו במהירות ממחשבי
המיינפריים והטרנזיסטורים הראשונים
-
לטלפונים חכמים
ולמערכות המציאות המדומה של ימינו.
-
מידע, ידע,
תקשורת, מחשוב.
-
במהפכה הזו,
-
מלאכת היצירה התעצמה
יותר מאי-פעם בעבר.
-
ועכשיו מגיע גל חדש.
-
הבינה המלאכותית.
-
ברור שגלי ההיסטוריה האלה
הולכים ונעשים תכופים יותר,
-
כשכל אחד מהם
מוגבר ומואץ על ידי קודמו.
-
ואם מסתכלים אחורה,
-
ברור שאנחנו נמצאים בגל המהיר
והתוצאתי ביותר מאז ומתמיד.
-
דרכי האנושות והטכנולוגיה
שזורות זו בזו באופן עמוק.
-
בתוך שנה וחצי בלבד,
-
למעלה ממיליארד אנשים השתמשו
במודלים גדולים של שפה.
-
היינו עדים לאירועים בולטים
בזה אחר זה.
-
רק לפני כמה שנים אנשים אמרו
שהבינה המלאכותית לעולם לא תהיה יצירתית.
-
אך הבינה המלאכותית מורגשת כיום
כמו נהר אינסופי של יצירתיות,
-
יוצרת שירה ותמונות ומוזיקה
וסרטונים שקוראים תיגר על הדמיון.
-
אנשים אמרו שהיא
לעולם לא יהיה אמפתית.
-
אבל מיליוני אנשים נהנים כיום
משיחות משמעותיות עם בינה מלאכותית,
-
מדברים על תקוותיהם וחלומותיהם
-
ונעזרים בה כדי להתמודד
עם אתגרים רגשיים קשים.
-
הבינה המלאכותית יכולה כעת
לנהוג במכוניות,
-
לנהל רשתות חשמל
-
ואפילו להמציא מולקולות חדשות.
-
רק לפני שנים ספורות
כל דבר כזה היה בלתי-אפשרי.
-
וכל זה מתודלק על ידי
סדרי-גודל מעריכיים של נתונים ומחשוב.
-
בשנה שעברה, “אינפלקשן 2.5”,
המודל האחרון שלנו,
-
השתמש בפי חמישה מיליארד יותר
כוח מחשוב
-
מאשר הבינה המלאכותית של “דיפמיינד”
שניצחה את משחקי “אטארי” המיושנים
-
לפני קצת יותר מעשר שנים
-
מדובר בתשעה סדרי-גודל
יותר כוח מחשוב.
-
כפול 10 בשנה,
-
מידי שנה
במשך עשור כמעט.
-
במקביל, גודלם של
מודלים אלה גדל
-
תחילה מעשרות מיליוני פרמטרים
ועד מיליארדי פרמטרים,
-
ובקרוב מאוד,
עשרות טריליוני פרמטרים.
-
אם מישהו לא היה עושה דבר מלבד
לקרוא 24 שעות ביממה במשך כל חייו,
-
הוא היה צורך שמונה מיליארד מילים.
-
ואלה כמובן המון מילים.
-
אבל כיום, הבינה המלאכותית המתקדמת ביותר
צורכת יותר משמונה טריליון מילים
-
בחודש אחד של אימון.
-
וכל זה אמור להימשך.
-
הקשת הארוכה של ההיסטוריה הטכנולוגית
נמצאת כעת בשלב חדש ומיוחד במינו.
-
אז מה זה אומר בפועל?
-
ובכן, בדיוק כפי שהאינטרנט
נתן לנו את הדפדפן
-
והטלפון החכם נתן לנו יישומונים,
-
כך מחשב-העל מבוסס הענן
מוביל אותנו לעידן חדש
-
של בינה מלאכותית בכל מקום.
-
הכל יהיה מיוצג בקרוב
על ידי ממשק שיחה.
-
או, במילים אחרות,
בינה מלאכותית אישית.
-
והבינות המלאכותיות האלה
יכילו ידע אינסופי,
-
ובקרוב הן תהיינה
מדויקות ואמינות מבחינת העובדות.
-
תהיה להן מנת-משכל כמעט מושלמת.
-
תהיה להן גם תבונה רגשית
יוצאת מן הכלל.
-
הם תהיינה אדיבות, תומכות, אוהדות.
-
רכיבים אלה בפני עצמם
ישנו את התמונה כולה.
-
תארו לעצמכם אם לכולם היה
מורה בהתאמה אישית בכיס
-
וגישה לייעוץ רפואי זול.
-
עורך דין ורופא, אסטרטג עסקי ומאמן -
-
כל אלה בכיס שלכם
24 שעות ביממה.
-
אבל הדברים באמת מתחילים להשתנות
-
כשהבינה המלאכותית מפתחת
את מה שאני מכנה איי-קיו,
-
את “מנת הפעילות” שלה.
-
מדובר ביכולת שלה
להשלים דברים
-
בעולם הדיגיטלי והממשי.
-
ובמהרה, לא רק לאנשים
תהיה בינה מלאכותית.
-
מוזר ככל שזה יישמע,
-
לכל ארגון, מעסקים קטנים,
עבור במלכ“רים ועד ממשלות,
-
לכל אחד מאלה
תהיה בינה מלאכותית משלו.
-
כל עיר, בניין וחפץ
-
יוצגו על ידי
אישיות אינטראקטיבית ייחודית.
-
ואלה לא יהיו
סתם עוזרים מכניסטיים.
-
הם יהיו בני לוויה, אנשי סוד,
-
עמיתים, חברים ושותפים,
-
מגוונים וייחודיים כמו כולנו.
-
הבינה המלאכותית תחקה אז
באופן משכנע בני אדם ברוב המשימות.
-
ואנחנו נרגיש את זה
בקנה המידה האינטימי ביותר.
-
בינה מלאכותית שתארגן
מפגש קהילתי עבור שכן מבוגר.
-
מומחה מלא-אהדה שיעזור
להבין אבחון קשה.
-
אבל אנחנו נרגיש את זה
גם בקנה המידה הגדול ביותר.
-
גילוי מדעי מואץ,
-
מכוניות אוטונומיות בכבישים
-
מל"טים בשמיים.
-
הבינה המלאכותית גם תזמין את המשלוח
וגם תפעיל את תחנת הכוח.
-
היא תהיה באינטראקציה איתנו
וכמובן בינה לבינה.
-
היא תדברו בכל שפה,
-
תקבל כל דפוס של נתוני חיישנים,
מראות, צלילים,
-
זרמים על זרמים של מידע,
-
הרבה מעבר למה שכל אחד
מאיתנו יכול לצרוך באלף תקופות חיים.
-
אז מה זה?
-
מה הן הבינות המלאכותיות האלה?
-
אם ברצוננו לתעדף את הבטיחות
מעל לכל דבר אחר,
-
כדי להבטיח שהגל החדש הזה
תמיד ישרת ויעצים את האנושות,
-
אז עלינו למצוא את הדימויים הנכונים
למה שזה עשוי להפוך.
-
במשך שנים, לנו בקהילת הבינה
המלאכותית, ולי אישית,
-
היתה נטייה להתייחס אליהן
כאל כלים בלבד.
-
אבל זה לא ממש מקיף
את מה שקורה כאן בפועל.
-
הבינות המלאכותיות הן בבירור
דינמיות יותר, מעורפלות יותר
-
משולבות יותר
ומתפתחות מהר יותר מכלים גרידא,
-
שכפופים לחלוטין לשליטה אנושית.
-
אז כדי להכיל את הגל הזה,
-
לשים במרכזו את האדם,
-
ולהקטין את ההשלכות הבלתי-מכוונות
והבלתי-נמנעות שצפויות להופיע,
-
עלינו להתחיל לראות בבינות המלאכותיות
סוג חדש של מין דיגיטלי.
-
זו רק אנלוגיה,
-
זה לא תיאור פשוטו כמשמעו,
וזה לא מושלם.
-
בתור התחלה, ברור שהן
אינן ביולוגיות במובן מוכר כלשהו,
-
אבל פשוט קחו רגע
-
וחישבו באמת על מה שהן כבר עושות.
-
הן יוצרות תקשורת בשפות שלנו.
-
הן רואות את מה שאנחנו רואים.
-
הן צורכות כמויות מידע
גדולות באופן בלתי-נתפש.
-
יש להן זכרון.
-
יש להן אישיות.
-
הן ניחנו ביצירתיות.
-
הן יכולות אפילו להסביר במידה
מסוימת ולנסח תוכניות בסיסיות.
-
הן יודעות לפעול באופן אוטונומי,
אם נאפשר להן.
-
והן עושות את כל זה
ברמות גבוהות של תחכום
-
מעבר לכל מה שאי-פעם הכרנו
בכלים גרידא.
-
אז לומר שהבינה המלאכותית
היא בעיקר עניין של מתמטיקה או קוד,
-
זה כמו לומר שבני האדם
הם בעיקרם פחמן ומים.
-
זה נכון,
אבל זו החמצה גמורה.
-
וכן, אני מבין את זה,
זהו רעיון עוצר-נשימה,
-
אבל אני חושב בכנות
-
שהמסגור הזה עוזר לחדד
את התמקדותנו בנושאים המכריעים.
-
מהם הסיכונים?
-
מהן המגבלות שחשוב שנאכוף?
-
איזה סוג של בינה מלאכותית
אנחנו רוצים לבנות,
-
או לאפשר שתיבנה?
-
זהו סיפור שעדיין נכתב.
-
שום דבר לא צריך להתקבל כגזירה.
-
כולנו צריכים לבחור
את מה שאנו יוצרים.
-
אילו בינות מלאכותיות
אנו מביאים לעולם,
-
ואילו - לא.
-
אלה השאלות נשאלות
את כולנו כאן היום,
-
וכולנו חיים ברגע זה.
-
בעיני, יתרונותיה של הטכנולוגיה הזו
ברורים להפליא,
-
והם מעוררים השראה
בעבודת חיי בכל יום.
-
אבל בכנות,
הם ידברו בעד עצמם.
-
במהלך השנים מעולם לא נרתעתי
מלהדגיש סיכונים
-
ולדבר על חסרונות.
-
חשיבה בדרך זו עוזרת לנו
להתמקד באתגרים העצומים שלפני כולנו.
-
אבל בואו נהיה ברורים.
-
אי-אפשר להתקדם
אם משאירים את הטכנולוגיה מאחור.
-
הפרס לכל הציוויליזציה
הוא עצום.
-
אנו זקוקים לפתרונות בתחום הבריאות,
החינוך, משבר האקלים שלנו.
-
ואם הבינה המלאכותית
תממש רק שבריר מהפוטנציאל הגלום בה,
-
העשור הבא יהיה הפורה ביותר
בתולדות האנושות.
-
הנה עוד דרך לחשוב על זה.
-
בעבר, לפתיחת הצמיחה הכלכלית
נלוו לעתים קרובות חסרונות עצומים.
-
הכלכלה התרחבה ככל שאנשים
גילו יבשות חדשות והגדירו גבולות חדשים.
-
אבל במקביל, הם התנחלו
באוכלוסיות קיימות.
-
בנינו מפעלים,
-
אבל הם היו מקומות
עגומים ומסוכנים לעבודה.
-
מצאנו נפט,
-
אבל זיהמנו את כדור הארץ.
-
ועכשיו, היות שאנו עדיין
מעצבים ובונים בינה מלאכותית,
-
יש לנו פוטנציאל והזדמנות
לעשות זאת טוב יותר,
-
טוב יותר באופן קיצוני.
-
והיום, איננו מגלים יבשת חדשה
ובוזזים את משאביה.
-
אנחנו בונים משהו לגמרי מהתחלה.
-
לפעמים אומרים שנתונים או שבבים
הם הנפט החדש של המאה ה-21,
-
אבל זה ממש לא הדימוי הנכון.
-
הבינה המלאכותית, מבחינת המוח,
-
היא מה שההיתוך הגרעיני הוא
מבחינת האנרגיה.
-
מקור בלתי-מוגבל, שופע
שמשנה את העולם.
-
והבינה המלאכותית באמת שונה,
-
וזה אומר שעלינו לחשוב עליה
ביצירתיות ובכנות.
-
עלינו לדחוק את גבולות
האנלוגיות והדימויים שלנו
-
כדי להיות מסוגלים להתמודד
עם מה שמצפה לנו.
-
כי זו לא סתם עוד המצאה.
-
בינה מלאכותית היא בעצמה
ממציאה אינסופית.
-
וכן, זה מלהיב ומבטיח ומדאיג
ומסקרן בבת-אחת.
-
למען האמת, זה די סוריאליסטי.
-
אבל קחו צעד אחורה,
-
הביטו בה במבט הארוך
של הזמן הקרחוני
-
ואלו באמת הדימויים
ההולמים ביותר שיש לנו כיום.
-
מאז תחילת החיים עלי אדמות,
-
התפתחנו, שינינו,
-
ואז יצרנו את כל מה שסביבנו
בעולמנו האנושי כיום.
-
והבינה מלאכותית איננה
מחוץ לסיפור הזה.
-
למעשה, זה בדיוק ההפך.
-
זה סך כל מה שיצרנו,
-
מזוקק למשהו שכולנו יכולים
לקיים איתו אינטראקציה
-
ולהפיק ממנו תועלת.
-
זה השתקפות של האנושות לאורך זמן,
-
ומבחינה זו,
היא בכלל לא מין חדש.
-
כאן מסתיימים הדימויים.
-
הנה מה שאני אגיד לקספיאן
בפעם הבאה שהוא ישאל אותי.
-
הבינה המלאכותית איננה משהו נפרד.
-
במובנים מסוימים, הבינה המלאכותית
איננה אפילו חדשה.
-
הבינה המלאכותית היא אנחנו,
-
כולנו.
-
וזה אולי הדבר המבטיח
והחשוב מכל,
-
שאפילו ילד בן שש
יכול לקבל מושג לגביו.
-
כשאנו מפתחים את הבינה המלאכותית
-
אנו יכולים וחייבים לשקף
את כל מה שטוב,
-
את כל מה שאנו אוהבים,
את כל המיוחד באנושות:
-
האמפתיה, החסד, הסקרנות
והיצירתיות שלנו.
-
זה, לטענתי, הוא האתגר
הגדול ביותר של המאה ה-21,
-
אך גם ההזדמנות הכי נפלאה,
מעוררת השראה ומלאת תקווה לכולנו.
-
תודה לכם.
-
(מחיאות כפיים)
-
כריס אנדרסון: תודה, מוסטפה.
-
זה חזון מדהים
ודימוי סופר-עוצמתי.
-
אתה בעמדה מדהימה כרגע.
-
כלומר, היית מחובר בכל המובנים
-
לעבודה המדהימה של
OpenAI.
-
יהיו לכם משאבים זמינים,
-
יש דיווחים על
מרכזי נתונים ענקיים חדשים,
-
השקעות של 100 מיליארד דולר
וכן הלאה.
-
ועשוי לצמוח מזה מין חדש.
-
בספר שלך, בנוסף
על החזון האופטימי להפליא,
-
התבטאת ברהיטות רבה
על הסכנות שבבינה מלאכותית.
-
ואני פשוט סקרן,
בראייה הנוכחית שלך,
-
מה הכי מפריע לך לישון בלילה?
-
מוסטפא סולימן:
אני חושב שהסיכון הגדול
-
הוא שניתקע במה שאני מכנה
“מלכודת סלידה פסימית“.
-
צריך להיות לנו האומץ להתעמת
עם האפשרות של תרחישים אפלים
-
כדי שנפיק את המירב
מכל היתרונות שאנו רואים.
-
אז הבשורות הטובות הן שאם
מסתכלים על השנתיים-שלוש האחרונות,
-
היו מעט מאוד חסרונות, נכון?
-
קשה מאוד לזהות במפורש
נזק כלשהו שגרמו מודלי שפה גדולים.
-
אבל זה לא אומר שזה
יהיה הכיוון ב-10 השנים הבאות.
-
אז אני חושב שאם אתה
שם לב לכמה יכולות ספציפיות,
-
למשל, אוטונומיה.
-
אוטונומיה היא בבירור סף
-
שמעבר לו אנו מגדילים
את הסיכון בחברה שלנו,
-
וזה משהו שעלינו להתקדם אליו
בזהירות רבה מאוד.
-
השני יהיה משהו כמו
שיפור עצמי רקורסיבי.
-
אם תאפשר למודל להשתפר
באופן עצמאי,
-
לעדכן בעצמו את הקוד שלו,
-
לחקור סביבה בלי פיקוח,
-
ובלי שליטה אנושית שתשנה
את אופן פעולתו,
-
ברור שזה יהיה מסוכן יותר.
-
אבל אני חושב שאנו עדיין
די רחוקים מזה.
-
אני חושב שיש עדיין 5-10 שנים טובות
בטרם ניאלץ ממש להתמודד עם זה.
-
אבל הגיע הזמן להתחיל
לדבר על זה עכשיו.
-
כ"א: מין דיגיטלי,
שלא כמו כל מין ביולוגי,
-
יכול להשתכפל לא בתשעה חודשים,
-
אלא בתשע ננו-שניות,
-
ולייצר אינסוף עותקים של עצמו,
-
שלכולם יש יותר כוח
ממה שיש לנו במובנים רבים.
-
כלומר, האפשרות לתוצאות
לא-מכוונות נראית די עצומה.
-
והאם זה לא נכון
שאם מתרחשת בעיה,
-
זה יכול לקרות תוך שעה?
-
מ"ס: לא.
-
זה באמת לא נכון.
-
אני חושב שאין ראיות לכך.
-
ואני חושב ש...
-
זה מכונה לעתים קרובות
"התפוצצות הבינה".
-
ואני חושב שזו סוגיה
תיאורטית, היפותטית אולי
-
שכולנו סקרנים לחקור,
-
אבל אין שום הוכחה
לכך שאנו קרובים למשהו כזה.
-
ולדעתי, חשוב מאוד שנבחר
בזהירות רבה מאוד את המלים שלנו.
-
כי אתה צודק, זו אחת מנקודות התורפה
של דימוי המין,
-
שנעצב את יכולת השכפול העצמי
כחלק ממנה
-
אם יהיו מי שיבחרו לעשות זאת.
-
ואני טוען שלא כדאי,
-
זו תהיה אחת היכולות המסוכנות
שמהן עלינו להתרחק, נכון?
-
אז אין סיכוי
שזה "יופיע" בטעות.
-
אני באמת חושב שזו
סבירות נמוכה מאוד.
-
זה יקרה אם המהנדסים יעצבו
במכוון את היכולות הללו.
-
ואם הם לא ישתדלו מספיק
להוציא אותן מהתכנון.
-
ומכאן החשיבות של בהירות והשקיפות
-
כשמשלבים בטיחות מתוכננת
בשלב מוקדם מאוד.
-
כ"א: תודה לך, החזון שלך,
-
לפיו האנושות מזריקה
לתוך הדבר החדש הזה
-
את החלקים הטובים ביותר של עצמנו,
-
תוך הימנעות מכל הנטיות המוזרות,
הביולוגיות, המשונות והנוראיות
-
שעלולות להיות לנו בנסיבות מסוימות,
-
זהו חזון מעורר-השראה מאוד.
-
ותודה רבה שהגעת הנה
ושיתפת את זה ב-TED.
-
תודה, בהצלחה.
-תודה רבה.
-
(מחיאות כפיים)