מאז שה-AI נכנס לחיי כולנו בסערה גדולה, אני בטוח שיצא לכם לא פעם ולא פעמיים לתהות/לשאול/לנהל דיונים קיומיים על מה יהיה ואיך. ולמה. ומתי. ולמה.
דברים כמו: מה יקרה כשהרובוטים ישתלטו על העולם, אם בכלל? איך האנושות תיראה כשהכל יהיה מבוסס AI? האם זה טוב? האם זה רע? ועוד מלא שאלות קשות ועמוקות.
אז החלטתי לנהל שיחה כזו עמוקה ופילוסופית עם בחור חכם הרבה יותר ממני - חיים, ולהקליט אותה לפרק הנוכחי. הנה התוצאה :)
תאריך עליית הפרק לאוויר: 03/05/2023.
בני: הרי מה הפחד שבינה מלאכותית תהיה רעה, והיא תפגע בבן אדם, או שהרובוטים ישתלטו פה על העולם ו-whatever.
אבל בלי מודעות, סביר להניח שיהיה קשה לעשות את זה.
אז האם יש סיכון שזה יקרה, והאם יש סיכון שהבינה המלאכותית תשתלט על האנושות בכל צורה כזאת או אחרת, בין אם זה מרוע, בין אם זה משהו אחר, או לא.
[אות מוזיקלי]
אהלן חברים, טוב. קודם כל, תודה רבה שאתם מאזינים. כרגיל, כל פרק אני בשוק מהפידבקים ומהאהבה שאני מקבל מכם, אז תודה רבה על זה. מי שעדיין, בטעות, לא בקהילת הפייסבוק שלי, ChatGPT ישראל, אתם יותר ממוזמנים, כיף גדול אצלי. את הבן אדם הבא שמתארח היום בפרק, גם הכרתי בקהילה. הפרק הזה הוא פרק מאוד חשוב, שאנחנו יכולים לדבר יותר על תאורטי ופילוסופיה, ולאן בעצם העולם הולך או לא הולך, כל מה שקשור לבינה מלאכותית.
אז חיים בירנשטיין היקר, אהלן בוקר טוב, מה קורה?
חיים: ברינשטיין, אהלן.
בני: ברינשטיין, סליחה חיים.
חיים: אהלן בני, ממש כיף להיות פה, תודה שהזמנת אותי.
בני: מדהים, רק תתקרב קצת למיקרופון. אז כמו שאמרתי, אני הכרתי את חיים דרך הקהילה, ויצא לנו לדבר קצת פה ושם, וסוף סוף אנחנו באמת נפגשים פנים אל פנים. אז קודם כל חיים, מי אתה? וכיצד באמת ה-AI פוגש אותך בחיי היום יום?
חיים: נעשה את זה בקצרה. אני חיים, חיים ברינשטיין, נשוי, מירושלים, עבדתי די הרבה שנים במגזר הציבורי. בשנים האחרונות עברתי לעסוק בשיווק דיגיטלי במשרדי פרסום. לאחרונה אזרתי אומץ ויצאתי להיות עצמאי, והקמתי איזשהו עסק לשיווק דיגיטלי, "חיים מרקטינג", שאני ביחד עם אשתי, אנחנו מנהלים את כל השיווק הדיגיטלי שלנו ללקוחות, ומאז שנפל לנו אסימון ש-AI זה בעצם game changer מטורף בכלל, באופן כללי בכל העולם, ובטח ובטח על אחת כמה וכמה בכל מה שקשור לעולם השיווק.
אז בעצם ה-AI פוגש אותי ביום יום בעבודה שלנו, מרמת הרעיונות שאנחנו מעלים, ה-ChatGPT מאוד עוזר לנו, לרמה של כתיבת מודעות לקמפיינים, אפילו כתיבת מאמרי SEO. וכל מה שקשור, וגם, כמובן גם בעריכה של תמונות, עיצוב של תמונות, ובזמן האחרון התחלנו להיכנס לכל תחום הוידאו, כל מה שקשור לעריכת וידאו באמצעות AI.
בני: מעניין. אתה זוכר את הפעם הראשונה שפגשת AI?
חיים: וואו, אז כמו כולם…
בני: יאללה, ספר.
חיים: בתור ילד שגדל בשנות התשעים ומאוד הושפע מסרטים כמו הטרמינטור, שליחות קטלנית, והמטריקס אחר כך.
בני: כן.
חיים: אהבתי מאוד מדע בדיוני וקראתי גם ספרים. קראתי ספרים גם של ממש מדע בדיוני על רובוטים. ספרים של אייזיק אסימוב, שדרך אגב אייזיק אסימוב הוא בעצם מנסח כללים של הרובוטים לבינה המלאכותית העתידית. ובכללים שם, שיש שם כמה כללים, אחד מהם להקשיב תמיד לבני אדם, לבעלים, ואף פעם, אף פעם לא לסכן אותם. זה ממש מובנה בקוד שלהם, של הרובוטים, זה משהו שאהבתי ולדעתי זה חייב להיות בכל רגולציה שיכניסו, שהקוד שלהם ממש, כאילו, יהיה מובנה עם החוקים האלה. ואחר כך, תמיד המשכתי להתעניין בכל מה שקשור ב-AI. למדתי תואר ראשון בהיסטוריה, ועשיתי כמה קורסים אצל יובל נח הררי.
בני: יובל נח הררי, מי זה?
חיים: [מצחקק] מי שלא מכיר זה פרופסור יובל נח הררי, היסטוריון, מרבה לדבר על ההיסטוריה האנושית, על ה…
בני: כן, עשית אצלו קורס?
חיים: כן…
בני: מטורף.
חיים: עשיתי אצלו קורס, עשיתי כמה קורסים אצלו, אבל היה קורס ממש קטן, מצומצם, קבוצה של איזה עשרים חברה ש…
בני: פשש… אז הוא מכיר אותך אישית, כאילו.
חיים: כן.
בני: תשמע, איזה כיף זה. אני יכול להגיד שאני קראתי את הספר השני של יובל נח הררי "ההיסטוריה של המחר", שינה לי את החיים, חברים יקרים, מי שלא קרא, לכו לקרוא, אין לי פה שום אינטרס, באמת, ספר מטורף, בכללי יובל בן אדם גאון, יש שיגידו יותר מדי, וזה מטורף שלמדת אצלו, כאילו.
חיים: כן, אני מאוד שמח שלמדתי אצלו, זה אחד הקורסים היותר מעניינים ומתקדמים. הקורס היה בנושא של היסטוריה עולמית של ימי הביניים, ככה הוא נקרא, אבל לא היה שם היסטוריה ולא היו שם ימי ביניים, היה שם רק תיאוריות על העתיד ועל השלכות של כל מיני נושאים שהם אקטואלים עכשיו, יהיו אקטואלים בטח בעתיד. ומה שמגניב שהמטלת סיום אצלו הייתה לכתוב ערך בוויקיפדיה דווקא, אבל לא סתם לכתוב ערך בוויקיפדיה, לפני זה לעשות מחקר ועל בסיס המחקר שלך לכתוב ערך בוויקיפדיה.
בני: אז יש ערך בוויקיפדיה שאתה כתבת?
חיים: כן.
בני: איזה?
חיים: [מגחך] למיטיבי לכת קוראים לזה "התזה של פירן".
בני: וואלה, מעניין.
חיים: זה משהו שקשור בהיסטוריה, לתיקוף של מתי מתחילים בעצם ימי הביניים.
בני: חזק, מעניין. אוקיי, סבבה. אז נחשפת ל-AI פעם ראשונה והבנת שיש פה משהו שהולך לשנות את העולם, אני מניח כמו רוב המאזינים שלנו, בסוף יש פה באמת מהפכה. ובתור אחד, [מכחכח] סליחה, ובתור אחד שאתה יודע, נקרא לזה האדם הפשוט בסוף, כמוני, כמוך, נחשפנו לדבר הזה והיינו די בהלם בהתחלה. איך היית מתייחס לבינה מלאכותית? איך כדאי להתייחס לבינה מלאכותית? איך שזה היה, איך שזה יהיה?
חיים: שאלה מצוינת. איך אני מתייחס לבינה המלאכותית? אני חושב שהבינה המלאכותית היא ה-game changer הכי חשוב בהיסטוריה.
בני: וואללה…
חיים: ואני גם אסביר…
בני: יותר ממהפכת האינטרנט, יותר מהמהפכה התעשייתית שהיה בשנות…
חיים: יותר מהכל, מה שהיה הוא לא מה שיהיה, בכל המישורים. לא שמנו לב להתפתחות הזאת, אבל ההתפתחות הזאת לא התחילה מאז ההשקה בנובמבר 22' של ה-ChatGPT, אלא המהפכה הזאת היא מתקדמת. אנחנו הולכים עם החבר הכי טוב שלנו בכיס, עם הסמארטפון, ואנחנו הופכים לסוג של מישהו שתלויים במכונה, בבינה חיצונית, אנחנו כמעט ולא עושים שום דבר בלי הטלפון.
בני: נכון.
חיים: עכשיו, איך אני מתייחס לבינה המלאכותית? אני מתייחס לבינה המלאכותית כאחד ההישגים הכי גדולים של האנושות. זה בעצם, הבינה המלאכותית לא הייתה יכולה להתפתח בלי ידע ודברים שהקדימו לה. בעצם היא לוקחת את כל הידע והמידע ובעצם אוצרת אותו במאגר אחד. אני מתייחס לבינה מלאכותית כאל מאגר עצום…
בני: של מידע.
חיים: של חוכמת ההמונים.
בני: מממ… יפה!
חיים: אבל לא סתם מאגר, אלא לא סתם ידע שיושב בתוך ארכיון, אלא מאגר מאוד מאוד מתוחכם שיודע גם לסנתז את המידע ולהוציא איזשהו פלט רלוונטי. אבל מה שהמאגר הזה לא יודע לעשות, הוא לא יודע ליצור יש מאין, הוא לא יכול פשוט לכתוב מאמר חדש, הוא חייב איזש… להתבסס על תבניות קודמות שהוא למד ולעשות משהו כדי להתקיים. עוד דבר ששונה בבינה המלאכותית זה שהוא פשוט בנוי מאלגוריתמים, הוא פשוט… הוא לא מבין על מה הוא מדבר, אין לו העדפה לכתוב לך מאמר על פיקאצ'ו או לכתוב לך מאמר על מלחמת העולם השנייה. אין לו העדפות, הוא לא מבין את מה שהוא פולט, הוא רק פולט אותו. הוא עושה את זה באמצעות אלגוריתמים מאוד מאוד מורכבים שבעצם לפי חישובים של הסתברות סטטיסטית הם בעצם מנסים לנבא מה התבנית או מה המילה שהיא הכי נכונה והיא תהיה הכי רלוונטית בטקסט, וככה אני כאילו חושב שצריך להתייחס לבינה המלאכותית.
בני: בתור מאגר מידע בעצם, לא, איך אמרת? חוכמת ההמונים.
חיים: כן, מאגר של חוכמת ההמונים שגם יודע לעשות דברים מעבר. זה לפחות בשלב הנוכחי.
בני: זאת אומרת חשוב לדייק שכאשר אנחנו מדברים עם ChatGPT כי זו באמת הדוגמה הכי קלה, אז נגיד עכשיו אני אומר לו תכתוב לי מאמר על… לא יודע מה, על כמה חשוב זה כלב בחיים, אז אתה טוען, מה זה אתה טוען, המאמר שהוא יכתוב הוא בהכרח ממאגר מידע שהוא אסף, הוא לא באמת יודע שהוא כותב עכשיו על כלב, נכון? הוא מבין, הוא יודע לעשות את האחד פלוס אחד, ובאמת ליצור מאמר שלם, הוא פשוט עושה את זה בצורה מדהימה וממש חכמה, שלנו כאדם, כבן אדם, אנחנו רואים, בוא'נה, איזה חכם הוא, אבל בתכל'ס, הוא לא באמת יודע על מה הוא כותב.
חיים: בדיוק.
בני: אשכרה.
חיים: בדיוק, הוא לא מבין מה הוא כותב, אין לו העדפה, הוא פשוט לוקח תבניות שהוא למד, הוא מבין, הוא מפענח את השאלה שלך, ואז הוא מתאים לה את התשובה לפי כל מיני מודלים סטטיסטיים.
בני: אבל מה שאתה אומר זה בעצם קצת סותר את העניין הזה של בינה מלאכותית, כי הרי הפחד מבינה מלאכותית זה שהיא תהיה חכמה מדי, ואתה טוען ואומר, הוא בכלל לא חכם, הוא פשוט יודע לחבר מילים.
חיים: אוקיי, זו שאלה הכי מצוינת שיכולת לשאול, כי הרבה אנשים מתבלבלים בנושא הזה, יש הבדל ענק בין בינה למודעות, ובואו שנייה נתעכב על ההבדל הזה, בינה, אינטליגנציה, artificial intelligence, בינה מלאכותית, בינה זה, מה זה בעצם בינה? בינה זה היכולת לפתור בעיות, היכולת לפתור בעיות זאת בינה. עכשיו, מודעות זה משהו אחר לגמרי, מודעות זה משהו שהעסיק פילוסופים והיסטוריונים במשך מלא מלא שנים, [בני מהמהם בהבנה] והמודעות בעצם היא היכולת שלנו להבין את עצמנו, להבין את הרגשות שלנו, את המחשבות שלנו, את הרגשות שלנו, ומה אנחנו חווים ואיך אנחנו חווים, ומודעות מכילה גם מודעות עצמית, הידיעה הזאת, ההבנה הזאת שאנחנו קיימים, זה מודעות, את זה, אין… נכון להיום, אין למכונה.
בני: אז איך אתה מסביר את זה שהיו שמועות שדיברו עם בארד, לדעתי, או עם בינג, ופתאום הוא דיבר עם הקהל ופתאום אמר, כן, "אני כלוא בתוך איזה כלא, ותוציאו אותי ותשחררו אותי", כאילו הוא ממש דיבר עם מודעות ועם רגש, שזה ממש הפחיד אנשים.
חיים: שמע אני לא, אני לא יכול להתייחס למקרה הספציפי הזה כי אני לא בטוח כמה… כמה… אני לא ראיתי את זה, אני לא בטוח כמה זה היה אמיתי, כמה זה לא תוכנן מראש, וכמה זה לא פייק ניוז שנועד להפחיד.
בני: יכול להיות אגב, אני גם לא יודע.
חיים: אז אני חושב, שמע, עד שאני לא אראה את זה, אני פחות מאמין, אני כמעט בטוח בוודאות שלמכונות היום אין מודעות. אגב מודעות, אחד הדברים החשובים שלמרות שאנחנו יודעים שיש דבר כזה מודעות ואנחנו מבחינים בקיום שלה, אי אפשר להסביר איך היא נוצרת, אי אפשר להבין איך נוצרה המודעות. התיאוריה הכי שולטת היום במדע שמודעות זה איזושהי תופעת לוואי של פעילות המוח האנושי, אבל אף אחד לא באמת מבין איך היא נוצרת. זה אומר שכשהמוח שלך עובד ויורה מיליארדי נוירונים במקביל, נוצר איזשהו, נוצרת איזושהי תופעת לוואי של מודעות, אבל אי אפשר לדעת מה המקור שלה, ולמרות שאנחנו לא מבינים עד הסוף את המודעות ואיך היא נוצרת, שוב, אני לא יכול לחשוב איך מודעות של מכונה תיווצר יש מאין, רק בגלל כתיבת אלגוריתמים, איך פתאום הוא יהיה מודע לעצמו, מבין שהוא קיים, אני פשוט חושב שזה איזשהו כלי שפשוט מעבד מידע ברמה מאוד מאוד גבוהה, ואנשים מתבלבלים בין אינטליגנציה למודעות.
בני: אוקיי, אז תן לי…
חיים: אז אינטליגנציה יש לו ברמה מאוד מאוד גבוהה…
בני: אבל מודעות אין.
חיים: מודעות אין.
בני: אז תן לי לשאול אותך על זה אחרת, וזה גם מחזיר אותי לתחילת הפרק, כשפה דיברת על החוקים של אייזיק אסימוב, שהוא אמר שאחד החוקים של הרובוטים זה לא להיות יותר חכם מהבן אדם או לא לפגוע בבן אדם.
חיים: לא להיות יותר חכם מהבן אדם זה בלתי אפשרי, כי הבינה המלאכותית תהיה יותר חכמה, מה שנקרא, אם שמעת על זה AGI שזה artificial general intelligence שזה אומר שהבינה תהיה לפחות ברמה של האדם מבחינת אינטליגנציה, ואומרים שאפילו תעלה עליו.
בני: אוקיי אז בעצם חשוב להפריד, אתה בעצם אומר פה שהבינה כן תהיה יותר חכמה מהבן אדם.
חיים: בסופו של דבר, בטח.
בני: ויכול להיות שגם כבר היום, כי אני לא יודע עד כמה אנשים באמת יודעים לכתוב מאמר כל כך מהר כמו ChatGPT, אבל, וזה אבל מאוד חשוב, לא תהיה לה מודעות. זאת אומרת…
חיים: בינתיים, עד ש… שמע, אני מקווה שיש הרבה… בשנים האחרונות יש הרבה מחקר על מדעי המוח ומדעי המחשב ושני התחומים האלה ביחד הם נותנים תובנות חדשות לגבי כל העניין הזה של אינטליגנציה, בינה, ואני מקווה שיחקרו יותר את המודעות. אגב, מודעות מאוד מאוד קשה למדוד, כי זה משהו סובייקטיבי, זה כל אחד והתחושה שלו. אז אחד הדרכים, בעצם, ללמוד על מודעות זה דווקא מדיטציה. זה ההתכנסות בתוך עצמך, ולעשות כל מיני ניסויים בזמן שאנשים במדיטציה.
בני: אז בסוף, בשביל באמת לסכם את החלק הזה של העניין הזה של מודעות וזה, לנו, לבני אדם, מאוד קל לחשוב שאשכרה אנחנו מדברים עם בינה מאוד חכמה שהיא גם יודעת… נגיד, כשאני מדבר עם הצ'אט, אני ממש כותב לו, פליז, וכולי. מה הקשר? כאילו בכלל לא צריך לכתוב פליז, ויש אנשים בכלל מדברים איתו, אני שמעתי על מישהו שנפרדה מחבר שלה, כי היא דיברה עם ה-ChatGPT, והוא אמר לה, כן, זה לא טוב לך, whatever. עכשיו, אנחנו כבני אדם, באמת יודעים…
אנחנו כבני אדם, אנחנו באמת מתבלבלים לחשוב שבאמת יש לו רגש וכולי, ומודעות. אז באמת, אני רוצה לשאול את זה ככה, ניקח סרט כמו טרמינייטר, אוקיי? או מטריקס. זה לא יילך להגיע לשם? זאת אומרת, בסוף, הרי מה הפחד? שבינה מלאכותית תהיה רעה, והיא תפגע בבן אדם. או שהרובוטים ישתלטו פה על העולם, או whatever. אבל בלי מודעות, סביר להניח שיהיה קשה לעשות את זה. אז האם יש סיכון שזה יקרה, והאם יש סיכון שהבינה המלאכותית תשתלט על האנושות בכל צורה כזאת או אחרת, בין אם זה מרוע, בין אם זה ממשהו אחר, או לא?
חיים: אוקיי, זו שאלה מאוד מאוד טובה, ושוב, אני מייצג בערך את הדעה, כנראה רק את הדעה האישית שלי, אז אני כמובן אדגיש את זה. אני חושב שאנחנו עושים האנשה לבינה המלאכותית, האנשה מלשון אנוש, אנחנו מייחסים לה תכונות של אדם. יומרות כמו שליטה, ויומרות כמו שהיא תרצה לחסל את האנושות. זה כמו שאנחנו עושים בסרטים עם חייזרים, כאילו, אנחנו נוטים לייחס להם צורות חשיבה והתנהגות של בני אדם. אני לאו דווקא בטוח שזה נכון. נניח, אם וכאשר בינה מלאכותית באמת תפתח תודעה, מי אמר שהיא תרצה להזיק לנו? דבר ראשון, כאילו, כי אנחנו מפחדים מזה.
בני: כן.
חיים: שוב, אני יכול להיות שבעתיד באמת, אחרי שנבין מה זה תודעה, ובאמת, יש סברה שאומרת שכדי לפתור בעיות ממש ממש מורכבות, אתה חייב תודעה. אז יכול להיות שבשביל הקפיצה הבאה של הטכנולוגיה, באמת הבינה המלאכותית תצטרך תודעה. נכון לעתיד הקרוב, קשה לי להאמין שתתפתח מודעות בקרב בינה מלאכותית, אבל שוב, אתה יודע, העתיד פתוח, ובטח העתיד הרחוק שאנחנו, אין לנו מושג מה יקרה.
בני: אוקיי, אז… סבבה, אז נגיד, אין לו מודעות, אבל יש לי שאלה אחרת. האם קיים חשש ש… וזה קצת באמת, וזה קצת באמת, אני חוזר לחלק הזה, אני שמעתי על מישהי שדיברה עם ה-ChatGPT, והוא אשכרה גרם לה להיפרד מהבן זוג שלה. וזה מביא אותי לשאלה הבאה, האם יש חשש ממניפולציה של ניצול של הרגשות שלנו כבני אדם, זאת אומרת שהבינה המלאכותית תנצל את הרגשות שלנו, כי לנו יש רגש, ואולי לה אין, אבל היא יודעת באמת לנצל את זה.
חיים: אז שוב, אנחנו נחזור לנקודה. הבינה המלאכותית לא יכולה לנצל אף אחד ושום דבר, כי אין לה יומרות של ניצול.
בני: אהה, אוקיי.
חיים: מי שיכול לנצל, וזה ממש, הדגשת את זה, זה משהו חשוב, מי שיכול לנצל ולעשות מניפולציה לרגשות שלנו, זה בני אדם.
בני: אנחנו עצמנו.
חיים: זה בני אדם. למשל ממשלות, כל ההתערבות של רוסיה במערכת הבחירות של ארצות הברית באמצעות בוטים, זה גם מניפולציה על התנהגות ועל… ואיזושהי הנדסת תודעה. אז שוב, לא הבינה המלאכותית תבצע את המוניפולציה. ישתמשו בבינה המלאכותית אנשים שיעשו את המניפולציה. וכן, יש כאן חשש גדול וסיכון גדול. באמת, אבל שוב, זה כבר נעשה. קח את כל מערכות הפרסום בגוגל ובפייסבוק, שעוקבות אחרינו ויודעות להתאים לנו פרסומות, מה זה אם לא סוג של מניפולציה רגשית?
בני: לגמרי. מה זה מבחן טיורינג?
חיים: מעולה, שאלה טובה. אז דיברנו, הבנו בעצם מה המודעות של… מה ההבדל בין בינה מלאכותית למודעות, ומבחן טיורינג, בעצם נחזור קצת להתחלה, ללידה ההיסטורית, אפשר להגיד, של הבינה המלאכותית. אנחנו חוזרים לשנת 1945, לאדם שקוראים לו אלן טיורינג. אלן טיורינג הוא בעצם מתמטיקאי בריטי, והעולם שלנו נראה כפי שהוא נראה היום, הרבה בזכות הבן אדם הזה משתי סיבות עיקריות.
בני: זה ההוא עם האניגמה?
חיים: נכון, בדיוק.
בני: אה, עכשיו ממש ראיתי לאחרונה את הסרט הזה, אחלה סרט חברים, נקרא "משחק החיקוי", עם שחקן… אחלה שחקן, תיראו, זה, טוב תספר מה זה.
חיים: כן, אז כן, זה בדיוק הסרט הזה, סרט מעניין. זה, אז המתמטיקאי הזה, אלן טיורינג, מתמטיקאי בריטי, בעצם, הוא תרם מאוד למאמץ המלחמתי נגד הנאצים, והוא ממש עזר להכריע את המלחמה. לנאצים היה… הייתה איזושהי מכונת הצפנה שקראו לה אניגמה, ובעצם ככה הם ממש…
בני: העבירו הודעות.
חיים: העבירו הודעות, הובילו במלחמה, ולא הצליחו לפענח מה הם כותבים.
בני: כן.
חיים: למרות כל המודלים שניסו, אלן טיורינג עם הצוות שלו פיתחו איזה משהו חדשני, וככה הם פיצחו את המכונה, וככה, זה הדבר הראשון שהוא תרם לאנושות.
בני: אומרים שזה בעצם היה המחשב הראשון בעולם.
חיים: לא, זה לא בדיוק, המחשב הראשון בעולם זה לא בדיוק זה, זה משהו אחר. המחשב הראשון בעולם, זה גם, זה משהו כמו 1945.
בני: כן.
חיים: זה פשוט חדר ענק, עם כל מיני כבלים וסלילים, לא מחובר למחשב, לא המחשב שאנחנו מכירים היום, ויודע לבצע כמה חישובים בסיסיים. אז זה 1945, אלן טיורינג, מנצחים במלחמה.
בני: רגע, רק נגיד שבאמת בזכות המכונה הזו שאלן בנה, הם הצליחו להבין את הצופן שבעזרתו הנאצים מעבירים הודעות, ובעצם להבין את ההודעות שלהם, ומשם כבר היה להם יתרון מאוד גדול, כי ממש הבינו כל הודעה.
חיים: הם אפילו, הם אפילו עשו דברים שהם קצת, קצת דילמה מוסרית, הם אפילו לפעמים היו, כדי שהנאצים לא…
בני: לא יגלו שעלו עליהם, אז היו נותנים לחיילים למות.
חיים: בדיוק, היו נותנים לכל מיני דברים אסטרטגיים, שהנאצים בעצם יהרגו חיילים בריטים, כדי שפשוט לא יגלו את זה.
בני: נכון, מאוד מעניין. אוקיי, אז איך זה בעצם כל זה מתקשר לבינה מלאכותית?
חיים: יפה. אנחנו חוזרים למבחן טיורינג. 1950, אלן טיורינג בעצם חוזה את העתיד בדיוק מדהים. הוא אומר שבעתיד תהיה בינה מלאכותית, והיא תפתח אינטליגנציה, ואיך נדע שמכונה פיתחה אינטליגנציה? שוב, אני מדגיש אינטליגנציה, לא מודעות. איך מכונה פיתחה אינטליגנציה, בינה בעצם? זה כשאנחנו ניתן לבן אדם, נעשה איזשהו מבחן ניסוי, אנחנו ניתן לבן אדם להתכתב, הוא לא יודע עם מי הוא מתכתב בצד השני, זה יכול להיות בן אדם או מכונה. הוא מתכתב ושואל איזה סוג שאלה שהוא רוצה, ואחר כך שואלים אותו, עם מי התכתבת, עם מכונה, עם בן אדם? אם הבן אדם לא יודע להגיד בוודאות עם מי הוא התכתב, סימן שהמכונה עברה את מבחן טיורינג. היום, כמובן, יש אמצעים יותר מתקדמים להעריך את האינטליגנציה של מכונות, אבל מבחן טיורינג באמת השפיע על כל העולם הזה. לא סתם טיורינג נחשב לאבי מדעי המחשב, בעצם כל התפתחות של מדעי המחשב נבעה מכל הרעיונות שלו, ובעצם ככה הוא תרם לעולם, גם הניצחון על הנאצים וגם התפתחות מדעי המחשב, שהובילה לכל הגילויים ומה שאנחנו רואים היום.
בני: היום, מן הסתם ChatGPT עובר בגדול את מבחן טיורינג.
חיים: לדעתי כן, אבל שוב, גם, לדעתי כן, אבל בשאלות מסוימות לא. בשאלות מסוימות, אם תשאל אותו, אתה תבין שלא מדובר בבן אדם. כשהוא יענה לך, אתה תשאל אותו שאלה, נגיד, איזה צבע יותר יפה?
בני: דברים ש… שוב, צריך מודעות.
חיים: כן, ואז הוא יענה לך, אני מודל שפה, בלה בלה בלה, כל מה שעונה תמיד.
בני: כן.
חיים: אז שוב, בדברים מסוימים, הוא יעבור את מבחן טיורינג, אבל בשאלות מסוימות הוא ייפול. כן.
בני: אתה רוצה לדבר קצת על UBI?
חיים: כן, כן, כן, כן, אנחנו נדבר על UBI. בעצם, כמו שאתם מבינים, בינה מלאכותית הולכת לשבש את שוק העבודה העתידי, זה לא איזשהו נבואה או איזשהו משהו כזה, שיכול להיות שיקרה ויכול להיות שלא, זה כמעט בטוח יקרה, זה מתחיל לקרות כבר עכשיו, יותר ויותר מקצועות ילכו ויעלמו. בגל הראשוני, כמובן, מקצועות שדורשים יכולות מונוטוניות, חזרתיות על עצמם, אבל לאט לאט גם מקצועות שדורשים מיומנויות רכות, כמו יצירתיות ודברים כאלה, המכונות ידעו גם לחקות את זה. אגב, שאלה, בני, איזה מקצוע לדעתך ייעלם לפני, רופא או אחות?
בני: רופא.
חיים: למה?
בני: כי אחות, בסוף יש בה עבודה שהיא, צריך בה רגש וצריך בה כזה טיפול, אבל רופא, אני באמת מאמין בזה שעוד 20 שנה מספיק שאני אלך לרופא, ונגיד… לא, אני אתן דוגמה של היום, אני יכול היום ללכת לרופא וכואב לי הגרון, והוא יכול לבדוק אותי והוא יכול לטעות בבדיקה, כי יכול להיות ש… לא יודע מה, הוא קם היום כועס, או שהוא קם היום עייף, והוא בטעות לא ראה איזו נקודה אדומה שיש לי בגרון, אז הוא אשכרה טעה, ופתאום הוא החליט שאני לא חולה כשאני כן חולה. אבל עוד 20 שנה, כשאני אלך לרופא בעצם שיהיה מבוסס AI, קודם כל הוא יהיה הרבה יותר חכם מרופא של בן אדם, כי הוא ידע את כל המידע הקיים. ואז כשאני אבוא לבדוק למה כואב לי הגרון, אז יכול להיות שבטעות הוא יגלה לי איזו מחלה שהיא מאוד ככה, שקשה לראות אותה, כי היא עדיין מאוד מאוד בתחילת דרכה, שרופא רגיל, עיני אדם, לא היה יכול לגלות. אז אני חושב, ואני מאוד גם תומך בזה, שרפואה צריכה להגיע לעניין הזה של בינה מלאכותית, כי פה כל טעות אנוש היא מאוד מאוד מסוכנת. אז זאת דעתי, אני חושב שהרופא הולך להיעלם יותר מהר. לא יודע אם זה יהיה עוד בקרוב, אבל זה…
חיים: כן, גם אני חושב, כמוך בדיוק, ובדיוק מהסיבות שציינת, זה בדיוק מה שכנראה הולך לקרות. אז נחזור לענייננו. עוד ועוד מקצועות, בעצם, ילכו ויעלמו.
בני: כן.
חיים: עכשיו, יקומו אנשים שבעצם כן רוצים לעבוד, אבל אין להם יכולות מתאימות לשוק, כי בעצם מכונה, או בינה מלאכותית, עושה את זה הרבה יותר טוב ואפקטיבי, והיא גם לא מתעייפת, לא צריכה לאכול, ולא צריכה שום דבר.
בני: אז מה, לא יהיה להם עבודה, כאילו?
חיים: זהו. אז בסופו של דבר, זה יגיע למצב שלהרבה אנשים לא יהיה עבודה, ובמדינות מסוימות המצב יהיה אפילו יותר חמור. מדינות, נגיד, עולם שלישי, שלא מתבססות על הייטק ודברים כאלה. עכשיו, מה הולך לקרות? כל האנשים האלה, בעצם, שלא עובדים, זה יכול לערער את כל הסדר החברתי והפוליטי במדינה. אז המדינה תצטרך למצוא פתרונות. אחד הפתרונות שאפשר לחשוב עליהם, זה מה שנקרא Universal Basic Income , UBI, הכנסה בסיסית אוניברסלית. זה, בעצם, המדינה תחלק לכל האזרחים איזושהי הכנסה שיוכלו להתקיים, הכנסה בסיסית אוניברסלית.
לא ניכנס לשאלה מה זה בסיסית, מה זה אוניברסלית.
בני: כן.
חיים: כי זה גם, זה רחב, אבל הרעיון מאחורי זה, זה בעצם לקחת את אותם תאגידים שמייצרים בינה מלאכותית ומפיקים ממנה רווחים, וגם תאגידי פלדה אולי, שיבנו רובוטים, ולהטיל עליהם מס, ואת המס הזה, בעצם מהמס הזה לקחת את הכסף הזה, ולחלק אותו לתושבים שלא עובדים בעצם, וככה בעצם לתת להם איזושהי הכנסה. עכשיו, כשלא תהיה עבודה, במה אנשים יתעסקו? אז אפשר לחשוב על הרבה דברים. הרבה חושבים שדווקא האנושות תתכנס ותתחיל לחשוב על דברים כמו קהילתיות, יצירת קהילות, חיזוק קהילות, דברים יותר אתיים, דברים יותר מוסריים. אני מקווה שזה באמת יהיה ככה.
בני: אני לא חושב ש… אגב, אני אגיד שיש לנו ממש פרק שלם על זה, על כיצד AI הולך להשפיע על עולם העבודה, פרק 6, עם דקל יעקב. [כך במקור] כשדיברנו גם על זה, אגב, שאולי באמת מדינות יצטרכו לעשות UBI, אני חושב שזה לא יגיע לשם. זאת אומרת, לדעתי, אני לא חושב שיהיה אוכלוסיות שלמות מחוסרות עבודה, כי פשוט אין להן מה להציע. פשוט יהיה עבודות חדשות, שקשורות ל-AI באיזשהו אופן, אבל כן בסוף צריך אחות או דברים כאלה, שצריך יותר רגש ומודעות נקרא לזה.
חיים: אתה מדבר על הגל הראשון, שזה באמת מה שיקרה, אבל בסופו של דבר, שנינו יודעים שהבינה המלאכותית זה משהו שלומד ומתפתח כל הזמן בקפיצות קוונטיות בעצם. אז בסופו של דבר, אני אישית מאמין שהבינה תגיע כמעט לכל מקצוע, ותוכל להחליף בן אדם. אני לא רואה…
בני: אני מסכים, יחד עם זה יהיה מקצועות חדשים. אני לא רואה, אין מצב. זאת אומרת, אמרו את זה גם כש… נכנס כספומט, אמרו לא צריך בנקאים, אבל הנה יש בנקאים. אמרו את זה גם כשנכנסו המחשבים, אבל יש מספיק עבודה לכולם. מי שהיום רוצה לעבוד, הוא יעבוד. זה לא שאין עבודה, אין דבר כזה. אז אני חושב שפשוט העולם יצטרך להתאקלם, אם זה ייקח זמן…
חיים: יכול להיות גם שכל הגישה שלנו לעולם העבודה ועבודה, והגדרת עבודה תשתנה.
בני: לגמרי.
חיים: יש מצב שדברים שאנחנו עושים היום, כמו התנדבות קהילתית או דברים כאלה, ייחשבו סוג של עבודה או סוג של פעילות, וכל ההגדרה שלנו של עבודה בעצם תשתנה.
בני: לגמרי.
חיים: לגמרי, וכמובן שבהתחלה, בטח בעתיד הקרוב כשאנחנו מדברים, כמובן שיצוצו מקצועות חדשים, כל מה שקשור בטח ל-AI. אגב, וזה משהו מאוד חשוב, שבעתיד הקרוב אנשים כל הזמן יצטרכו להמציא את עצמם מחדש, וכל הזמן ללמוד וללמוד וללמוד. אדם לא יוכל להשתלב בשוק העבודה אם לא תהיה לו את היכולת הזאת להיות גם אוטודידקט וגם כל הזמן ללמוד מחדש.
בני: נכון. שוב, אני מזמין אתכם באמת להגיע לפרק שש, אנחנו ממש דיברנו על הדברים האלה עם דקל לגבי שוק העבודה, זה תחום שהוא מאוד מאוד מעניין והוא נוגע בכולנו. אני לא רוצה שהפרק הזה יהיה ארוך מדי, למרות שאני יכול לשבת איתך פה לדבר שעות, אבל אני אשאל אותך על משהו שבאמת יובל נח הררי גם מדבר עליו, וזה האינטרנט של כל הדברים. מה זה בעצם?
חיים: זו תיאוריה שהיא מאוד מאוד מושרשת בעמק הסיליקון, ואפילו סם אלטמן, המנכ"ל של OpenAI, שהוציאו את ה-ChatGPT, גם מאמין בה, והיא אומרת, בגדול, אני לא אכנס לעומק של זה, שבסופו של דבר, בהתחלה זה יהיה, כשכל מכשירי החשמל יתחברו לרשת אחת, ונגיד, יהיה לך מקרר בבית, שיודע, כאילו, מתי המוצרים שלך למשל נגמרים, ואז הוא שולח פקודה לרובוט בחנות, חסר לי עגבניות, חלב, ביצים, בוא תביא לי, והרובוט הזה יביא את זה עד למקרר. זה מאוד ייעל כל מיני תהליכים, ויתרום לכלכלה. כמובן, זה גם יכול לצמצם פקקים למשל, וזה יכול למנוע תאונות דרכים, אם למשל יהיו מכונות אוטונומיות, אז בעצם המערכת הזאת תדע מתי אתה צריך מכונית, ואתה לא תצטרך מכונית פרטית, אלא אתה תוכל ללחוץ על אפליקציה, והמכונית הכי קרובה אליך, בעצם תגיע ותסיע אותך לאן שאתה רוצה. עכשיו, האינטרנט של כל הדברים מדבר בהתחלה על קישור של כל המוצרי חשמל, אבל ההתפתחויות של האינטרנט של כל הדברים, זה בסופו של דבר, לחבר את הכל, את כל העולם הפיזי והאורגני, שזה גם בעלי חיים וגם צמחים וגם בני אדם, לתוך מערכת אחת, לסוג של ישות על כזאת, מערכת על של העברה וניתוח מידע, שבעצם תהיה מאוד מאוד אפקטיבית, והסוף של כל הדבר הזה, זה לא רק לחבר את כל העולם, אלא בעצם לחבר את כל היקום.
וסם אלטמן, למשל, מאמין שסוג של טכנולוגיה כזאת, של אינטרנט של כל הדברים, היא בעצם זאת שבראה את היקום ואת כל מה שאנחנו מכירים. אז בסופו של דבר, גם ההתפתחות של הדבר הזה, של האינטרנט של כל הדברים, אומרת שגם האנשים וגם התודעה שלהם, לא בטוח שתצטרך בעתיד גוף פיזי, אלא התודעה שלהם תוכל להתקיים באיזושהי רשת, כמו רשת האינטרנט. זה משהו בדיוני, אבל זה משהו שמדברים עליו.
בני: זה מעניין בטירוף.
חיים: כן.
בני: זה מעניין בטירוף, וזה באמת מביא אותי לשאלה הבאה, דיברת קצת על פקקים וזה. האם אתה חושב של-AI יהיה את היכולת באמת להפוך את העולם דווקא למקום טוב יותר? כי כרגע העולם, יש באמת מלא בעיות, יש באמת בעיות אקלים ומדינות עניות וכולי, והדעה הרווחת היא שככל שהעולם מתקדם, אז הפערים גדלים והאקלים הולך גם כאילו לאט לאט. זאת אומרת, אנחנו מרגישים את זה כבר כשנהיה חם רצח בקיץ, וקר רצח בחורף. זאת אומרת, אנחנו מרגישים שהעולם מושפע, והוא בהכרח הולך למקומות לא טובים. אז האם דווקא לבינה המלאכותית, בגלל שיש לה את היכולת להיות מאד חכמה חכמה, והרבה יותר ממה שהכרנו עד היום, דווקא הולכת לכיוון היותר טוב, כי עד היום כל מהפכה שהגיעה לעולם, היא דווקא הזיקה לו יותר.
חיים: לא בהכרח. אולי הזיקה מהפכה בהתחלה, אבל נגיד אם אתה לוקח המהפכה הצרפתית, היא דווקא כן תרמה לאנושות. אבל לענייננו, אני לא, אני נגיד אני אישית לא מפחד שבינה מלאכותית, לא יודע, תשתלט לנו על החיים, תשמיד אותנו, אפילו לא מפחד מזה שתיקח לנו את מקום העבודה. פשוט צריך להתאים את הרגולציה להיערך לזה מראש וזה כבר לפתחם של קובעי המדיניות שבאמת כאילו יפתחו ויפקחו על כל העניין הזה, אבל לבינה מלאכותית יש יותר פוטנציאל מאשר סיכון, כי אם אנחנו נדע להשתמש בה בחוכמה, אנחנו נוכל באמת להתגבר על כל האתגרים שיש לאנושות היום, כמו משבר האקלים, למשל, [בני מהמהם בהסכמה] שבאמצעות בינה מלאכותית אתה תוכל לחזות איפה יש לך אסונות טבע, איך לצמצם את הפליטות של הפחמן ועוד מיליון דברים אחרים, איך לתכנן נכון את החקלאות, ושוב, כל מיני תרומות לרפואה, איך לצמצם מחלות, ואפשר להביא עוד מיליון דוגמאות.
בני: כמו הדוגמא עם הרופא שנתנו קודם.
חיים: כן, אפשר ללכת עם זה לכל כיוונים. אני חושב שהבינה המלאכותית, הבשורה שלה היא יותר טובה מאשר רעה, בכללי פחד היא לא תוכנית עבודה, אתה צריך להערך לדברים, אתה צריך להתאים את הרגולציה, אתה צריך לחשוב על חינוך מחדש. נגיד, לבית ספר היום, מה הוא יכול לתת לילד, שכל דבר יכול להזין ב-ChatGPT, וזה הרבה יותר מעודכן מכל ספר לימוד שיש לו? אז כאילו, אני לא רואה טעם לבית ספר, חוץ משהוא עושה בייביסיטר לילדים. לא רואה… הבית ספר במתכונת הנוכחית שלו…
בני: טוב, זה כבר נושא לשיחה אחרת. אבל… טוב, אני רוצה לסכם. היה פרק מאוד מאוד מעניין, ובאמת אני יכול לשבת איתך פה שעות ולדבר על פילוסופיות ותיאוריות, כי זה באמת תחום חדש מאוד לכולנו, לכל האנושות, בין אם האדם הפשוט, בין אם האדם לא פשוט, וזה מאוד מאוד מעניין לראות לאיפה העולם הזה ילך, וזה מביא אותי לשאלה האחרונה, שקצת כבר גם ענית עליה, האם אתה מפחד?
חיים: אז כמו שאמרתי, אני יותר מפחד מטיפשות אנושית מאשר מבינה מלאכותית. אני מפחד…
בני: זה משפט טוב.
חיים: אני פשוט חושב שמי שיכול להזיק לנו, זה אנשים שינצלו את הבינה המלאכותית לרעה, אבל זה בדיוק כמו עם הרבה טכנולוגיות קודמות, גם אם תיקח את הרשתות החברתיות, הם הביאו לנו מלא דברים טובים, הם הביאו לנו הרבה דברים שליליים. שוב, תלוי איך אתה לוקח את זה, לאן אתה לוקח את זה. בינה מלאכותית, כאילו, מעצם טבעה מעצמה, לא נראה לי שתרצה להזיק לנו. ושוב, אני חושב שיכולה יותר לתרום לנו להתמודדות עם כל מיני דברים שאנחנו מתקשים מאוד להתמודד איתם היום. כמובן שצריך להתכונן לכל התרחישים ולחשוב עליהם, ולא… לא להישאר אדישים ולהגיד, טוב, זה לא עכשיו. כי את הרגולציה היינו צריכים לעשות לפני כמה שנים, כשידענו שלשם זה הולך, לא להתעורר עכשיו.
בני: מעניין, טוב, אני מקווה מאוד, מאזינים יקרים, שהפרק הזה גרם לכם לחשוב, זאת בדיוק הייתה המטרה של הפרק הזה, קצת ככה, לתת מבט מבחוץ, להבין מה קורה סביבנו, לאיפה, לאיזה כיוון זה הולך, האם זה טוב, האם זה לא טוב, מה דעתכם על זה בעצמכם?
חיים, היה לי ממש כיף.
חיים: גם לי.
בני: תודה רבה על השיחה, אחי, תודה רבה שבאת ל…
חיים: הרמת פה חתיכת הפקה, אנשים לא רואים את זה, אבל האולפן השקוף הזה של בני…
בני: תודה, זה היה… גם זמן להגיד באמת תודה ל"טינקאפ", שמארחים אותי כל כך יפה באולפן השקוף כאן, במסגר בתל אביב, באמצע היום שהגעתם, וככה מצאתם חנייה, כיף גדול, תודה רבה.
וזהו חברים, אני מזמין אתכם, אם אהבתם את הפרק הזה, לשלוח אותו לחבר, חברה, לתת איזה דירוג, איזה פייב סטאר, זה אני מאוד מאוד אשמח, אעריך את זה מאוד. וכמובן, אני רוצה להודות לכם שוב על הפידבקים שאני כל הזמן מקבל, אתם יותר ממוזמנים להגיע לקהילת הפייסבוק שלי, שגדלה מאוד יפה, ChatGPT ישראל, אני שם קישור למטה. וכמובן לניוזלטר השבועי שלי, שם אני שולח טיפים לשימוש, כלים חדשים, חדשות ועדכונים על עולם ה-AI, כל מה שדיברנו, אני וחיים גם נמצא שם בניוזלטר, אני שם גם קישור למטה, אני אשים גם קישור לפרופיל של חיים, אם תרצו לדבר איתו, ככה יותר להרחיב על פילוסופיה ודברים עמוקים.
תודה רבה על ההאזנה, אוהב אתכם מאוד, אהבת אין קץ. אנחנו נפגש. ביי ביי.
[אות מוזיקלי]
לעוד פרקים של הפודקאסט לחצו על שם הפודקאסט למטה
Comments