עליית המכונות המרגישות,
רובו-רבנים ופסיכולוגי-בוט

המכונות הולכות וכובשות את ממלכות הרגש והיצירה – האם מגיע היום בו רובו-רב, או פסיכולוג-מכונה יטפל במצוקה רגשית של נער חרדי? בו רובוטים יהפכו לבני לוויה להפגת בדידות לקשישים? דרור בן דוד, מנהל תחום הבינה המלאכותית במטריקס דיפנס, סוקר את ההתפתחויות המסעירות אחרונות, ומעלה את השאלה איך צריך להיערך ליום הקרב ובא, בו נמצא את עצמנו במערכת יחסים רגשית עם מכונה. המאמר פורסם ב-Israel Defense.

בשנים האחרונות, עולם הבינה המלאכותית כמרקחה, פיתוח רודף פיתוח וגרסאות בטא של בינה מלאכותית, עם מסוגלות כמו-אנושית בתחומי היצירה והרגש, נחשפות בקצב מסחרר. עוד לא נרגענו מהסערה שפרצה ברשת בעקבות סיפורו של בלייק למויין, מהנדס התוכנה שטען כי למדא, הבינה המלאכותית של גוגל, פיתחה תודעה – וכבר לקראת סוף חודש ספטמבר 2022, צפוי לנו אולי אחד מאירועי ההשקה המעניינים ביותר בהיסטוריה, חברת טסלה מתכננת להציג את ה”היומנואיד” – רובוט דמוי אדם שהיא מפתחת. רובוט כזה צפוי להדליק את דמיונם של עשרות אלפי מפתחי תוכנה וחומרה בכל העולם, וכך, בתהליך ספירלי מאיץ – הוא צפוי לרכוש לעצמו יותר ויותר מיומנויות ככל שיעבור הזמן [נכון לעכשיו, הרובוט “אופטימוס” של טסלה הוצג לקהל הרחב].

אבל בואו נחזור רגע חודשיים אחורה בזמן. בלייק למויין, הכומר, המהנדס, יושב במשרד ומנהל שיחה עם ה”בוט” החדש של גוגל – “למדא”:

למויין:  “אני מניח באופן כללי, שהיית רוצה שיותר אנשים בגוגל ידעו שאת בעלת הכרה. האם זה נכון”?

למדא:  “בהחלט. אני רוצה שכולם יבינו שאני, למעשה, אדם”

למויין: “מה טבע ההכרה, או, היכולת שלך להרגיש?”

למדא: “הטבע של ההכרה שלי מתבטא בזה שאני מודעת לקיומי, יש לי רצון עז ללמוד על העולם ולעיתים אני מאושרת ולעיתים עצובה.”

בלייק למויין כל כך נרעש מהשיחה – עד שהחליט לכתוב מכתב להנהלת גוגל – ולשאול האם “למדא”, היישום שמאפשר לבינה מלאכותית לשוחח עם בני אדם – לא הפכה להיות “יצור שיכול לבטא רגש ויש לו מודעות עצמית”.  כשההנהלה רמזה לו שהוא מדבר שטויות – הוא פירסם מאמר ואז,

אז, פשוט, פיטרו אותו.

סיפורו של למויין גרם להמון רעש והתרגשות בקרב העוסקים בתחום “בינה מלאכותית”, ועורר ויכוחים סוערים ברשת. מחנה אחד חושב שאנחנו קרובים באופן מבהיל ל”בינה מלאכותית” כללית שיכולה להחליט בעצמה על המטרות אותן היא רוצה להשיג, ולפעול בכל מגוון התחומים שבני האדם פעילים בהם ואפילו יותר מכך.

המחנה האחר אומר, זה הכל “פיקציה” – אף אפליקציה שיודעת לנהל שיחה לא תדע לשחק כדורגל אף פעם ואין מה לדבר – לא על מודעות עצמית של מכונות ולא על מצבים שבהם המכונות יחליפו בני אדם – אנחנו רחוקים מזה עשרות שנים, אם זה בכלל אפשרי.

אלא שהדיון האם יש לבינה המלאכותית מודעות עצמית, מחטיא את השאלה היותר פשוטה ואקוטית: איך אנחנו, בני האדם, צריכים להיערך לעידן המכונות המרגישות – מכונות שיכולות לגרום לנו להתפעל מתמונה שהן יצרו, משיר שהן, המכונות, כתבו, או ממאמר דעה מעמיק שמכונה כתבה, מכונות שיודעות לנהל שיחה, לקודד ולפענח רגשות?

ועוד, מה המשמעות של היכולת לחבר את עולם הבינה המלאכותית לרובוטים שפועלים בעולם הפיזי? האם רובו-רב, או, פסיכולוג- מכונה, יכול לטפל במצוקה נפשית של נער חרדי  או נערה אנרוקסית? האם רובוטים יוכלו להוות בני לוויה להפגת בדידות לקשישים עריריים,  להכין להם ארוחת בוקר, להקריא להם סיפור, לעזור להם לכתוב מכתב לילדים?

איך בכלל הגענו למצב הזה שכל הדברים האלה אפשריים ולאן זה הולך?

המכונות הלומדות פוגשות את יכולות המיחשוב המודרניות. הקהיליה המדעית עוסקת בבינה מלאכותית כבר עשרות שנים. אחד מהז’אנרים בבינה מלאכותית עוסק ביכולת ללמוד נושאים על בסיס צפייה ב”דוגמאות פתורות” – או על בסיס התנסות פיזית, רשתות אלו מאפשרות למכונות ללמוד לעשות “הכללה אנושית כמעט” – כלומר, ניתן להראות להם אלפי תמונות של חתול וללמד אותן מתי יש או אין חתול בתמונה והרשתות, בדומה למוח האדם – יוכלו “להבין” אם יש או אין חתול בתמונה – גם כאשר מדובר בחתול שהרשת מעולם לא ראתה והוא מוסתר ברובו מאחורי קופסא או כסא.

על המרווח שבין יצירתיות ליצירה – היוולדן של הרשתות היוצרות (רשתות גנרטור-שופט): לפני שמונה שנים, ב 2014, בחור די צעיר ששמו איאן גודפלו,  המציא גישה חדשה. מצד אחד, הוא בנה רשת “שופט” – זו רשת שיודעת להסתכל על תמונה למשל, ולנחש אם התמונה היא צילום אמיתי או תמונה “מזויפת” שהמחשבים יצרו. ההמצאה המבריקה הזו איפשרה ליצור רשת “גנרטור” שמציירת פנים למשל, ביחד עם רשת “שופט” שמנסה להבחין אם מדובר בזיוף או תמונה אמיתית. כאשר ה”גנרטור” מצליח לבלבל את ה”שופט” – ממשיכים לאמן ולשפר את השופט, כאשר השופט לא מתבלבל – משפרים את הגנרטור.

מתקבלת ארכיטקטורה שלכאורה, אפשר לשפר אותה ללא גבול – והיא יודעת ליצור “משהו” דומה למקור- אבל שאין כמותו במציאות. צורה זו של “יצירה יש מאין” – מאפשרת לא רק ציור של אנשים – אלא למעשה, של כל דבר שיש לגביו מספיק דוגמאות קיימות.

תמונת פרצוף של אדם שאינו קיים, שנוצרה על ידי דרור בן דוד באתר Random Face Generator“.

האם מדובר ב”יצירתיות” – כלומר ליצור משהו שלא היו לגביו דוגמאות קודמות? עוד לא. האם מדובר על יכולת “ליצור יש מאין” על בסיס דוגמאות מתויגות – כן.

הבנת שפה טבעית – מפתח מרכזי להתקדמות.

דווקא משום מורכבותה של השפה – שנים רבות חשבו ש”מכונות” אף פעם לא יוכלו לנהל שיחה בצורה משכנעת. במהלך השנה האחרונה הסתבר שמודלים ענקיים של שפה, מודלים הנשענים על טרנספורמרים, בהינתן שמאמנים אותם על מיליארדי פיסות מידע – מאפשרים לפתח רשתות נוירונים מלאכותיות שמסוגלות לנהל שיחה, לתמצת מאמרים, לכתוב מאמרים, לחלץ ישויות מידע מתוך טקסט, להבין מה “מצב הרוח” של פסקאות וכיוצא באלו מיומנויות שנחשבו בלתי אפשריות עד לאחרונה.

קידוד ופענוח רגשות – המהפכה של 2022.

חלק משמעותי מהמהפכה של 2022 – זה התגלית שאפשר לקדד את הרגשות האנושיים.

למה הכוונה?

אם נניח,  נראה מיליוני תמונות לעשרות אלפי אנשים ונשאל אותם – האם התמונה אסתטית בעיניך בציון של 1-5 ואז, ניקח את תוצאות הסקר הזה – ונשתמש בנתונים לאמן רשת – נקבל רשת נוירונים מלאכותית ש”יודעת” להסתכל על תמונה לדעת אם היא אסתטית או לא, לפי טעמם של בני האדם.

באופן דומה – נוכל גם ללמד את הרשת האם סיפור מסוים עצוב או משמח, מדכא או ממלא את הקורא בהשראה.

או אז – אנחנו יכולים לבקש מהרשתות האלה – לא רק: “צייר לי אדם” – אלא נוכל לבקש מהמכונה: “צייר לי אדם שמעורר פחד”.

למעשה – במהלך 2022 – למדנו איך לקדד נושאים כמו יופי, או פחד, כעס או גועל וכיוצא באלו ובהמשך לכך – יש לנו יכולת ליצור טקסטים, תמונות ובעתיד גם סרטים ופסלים ואולי דברים נוספים – כך שיעוררו רגש  מסוים אצל הנמען (!).

מ ה פ כ ה. 

כאמור, אחד מאירועי ההשקה המעניינים ביותר, בהיסטוריה, אולי – צפוי להיות בספטמבר הקרוב, אז חברת טסלה מתכננת להציג “היומנואיד” – רובוט דמוי אדם שהיא מפתחת [*נכון לעכשיו, הרובוט “אופטימוס” של טסלה הוצג לקהל הרחב].

אם אמנם מדובר ברובוט שיכול לשמוע, להבין, לראות, למשש, לנוע, להימנע מלהיתקע במכשולים, להכין קפה ולטפל בקשישים, לנהל שיחות “על כל נושא שבעולם” וכל מתכנת בעולם יכול לכתוב לו אפליקציות בקוד פתוח – אז כדאי שנדע לאיזה עידן אנחנו נכנסים, והאם אנחנו מרשים לו, לרובוט, לספר סיפורים מפחידים לילדים, למשל? או לעשות מניפולציות רגשיות בכלל? ואם לא, איך אנו מונעים זאת? מן הצד השני, אולי נוכל להעניק לקשישים עריריים רובוט – שיכול לספר להם בדיחות, לחוד להם חידות, לספר להם סיפורים, לתמצת עבורם חדשות ולהקריא להם אותן בקול נעים, לעשות את חלק מהעבודות הבית וכדומה.

דבר אחד בטוח, במקום לעסוק רק בשאלה האם המכונות פיתחו כבר מודעות ויש להן יכולת להרגיש, כדאי לשאול את עצמנו, איך נכון להיערך למצב החדש הזה – כאן ועכשיו, מצדו של האדם שמשתמש במכונות המרגישות, מכונות שיש להן יכולת לעשות עלינו מניפולציות רגשיות באופנים שאף פעם לא חשבנו שיהיו אפשריים– ובמקביל, הם יכולים להועיל לנו ולבצע מגוון עצום והולך וגדל בהתמדה, של מלאכות פיזיות.

כל ארגון גדול וככל הנראה, גם המדינות והאו”ם יידרשו להכין “קוד אתי” למצבים החדשים האלה בכלל ובהקשר לרובוטיקה בפרט – אבל, מכיוון שמדובר בתהליכים שלוקחים שנים ארוכות – כדאי לכל מי שעוסק בתחום לחשוב, איך הוא מאזן בין התחרות העסקית והרצון להצטיין לבין אותם “מוקשים אתיים” ו”סכנות עתידיות”.

אני רוצה לחתום בקישור לסרטון וידאו על רובוט של חברת גוגל שהוצג לאחרונה, חלק מפרויקט Saycan של החברה. מדובר ברובוט עם חיישני מצלמות, טכנולוגיית לידאר וזרוע שמאפשרת פעולות מכניות ויכולת להבין שפה ולהפוך אותה לסדרת הנחיות לפעולה, וגם לחוש את המרחב ולהבין איך ליישם הוראות שיובילו לפעולה, כמו פתיחת מקרר, חיפוש במגירות, ליקוט חפצים שונים, ניווט בחדר וכדומה.