קול מתוך המכונה

שיחת היום בפייסבוק שלי היא What Would I Say, אתר חביב שמנתח את היסטוריית הסטטוסים שלך ומייצר סטטוסים חדשים על פי אותה היסטוריה, דברים שיתכן שהייתי אומר – כלומר, אם הייתי עוד פחות קוהרנטי מבדרך כלל. אנשים כרגע מבלים שעות (אני מנחש) בלעשות Refresh לאתר עד שיוצא משהו שבדיוק בקו הזה, שבין הקוהרנטי וצפוי מדי לבין הבלתי מובן לחלוטין, ומפרסמים אותם בחדווה.

הקסם הזה נוצר באמצעות שרשראות מרקוב, מודל הסתברותי לייצר רצפים של נתונים שמסתמך על גוף קיים של טקסט (כלל הסטטוסים שלנו) ממנו הוא יכול להסתכל על כל מילה, לראות אילו מילים, סטטיסטית, מגיעות אחריה במשפט, וכך לייצר משפטים שנשמעים סבירים, כי הם מבוססים על צירופי מילים שבאמת אמרנו. אותה טכניקה נתנה לנו עוד המצאות רבות, כמו סטריפים שלמים של גארפילד שמיוצרים עם שרשראות מרקוב כל פעם מחדש, ולא נשמעים הרבה פחות הגיוניים מהמקור:

מכונת הקשבה

אבל פחות משהאספקטים הטכניים מעניינים, מעניין אותי התגובה של אנשים לציטוטים האקראיים שהאתר הזה מייצר. אנשים, גם אלה שלרוב פחות יתלהבו מצעצועים טכנולוגיים, משתפים עשרות ציטוטים, מחפשים בהם איזו אמת שמסתתרת בין השרשראות, ובעיקר מחפשים שם איזה הד שמייצג את מי שהם, מי שממנו נגזרו כל המילים הללו. ולי כל זה מזכיר את אלייזה.

אלייזה היא תוכנה, מערכת שפותחה ב-MIT בשנות ה-60 ע”י ג’וזף ויזנבאום כניסוי בעיבוד שפה טבעית. בגרסה הפופולרית ביותר שלה היא הריצה תסריט שיחה בשם DOCTOR אשר ניסה לדמות את האינטראקציה בין מטפל רוג’ריאני, שיטת טיפול שמדגישה הקשבה והיזון חוזר חיובי לרגשות וההבעות של המטופל. תסריט השיחה ניסה לנתח את הקלט של המשתמש ולהגיב בהתאם, אך מכיוון שעדיין מדובר בתסריט שיחה אוטומטי ומוגבל, רוב התחכום שבו היה לקחת את מילותיו של המשתמש ולחזור עליהן בניסוח טיפה אחר, ובכך לייצר את האשליה של הקשבה. 

ויזנבאום עצמו הופתע מהתגובות של אנשים לאלייזה, מה שמכונה “אפקט אלייזה” – הקלות שבה אנשים מייחסים מניעים אנושיים לפלט של תוכנה. ויזנבאום עצמו הופתע מכך, והאפקט הזה (או כפי שהוא כינה זאת, מחשבות-שווא שנוצרות ממפגש קצר עם התוכנות הפשוטות ביותר) הוביל אותו בהמשך הקריירה לחקר ההשלכות האתיות של אינטראקציות אדם-מחשב ושל אינטליגנציה מלאכותית (ספוילר: הוא נגד).

הקול מהמכונה

אבל בלי קשר לוייזנבאום, אפשר למצוא הרבה נקודות דמיון בין אותו אפקט אלייזה לבין ההתלהבות של אנשים מ-What Would I Say. לא בגלל שאנשים מייחסים כאן מניעים אנושיים או מחשבות שווא, אלא בגלל שאנשים נורא בקלות מוצאים עומק, profundity, בתהליך פשוט יחסית של שיקוף. אנשים מרגישים שהאלגוריתם של What Would I Say “תופס” אותם, או מוצא איזה ממוצע מכושף שמוצא את המהות המדויקת שלהם, למרות שבסופו של דבר יש כאן רק שזירה אקראית ושרירותית של המילים שהם עצמם אמרו – ברור שאנחנו נמצא את עצמנו במילים של עצמנו. בדיוק כמו שאלייזה יצרה תחושה של אדם אמיתי שמקשיב לך, פשוט ע”י כך שהיא חזרה על המילים שאנחנו אמרנו בעצמנו, בניסוח קצת אחר.

ואם כבר, יש כאן הרבה אישוש לתפיסת הלקוח-במרכז של הפסיכותרפיה הרוג’ריאנית. אלייזה ו-What Would I Say הם המטפלים הרוג’ריאנים המושלמים. הם קשובים, הם נותנים פידבק חיובי, והם יוצרים סביבה חמימה – עד כדי תיבת תהודה – סביב המילים שלך עצמך. זה ללא ספק מכניס אותך למצב נינוח. השאלה היא אם זה באמת אומר לך משהו על עצמך.

* * *

ועוד משהו – What Would I Say זה צעצוע נחמד ומשעשע, אבל אל תשכחו שבשביל לשחק איתו, היינו צריכים לתת לאפליקציה גישה לפרופיל שלנו, כל סטטוסים פרטיים, רשימת חברים וכל התמונות. כשתסיימו לשחק, כדאי ללכת להגדרות ולהוריד את ההרשאה.