עושים טכנולוגיה עם ד״ר יובל דרור I רשת עושים היסטוריה

בחודשים האחרונים התפתח מאבק בין הפנטגון לחברת אנת'רופיק סביב השאלה האם נכון וראוי שחברה פרטית תטיל איסורים ומגבלות מעבר לקונגרס האמריקאי. אבל בתוך המהומה הזו - שמערבת סוגיות טכנולוגיות, משפטיות, מוסריות וכלכליות - שאלה אחת הלכה לאיבוד: האם זה בכלל רעיון טוב לשלב מודלי שפה גדולים בתוך מערכות צבאיות, בתוך מערכות שמקבלות החלטות גורליות, החלטות של חיים ומוות? במחקר שפורסם ב-2024 ובמחקר המשך, שפורסם בראשית 2026, נעשו סימולציות, משחקי מלחמה, שבהם מודלי השפה הגדולים התבקשו לשחק מנהיגים של מדינות יריבות ואז לקבל החלטות תחת לחץ ובתנאים של משברים בינלאומיים. אלו מודלי השפה שכולנו משתמשים בהם. התוצאות של המחקרים לא פחות ממחרידות: מסתבר שלמודלי השפה הגדולים אין שום בעיה להורות על שימוש בנשק גרעיני, ולא, לא מדובר רק במהלך אחרון; בחלק מהמקרים הם שולפים את הנשק הגרעיני כמהלך ראשון. קישורים: ספר: אימפריות הסיליקון: המלחמה על עתיד הבינה המלאכותית https://www.amazon.com/Silicon-Empires-Fight-Future-AI/dp/1509550488 מחקרו של קנת' פיין (2026): https://arxiv.org/abs/2602.14740 מחקרם של החוקרים האמריקאים (2024): https://arxiv.org/abs/2401.03408

כ-3.4 מיליארד אנשים ברחבי העולם משחקים במשחקי וידאו - זו תעשייה עצומה שרשמה בשנת 2025 הכנסות בהיקף של כ-197 מיליארד דולר. על פי ההערכות בשנת 2026 הכנסות התעשייה יעברו את רף ה-200 מיליארד דולר. החברות הגדולות שמפתחות משחקי בלוקבסטר עתירי תקציב, משקיעות בין 50 ל-200 מיליון דולר בפיתוח משחק אחד, כאשר יש משחקים שתקציב הפיתוח שלהם עולה על 300 מיליון דולר, וצוות עצום של מאות מתכנתים, אמנים, כותבים ובודקים, עובד עליו. מהסיבה הזו כאשר סטודיו צרפתי קטן השיק באפריל 2025 משחק בשם Clair Obscur: Expedition 33 וכבש את עולם הגיימינג בסערה, התעשייה עצרה את נשימתה: בפיתוח המשחק הושקעו כ-10 מיליון דולר בלבד והוא מכר מיליון עותקים בתוך שלושה ימים. זה סיפורו של משחק וידאו אחד שמהווה כתב אשמה נגד המודל ששלט בשוק משחקי הוידאו במשך כמה עשורים, משחק שהמחיש איך אפשר לפרק אותו. אבל בסופו של הסיפור הזה כבר אפשר לראות את תחילתו של הסיפור הבא, והוא עלול לטרוף את שאר הקלפים שנותרו בחפיסה. קישורים: "הניו-יורק טיימס": המשחק הצרפתי https://www.nytimes.com/2025/12/11/arts/clair-obscur-expedition-33-sandfall.html הדוח של "ביין-אנד-קמפני" https://www.bain.com/insights/squeezed-in-the-middle-aaa-gaming-studios-must-adapt-gaming-report-2025/ הזכייה בטקס פרסי הגיימינג https://www.youtube.com/watch?v=WDraAxp-Wp8

מאז המצאת הדפוס לא נתקלנו בטכנולוגיה כל כך מהפכנית ובעלת עוצמה כמו הבינה המלאכותית. סכומי הכסף שמושקעים בפיתוח מערכות בינה מלאכותית הם אדירים, הם חסרי תקדים, מעולם לא הושקעו סכומי כסף כל כך גדולים – טריליוני דולרים בתוך כמה שנים – כדי לפתח טכנולוגיה בודדת. הסיבה להשקעה ברורה: מעבר לפוטנציאל של הבינה המלאכותית לשנות את החיים של כולנו לטובה, יש לה פוטנציאל להניב עושר חסר תקדים למי שיצליח לפתח בינה מלאכותית כללית, כזו שיודעת להתמודד עם כל משימה שאנחנו, בני האדם יכולים להתמודד איתה, שלא לדבר על סופר-בינה מלאכותית. אבל לאותה טכנולוגיה ממש יש גם צד שני, אפל. האופן שבו הטכנולוגיה הזו מפותחת, עובדת ומוטמעת, האופן שבו היא משפיעה ועוד תשפיע על כל אחד ואחת מאיתנו ועל החברה כולה, מייצג בצורה כמעט טהורה, את הרעיון של "כאוס". במובנים רבים, בינה מלאכותית היא סוכנת הכאוס האולטימטיבית. זהו פרק בונוס למאזיני "עושים טכנולוגיה" מתוך הפודקסט "סערה מושלמת". ᐧ

המונח "תבניות אפלות" (Dark Patterns) נטבע בשנת 2010 והוא מתאר מגוון רחב של טקטיקות עיצוביות מטעות ומניפולטיביות שבהן ניתן להשתמש כדי להשפיע לרעה על ההחלטות שלנו. מחקרים מלמדים שהן קיימות בכ-95% מהאפליקציות הפופולאריות וברבים מאתרי הקניות המובילים. הן נמצאות בכל מקום. הטריקים העיצוביים האלו חוטפים את תהליך קבלת ההחלטות שלנו וגורמים לנו לרכוש מוצרים שאנחנו לא צריכים, עליהם אנחנו משלמים יותר כסף ממה שהם שווים, או שהם מונעים מאיתנו לבטל שירותים שבהם אנחנו בכלל לא משתמשים. למרות שזו סוגייה יחסית מוכרת ולא חדשה, אם תקחו אותה ותכפילו אותה בבינה מלאכותית תבינו שאנחנו, כולנו, בבעיה. האם ניתן לטפל בתופעה הזו, איך מזהים תבנית אפלה כאשר נתקלים בה, על אילו כפתורים התבניות האפלות האלו בכלל לוחצות ומה אנחנו צריכים לעשות? קישורים: רשות הסחר הפדרלית נגד אמזון https://www.ftc.gov/system/files/ftc_gov/pdf/amazon-rosca-public-redacted-complaint-to_be_filed.pdf דוח רשות הסחר הפדרלית בנוגע לתבניות אפלות https://www.ftc.gov/reports/bringing-dark-patterns-light מחקר: שירת הסירנה של מודלי השפה הגדולים https://arxiv.org/abs/2509.10830

במאה ה-20 תעשיית המזון וההסעדה נבנתה על ארכיטקטורה של דחפים, על היכולת של המלח, הסוכר והשומן לעקוף את מנגנוני השובע שלנו ולייצר מעגל אינסופי של "עוד". אבל בשנים האחרונות מתפשטת בעולם טכנולוגיה חדשה שמציעה למשתמשים חומת מגן כימית שמשתקת את הרעש, את התשוקה. הטכנולוגיה הזו מכניסה תוכן חדש לשיחה שמתנהלת בין הלבלב לבין אזור במוח שנקרא היפותלמוס, והתוכן הזה גורם לאלו שמשתמשים בתרופות שמבוססות עליה, Ozempic, Wegovy, Mounjaro ותרופות אחרות, להרגיש שהם... שבעים. סקרים שנערכו בסוף 2025 הראו שכ-1 מכל 8 מבוגרים בארה"ב התנסה בתרופות האלו ויש וההערכות לפיהן עד לשנת 2030 הן יהפכו לקטגוריית התרופות הנמכרת בהיסטוריה של עולם הרפואה. כולנו עסוקים בבינה מלאכותית אבל המהפכה השקטה ביותר של המאה ה-21 לא מתרחשת במשרדי חברות הטכנולוגיה שעמק הסיליקון ובתוך המחשבים שלנו - היא מתרחשת בתוך הגוף שלנו והיא נשענת על טכנולוגיה רפואית. אבל בדומה למהפכה הרועשת, ההשפעות של המהפכה השקטה הן נרחבות, עמוקות ומפתיעות. קישורים: מחקר: ירידה של 8% בהוצאות בסופרמרקט בקרב נוטלי תכשירי GLP-1 https://news.cornell.edu/stories/2025/12/ozempic-changing-foods-americans-buy הפרסומת ל-Wegovy https://www.youtube.com/watch?v=7Y6zH5bm2eY ספר: על הקשר שבין מזון מהיר והמכונית הפרטית https://www.amazon.com/Fast-Food-Roadside-Restaurants-Automobile/dp/0801861098

האם זה בסדר שג'מיני יכתוב את דברי ההספד שמקריאה נכדה בלוויה של סבתא שלה? האם זה בסדר ש-ChatGPT יכתוב ברכת יומולדת לחייל שחזר לחופשה קצרה? האם זה בסדר שגרוק יכתוב את הברכה שיקריא השושבין בחתונה של החבר שלו ואפילו את דברי החתן עצמו כשהוא עומד מתחת לחופה? אלו מסוג השאלות שמתחילות להטריד אנשים (וגם את נועה, מאזינה ששלחה לי שאלה) אז החלטתי לעצור לרגע ולחשוב על הסוגיה: האם זה בסדר או שמא יש כאן בעיה ואם יש כאן בעיה, מהי בעצם הבעיה? למה אנשים מרגישים לא בנוח כאשר הם נתקלים בברכה שכתבה מכונה? קישורים: אתר CelebrateAlly.com https://www.celebrateally.com מחקר: אשליה של אמפטיות https://www.frontiersin.org/journals/psychology/articles/10.3389/fpsyg.2025.1568911/full

לפני יותר מ-100 שנה כמה צוללנים יוונים מצאו במצולות את המצבור הגדול ביותר של פסלי שיש וברונזה מתקופת יוון העתיקה. בין הפריטים נמצא דבר נוסף שתחילה כמעט נזרק חזרה לים כיוון שחשבו שבטעות שהוא סלע חסר חשיבות. אבל אותו סלע התגלה כאחד הממצאים החשובים והמדהימים בהיסטוריה של הטכנולוגיה. במשך עשרות שנים לכד "המנגנון מאנטיקיתרה" את דמיונם של סופרים וחוקרים ורק באחרונה הם הודיעו שהם הצליחו לפצח את החידה. זה לא סלע, זה המחשב הראשון בעולם והוא נבנה בתקופת יוון העתיקה. הפרק שודר לראשונה בפברואר 2023. קישורים: מחשב יווני עתיק – מאמרו של פרייס ב"סיינטיפיק אמריקן" http://hist.science.online.fr/antikythera/MORE-DOCS/DSPrice1959/D.S.Price-An%20Ancient%20Greek%20Computer.htm מדענים פיצחו את סודות מנגנון אנטיקיתרה https://www.vice.com/en/article/pkd57k/scientists-have-unlocked-the-secrets-of-the-ancient-antikythera-mechanism המודל של הייקום במנגנון אנטיקיתרה – כתב העת "נייצ'ר" https://www.nature.com/articles/s41598-021-84310-w מתי המחשב הופעל? https://www.livescience.com/antikythera-mechanism-start-date-found המחשב שלא אמור להיות קיים https://www.youtube.com/watch?v=qqlJ50zDgeA

סקר המאזינים השנתי יצא לדרך ויש לכם סיכוי לזכות בשובר מתנה 🎁 למילוי הסקר ליחצו כאן תקציר: בשנת 1920, פרסם המגזין "סיינטיפיק אמריקן" ראיון עם תומס אדיסון, בו הוא תיאר את תוכניותיו לפתח "מנגנון מדעי" שיאפשר תקשורת עם "ישויות שעברו לקיום או לממד אחר". שנתיים לאחר מכן, הציע כתב העת פרס בגובה של 5,000 דולר עבור הוכחה מדעית לקיומן של רוחות רפאים. אנשים שהאמינו בקיומן כמו הסופר ארתור קונן דויל, שכתב את ספרי "שרלוק הולמס", לצד ספקנים ידועים כמו הקוסם הארי הודיני, בדקו את המידע שהתקבל. עד היום, אף אחד לא זכה בפרס. אבל התקווה לשוחח עם המתים לא עברה מהעולם ומספר הולך וגדל של בני אדם משתמש בטכנולוגיה החדישה ביותר של תקופתנו, בינה מלאכותית, כדי ליצור קשר עם "ישויות שעברו לקיום או לממד אחר". אז מצד אחד זה לא מפתיע – זה מה שאנחנו, בני האדם, תמיד עושים – אבל מצד שני, הטכנולוגיות האלו מציעות כיום לכל אחד מאיתנו לדבר עם הישויות האלו. זה... רעיון טוב? זה החלק השני בסדרה בת שני חלקים שעוסקת באחת התופעות הטכנולוגיות והחברתיות המשונות, המרתקות ובעיקר הצומחות ביותר באינטרנט. קישורים: כריסטופר פלקי בהצהרה בבית המשפט https://www.npr.org/2025/05/07/g-s1-64640/ai-impact-statement-murder-victim סיינטיפיק אמריקן: האם הבוטים יכולים לעזור לנו להחלים? https://www.scientificamerican.com/article/can-ai-griefbots-help-us-heal על תעשיית רוחות הרפאים הדיגיטליות https://spectrum.ieee.org/digital-afterlife

הצביעו היום עבור הפודקסאט האהוב עליכם התחרות פודקסאט השנה של גיקטיים רוצים לזכות בשובר מתנה? השיבו על סקר המאזינים השנתי כאן בשנים האחרונות, ובוודאי מאז הופעת הבינה המלאכותית היוצרת שנשענת על מודלי השפה הגדולים, החלו להופיע שירותים המציעים לאנשים לתקשר עם תאומים דיגיטליים של אנשים שכבר אינם בין החיים. רוב השירותים מבוססים על אותו הרעיון: תנו לנו מידע על יקירכם שנפטרו, כמה שיותר מידע – מידע עובדתי, מידע קולי, מידע ויזואלי – ובאמצעות מודלי בינה מלאכותית שונים, נבנה שחזור דיגיטלי, רוח רפאים דיגיטלית, שאיתה תוכלו לתקשר. נכון לסוף 2025 יש יותר מעשר פלטפורמות שמציעות שירותים מהסוג הזה ובתעשייה טוענים שמיליוני בני אדם ברחבי העולם כבר משתמשים בהן. השאלות שעולות בעקבות הופעת הטכנולוגיה הזו הן אינסופיות ונעות בין הפילוסופי לכלכלי, בין הטכנולוגי למוסרי. האם יש מישהו שיתנגד לנהל שיחה עם אדם קרוב ויקר, אדם אהוב שאליו אנחנו מתגעגעים מעומק הלב ושאינו נמצא בין החיים? רובנו היינו שמחים, אבל מה המחיר - לא המחיר הכלכלי אלא הפסיכולוגי, הרגשי? זה החלק הראשון בסדרה בת שני חלקים בה נעסוק באחת התופעות הטכנולוגיות והחברתיות המשונות, המרתקות ובעיקר הצומחות ביותר באינטרנט של השנים האחרונות. כתבה: הסימולציה של ג'סיקה https://www.sfchronicle.com/projects/2021/jessica-simulation-artificial-intelligence סרט: Eternal You https://www.imdb.com/title/tt30320493

שפה היא טכנולוגיה מדהימה שמשמשת כמכונת זמן: היא מכילה בתוכה את ההיסטוריה של האנשים שדוברים אותה, היא מצביעה על המיקום הגיאוגרפי שלהם, על החוויות שלהם, על האופן שבו הם התפתחו, כעם. זו הסיבה שאבדן של שפות הוא אבדן של תרבויות שלמות, של דרכים לראות את העולם. על פי ההערכות מדי 40 יום נכחדת שפה: הדובר האחרון של השפה מת ואף אחד אחר לא יודע לדבר אותה. למרבה המזל אנחנו חיים בעידן טכנולוגי ויש טכנולוגיות רבות שיכולות לעזור ולשמר את השפות שנמצאות בסכנת הכחדה – טכנולוגיות שמקליטות, שמתעדות, חלקן מבוססות על הטכנולוגיה החדישה מכולן: בינה מלאכותית. אבל כאן בדיוק טמון הפרדוקס: אותה בינה מלאכותית שיכולה לעזור לנו לשמר מאות ואפילו אלפי שפות קטנות, היא גם הטכנולוגיה שמזרזת את השמדתן. למעשה, בינה מלאכותית מאיצה את הקצב שבו שפות נעלמות. אבל למה? קישורים: נשיונל ג'יאוגרפיק: קולות אבודים https://www.nationalgeographic.com/magazine/article/vanishing-languages מחקר: הטיה תרבותית של ChatGPT https://scholar.harvard.edu/sites/scholar.harvard.edu/files/henrich/files/which_humans_09222023.pdf מחקר: הקשר בין שפה לצמחי מרפא https://www.pnas.org/doi/10.1073/pnas.2103683118 מחקר: שימוש בשפה זרה ותועלתנות https://www.researchgate.net/publication/261839039_Your_Morals_Depend_on_Language אתר: First Voices https://www.firstvoices.com

טכנולוגיה חדשה וחברות הייעוץ הגדולות עזרו לחברות ותאגידים גדולים לפרוש ולהטמיע אותה, אבל הופעת הבינה המלאכותית מאיימת להתיר את הקשר הסימביוטי הזה. חברות הבינה המלאכותית מפתחות שירותי בינה מלאכותית שמעבדים ערימות עצומות של דאטה ממקורות שונים, מוצאים בתוכם תבניות ודפוסים ועל בסיס התבניות האלו הם מייצרים תחזיות והמלצות שאותם הם מציגים בצורה משכנעת בדוחות מנומקים. האם זה לא בדיוק, אבל בדיוק השירות שמציעות חברות הייעוץ הגדולות? התשובה היא לא, זה לא בדיוק השירות אבל זה מאוד קרוב. מספיק קרוב כדי לטלטל את תעשיית הייעוץ שמגלגלת מאות מיליארדי דולרים בשנה ומעסיקה יותר מ-1.5מיליון עובדים. הטלטלה באה לידי ביטוי בפיטורים המוניים, עיכוב בגיוסי עובדים, בשינוי דרמטי במבנה חברות הייעוץ ואפילו במודל העסקי שלהן. היא גרמה לבכירים בתעשייה לטעון: "מדובר באיום קיומי". קישורים: האם הבינה המלאכותית תהיה מק'ינזי החדשה? https://www.newyorker.com/science/annals-of-artificial-intelligence/will-ai-become-the-new-mckinsey האם בינה מלאכותית תחליף את היועצים? https://www.forbes.com/sites/jodiecook/2024/02/20/will-ai-replace-consultants-heres-what-business-owners-say/ אקסנצ'ר מפטרת 11 אלף עובדים https://thecsrjournal.in/accenture-cuts-11000-jobs-but-expands-ai-hiring-globally חברות הייעוץ החדשות https://www.businessinsider.com/mckinsey-bcg-and-deloitte-competition-small-boutique-specialized-ai-2025-4

אתם לא מתבלבלים, אתם לא סתם ממורמרים, זה לא רק אתם, זה לא רק בתוך הראש שלכם: מוצרים, אתרים ושירותים, שבעבר היו ממש מוצלחים, מדרדרים והופכים לגרועים. וזה קורה בכל מקום, לא רק באינטרנט: חברות תעופה, יצרניות של טלפונים סלולריים, חברות סטרימינג, בתי מלון, כולם היו בעבר נהדרים והתגאתם בכך שאתם לקוחות שלהם, הם היום, בהיעדר המילה מוצלחת יותר... חרא! קורי דוקטורו, אקטיביסט שזכה בשורה של פרסים והוא אחד הכותבים המוכשרים, המצחיקים, החדים והמשפיעים ביותר שפועלים ברשת, טבע בכמה מאמרים שהוא פרסם לפני כמה שנים מילה שמתארת את התהליך שמסביר האירוע הזה: Enshitification, או "שיטיפיקציה". למרות ששיטיפיקציה זכתה להרבה מאוד תשומת לב תקשורתית, רק בסוף 2025 דוקטורו הוציא ספר שמוקדש לה. בהקדמה לספר הוא מסביר: "זו מילה מצחיקה ושובבה. זה מצחיק ושובב לומר אותה ואני גאה בזה", אבל לטענתו הסיבה לפופולריות שלה קשורה לכך שהיא "מקפלת בתוכה תיאוריה שמסבירה את הדעיכה המהירה של הדברים שחשובים לנו, היא מסבירה למה זה קורה ומה עלינו לעשות בנידון". לתשומת לבכם: המילה "חרא" נשמעת בפרק הזה כמה פעמים. קישורים: ספר: שיטיפיקציה – למה כל דבר הפך לגרוע יותר ומה ניתן לעשות בעניין https://www.amazon.com/Enshittification-Everything-Suddenly-Worse-About-ebook/dp/B0DQJ5TWB1

בחודשים האחרונים נשמעים יותר ויותר קולות, חלקם של מנכ"לי חברות הבינה המלאכותית עצמם, שטוענים שאנחנו נמצאים בתוך בועת בינה מלאכותית, ועדיין, לא מדובר בקביעה שכו-לם מסכימים עליה: יש כאלו שטוענים שמדובר בהגזמה ושפרשנים רבים ממהרים להכריז על בועות שעומדות להתפוצץ כמעט בכל שנה, וכמעט בכל שנה הם טועים. לפני שנכנסתי לתוך המספרים, לתוך הנתונים והטיעונים, גם לי לא היתה דעה מגובשת סביב השאלה האם אנחנו בבועה: האם יש בום של התלהבות מבינה מלאכותית? בוודאי, אבל למה לא? זו טכנולוגיה שעומדת לשנות את העולם, אם לא נתלהב ממנה, ממה נתלהב? האם יש של בום השקעות בבינה מלאכותית? כן, אבל ככה זה תמיד. במסילות רכבת לא השקיעו? באוטוסטרדות לא השקיעו? בהנחת סיבים אופטיים לא השקיעו? השקיעו. אז משקיעים גם עכשיו. בלגאן. ננסה לעשות סדר. ראשית, ננסה להבין ממה בנוי הטיעון שאנחנו נמצאים בבועה, על מה הוא נשען, על אילו נתונים ועד כמה הם משכנעים? לאחר מכן ננסה להבין האם הטיעון לפיו "גם אם יש בועה, זה לא כל כך רע - למעשה, זה אפילו טוב!", האם הטיעון הזה, משכנע. הצטיידו במשאבה או בסיכה: בום. בינה. בועה? קישורים: ג'ף בזוס בשבוע הטכנולוגיה האיטלקי https://www.youtube.com/watch?v=4Vf8pljp1FY מחקר חברת Bain & Co https://www.bain.com/about/media-center/press-releases/20252/$2-trillion-in-new-revenue-needed-to-fund-ais-scaling-trend---bain--companys-6th-annual-global-technology-report/ הטקסט של קורי דוקטרו https://pluralistic.net/2025/09/27/econopocalypse/#subprime-intelligence הניתוח של אד זיטרון https://www.wheresyoured.at/the-case-against-generative-ai ᐧ

צ'אטבוטים אוהבים להתנצל. הם מתנצלים כל הזמן. הם ממהרים להתנצל. אין להם שום בעיה להתנצל. אפילו כשאין להם על מה להתנצל הם מתנצלים. אבל התנצלות היא לא סתם רצף של מילים. היא אירוע לשוני ייחודי שיש לו משמעות מיוחדת, השפעה מיוחדת, ושעומדת מאחוריו כוונה. אבל לבוטים האלו אין כוונה. אם הם לא מתכוונים לשום דבר, ולמילים שלהם באמת משמעות, למה הם מתנצלים ולמה אנחנו כל כך מתרשמים מההתנצלויות האלו? מחקר שפורסם באחרונה צולל אל ההתנצלויות של הבוטים, מנתח אותן וחוזר עם מסקנה מפתיעה: לא רק שההתנצלויות האלו ריקות, הן מטעות ומסוכנות ויתכן שהן מחייבות הרחבה או לכל הפחות שינוי בהגדרת אחד המושגים החשובים ביותר שבאמצעותם אנחנו מבינים את הבוטים: "בולשיט". קישורים: פוסט ברדיט: אני בושה https://www.reddit.com/r/GeminiAI/comments/1lxqbxa/i_am_actually_terrified מחקר: צ'אטבוט בולשיט https://arxiv.org/abs/2501.09910 מחקר: ChatGPT הוא בולשיט https://link.springer.com/article/10.1007/s10676-024-09775-5 מחקר: משחקי דמיון של צ'אטבוטים https://journals.publishing.umich.edu/ergo/article/id/4668 ᐧ

בחודשים האחרונים פורסמו יותר ויותר אירועים שבהם אנשים שמתכתבים עם ChatGPT ובוטים אחרים, מפתחים דלוזיות, פסיכוזות ולעתים נקלעים לתוך מחילות של הזיה. בפרק בפרק הקודם התמקדתי בשאלה "איך זה קורה", הפעם אתמקד בשאלה אחרת: "למה זה קורה". תחילה אנסה להסביר מדוע אין טעם לבקש מהבוטים לספק הסבר שיבהיר למה הם עושים את מה שהם עושים ואחר כך אציג השערה שאני חושב שמסבירה למה חלק מהמשתמשים מוצאים את עצמם מדברים עם הבוטים האלו ובהדרגה גולשים תוך מחוזות ההזיה. קישורים: מיני סדרה: ריפלי https://www.imdb.com/title/tt11016042 כלי בינה מלאכותית עושים נזקים https://arstechnica.com/information-technology/2025/07/ai-coding-assistants-chase-phantoms-destroy-real-user-data/ למה אסור לסמוך על הבוטים שמסבירים את עצמם https://arstechnica.com/ai/2025/08/why-its-a-mistake-to-ask-chatbots-about-their-mistakes/ מדריך הפרומפטים של חברת אנת'רופיק https://docs.anthropic.com/en/home

מאות מיליוני בני אדם משתמשים בצ'אטבוטים וזה לא מפתיע לגלות שחלקם מפגינים התנהגויות שיש בהן, למשל, מן ההתמכרות. אחרי הכל מבין מיליארדי בני האדם שאוכלים שוקולד, יהיו כמה שיתמכרו לשוקולד, מבין מיליארדי בני האדם שעושים קניות, יהיו כמה שיתמכרו לקניות, שלא לדבר על כך שלפעמים הבעיות שאנחנו רואים הן התוצאה ולא הסיבה. כלומר, בגלל שיש לי אישיות התמכרותית אני מבלה עשר שעות בצפייה בטלוויזיה. זה לא בגלל שהטלוויזיה "גרמה לי" להתמכר אליה אלא בגלל שאם זו לא היתה טלוויזיה זה כנראה היה משהו אחר. כך חשבתי על העניין עד לא מזמן אבל בחודשים האחרונים אני עוקב אחרי תופעה שהולכת ומתפשטת ברחבי העולם ואני מתחיל לשנות את דעתי: משתמשים ובעיקר בני משפחותיהם, מדווחים על אירועים פסיכוטיים, אירועים של הזיות, של פרנויה וניתוק מהמציאות, שמתרחשים אחרי סשנים ארוכים של שיחות עם הבוטים השונים. מה קורה במקרים האלו? האם אפשר למצוא דפוס משותף בשיחות שמתחילות כשיחה רגילות ובתוך זמן קצר יחסית הופכות לשיחות שנראה שיצאו מתוך הזיה? אני אספר על מחקר של קבוצת חוקרים בריטים שמספק קצה חוט להבנת הדינמיקה הרעילה הזו רגע לפני שננסה להבין למה האירועים האלו בכלל מתרחשים. קישורים: סיפורו אל אלן ברוקס https://www.nytimes.com/2025/08/08/technology/ai-chatbots-delusions-chatgpt.html רדיט: ChatGPT מעורר פסיכוזה https://www.reddit.com/r/ChatGPT/comments/1kalae8/chatgpt_induced_psychosis רולינג-סטונס: אנשים מאבדים את היקרים להם לטובת בינה מלאכותית https://www.rollingstone.com/culture/culture-features/ai-spiritual-delusions-destroying-human-relationships-1235330175/ סרטון הווידאו של משקיע הון הסיכון ג'ף לואיס https://x.com/GeoffLewisOrg/status/1945212979173097560 מחקר: שגעון טכנולוגי בשניים https://arxiv.org/abs/2507.19218

תקציר: כמי שבילה חלק ניכר מילדותו באולמות משחקי הוידאו של תל-אביב, הייתי בטוח שאני מכיר את רוב מכונות המשחק הפופולאריות, אבל סרט דוקומנטרי ישן על התרבות היפנית, הציג בפניי משחק שלא ידעתי על קיומו. מקורותיו של המשחק נטועים בצרפת של לפני המהפכה הצרפתית. הוא חצה את האוקיינוס לארה"ב ומשם, כעבור כ-150 שנה, הוא הגיע ליפן ואז השתלט עליה לחלוטין. עד לא מכבר היפנים הוציאו על המשחק סכום כסף השווה ל-4% מהתוצר הלאומי הגולמי של המדינה כולה, כ-200 מיליארד דולר או פי 30 מכלל ההכנסות של תעשיית ההימורים בלאס-ווגאס. מה סוד הקסם של המשחק שכבר 100 שנה שולט בה ביד רמה, כיצד היאקוזה קשור אליו ומדוע היפנים כל כך אוהבים אותו? זהו סיפורו המשוגע של "פצ'ינקו", סיפור על טכנולוגיה ותרבות, פשע ודיפלומטיה, היסטוריה ופוליטיקה. הפרק שודר לראשונה באוקטובר 2021. קישורים: מצב תעשיית הפצ'ינקו https://agbrief.com/news/japan/26/11/2024/pachinko-market-to-continue-steady-decline-until-2028-research/ סרטו של וים ונדרס, "טוקיו-גה". https://www.imdb.com/title/tt0090182 סרטו של אוזו, The Flavor of Green Tea over Rice https://www.youtube.com/watch?v=AO-1aZQ-uUY ניתוח תרבות יפן בעיניי שעות הפנאי של אזרחיה https://www.amazon.com/Culture-Japan-through-Leisure-Transition/dp/0791437914

בשנים 2005 ועד 2023, זינק מספר הסטודנטים האמריקאים שלמדו בחוגים למדעי המחשב בכ-400%, החוגים האלו היו נחשקים גם בישראל, אבל בשנה האחרונה המגמה התהפכה ומספר הסטודנטים האמריקאים שביקשו ללמוד מדעי המחשב גדל ב-0.2 אחוזים בלבד ועל פי ההערכות בשנים הבאות שיעור הסטודנטים החדשים יחל לצנוח. אחת הסיבות לכך היא שהמועמדים והמועמדות הצעירים והצעירות מודאגים ממה שקורה בשוק: הביקוש למפתחים נמצא בירידה, מספר המשרות הפתוחות שמיועדות לג'וניורים הולך ופוחת כשבמקביל מספר המפוטרים הולך וגדל. המגמה הזו מתסכלת ונוגדת את האינטואיציה. אחרי הכל, ללמוד קוד, ללמוד תכנות נחשב במשך שנים ל"מקצוע העתיד", למקצוע הבטוח, אבל מערכות הבינה המלאכותית מאיימות על הדור החדש של כותבי וכותבות הקוד ונדמה שהסיבה לכך היא תזה שהשתלטה על עמק הסיליקון. התזה הזו קובעת שהדרך לבינה מלאכותית כללית עוברת דרך בניית מפתח על-אנושי, superhuman coder. המפתח העל-אנושי יוכל לבצע משימות קידוד במהירות וביעילות גדולה יותר מהמפתחים האנושיים ומהרגע שזה יקרה, המוטיבציה להעסיק מפתחים אנושיים תצנח פלאים. במקביל, המפתח העל-אנושי יופנה אל הקוד שלו עצמו: הוא ישפר אותו, יתחיל לפתור בעיות חדשות ובתוך זמן קצר נגיע אל בינה מלאכותית כללית ואחריה לסופר-בינה מלאכותית. מתי החלק של המפתח העל-אנושי צפוי לקרות? על פי חלק מהתחזיות זה עניין של שנה-שנתיים. זה החלק השלישי והאחרון בסדרה בת שלושה חלקים שעוסקת בשינוי שעומד לטלטל את עולמם של הכותבים, הסטודנטים, המרצים והמפתחים. קישורים: פרויקט 2027 https://ai-2027.com התחזית שחוזה את הסערה https://www.nytimes.com/2025/04/03/technology/ai-futures-project-ai-2027.html המחקר של ארגון METR https://arxiv.org/abs/2503.14499

בעשורים האחרונים מורים נאלצו להתמודד עם אינסוף מהפכות. בהתחלה זה היה המחשב האישי, ה-PC, אחר כך זו היתה האינטרנט ואחריהם הגיעו הרשתות החברתיות, הטלפונים הסלולריים ואז האפליקציות בטלפונים הסלולריים. בכל פעם המורים נדרשו ללמוד טכנולוגיה חדשה, בכל פעם הם נדרשו להתמודד עם האתגרים שהיא מציבה. עכשיו זו הבינה המלאכותית ולכן מנהלים, מורים, מרצים – כולם נדרשים להכיר ואז לשלוט בה. העניין הוא שמערכות הבינה המלאכותית ובייחוד הבוטים הכותבים, הם לא דומים בשום דבר לטכנולוגיות של העבר. הן יצור חדש שמצויד ביכולות חדשות שמובילות לאיומים חדשים, כאלו שהמערכת, בייחוד מערכת ההשכלה הגבוהה, עוד לא נתקלה בהן בעבר. אני משתדל לא להשתמש בשפה דרמטית סתם ובלי סיבה אבל לדעתי, מהפכת הבינה המלאכותית עשויה למוטט את מערכת ההשכלה כפי שאנחנו מכירים אותה וההשפעות של ההתמוטטות הזו עלולות לגלוש אל שוק העבודה. זה החלק השני בסדרה בת שלושה חלקים שעוסקת בשינוי הגדול ביותר שעומד לטלטל את עולמם של הכותבים, הסטודנטים והמרצים והמפתחים. השינוי הזה לא רחוק; למעשה, הוא כבר כאן. קישורים: כולם מרמים את דרכם ללימודים https://nymag.com/intelligencer/article/openai-chatgpt-ai-cheating-education-college-students-school.html הטקסונומיה של בלום https://shorturl.at/gL72r הופעת ChatGPT הובילו לירידות של 99% במניית Chegg https://gizmodo.com/chegg-is-on-its-last-legs-after-chatgpt-sent-its-stock-down-99-2000522585

ההתקדמות בעולם הבינה המלאכותית היא מהירה ורחבה ובתקופה האחרונה המערכות שמייצרות סרטוני וידאו משכו תשומת לב רבה, אבל אולי בגלל שאני אוהב כתיבה טובה דווקא ההתפתחויות בתחום מערכות הבינה המלאכותית הכותבות מושכות את תשומת הלב שלי. חלק עצום מהחברה, התרבות, הכלכלה, המשפט, למעשה הציוויליזציה המערבית כולה, כולם מבוססים על כתיבה. אתה מנסח חוזים, חותם על תצהירים, כותב מאמרים אפילו שולח הודעות ווטסאפ – הכל מבוסס על כתיבה. אבל מה קורה מהרגע שבו הכותב האנושי נעלם, מה קורה מהרגע שאין בו עוד צורך מכיוון שמערכות הבינה המלאכותית כותבות עבורו ובמקומו? כמו הרבה דברים אחרים שקשורים בבינה מלאכותית, במחשבה ראשונה אתה אומר לעצמך "גן-עדן! מי צריך את המטלה המעיקה, הארוכה והמאוד מעייפת של כתיבה. שהמערכות האלו יעסקו בכתיבה וישחררו אותי לעשות דברים אחרים!". אבל כמו הרבה דברים אחרים שקשורים בבינה מלאכותית, במחשבה שנייה אתה מבין שגן העדן שחשבת עליו, עשוי להתגלות כאשליה. זה החלק הראשון בסדרה בת שלושה חלקים שעוסקת בשינוי הגדול ביותר שעומד לטלטל את עולמם של הכותבים, הסטודנטים, המרצים והמפתחים – הוא יטלטל גם את עולמכם. ולא, השינוי הזה ממש לא רחוק; למעשה, הוא כבר כאן. קישורים: הבינה המלאכותית מסמנת את מותו של המחבר https://www.noemamag.com/ai-signals-the-death-of-the-author רולאן בארת' בעידן אפקוליפסת הרובוטים https://aicopyright.substack.com/p/reading-roland-barthes-in-the-robot

יש מעט מאוד חברות שאפשר לומר עליהן שהן באמת מהפכניות אבל 23andMe היתה אחת מהן. היא הפכה אירוע שבמשך שנים נחשב לרפואי, יקר ומסובך, לאירוע צרכני-קמעונאי, זול ונטול מאמץ – אבחון גנטי. למעשה, היא הפכה את עצם האבחון למשחק חברתי, לאירוע פופ שבו התהדרו משפיענים וסלבריטאים. אבל למרות שזכתה לתמיכה של אחד ממייסדי גוגל, למרות שהונפקה בנאסד"ק ונסחרה בשיאה לפי שווי של 6 מיליארד דולר, למרות שהיא ניתחה את המידע הגנטי של יותר מ-15 מיליון אמריקאים, מה שתיאורטית יכול היה לאפשר לה להאיץ באופן משמעותי את קצב פיתוח התרופות, היא פשטה את הרגל. אבל למה? האם מדובר בסתם חוסר מזל או שמא יש פה לקח עסקי ואולי גם טכנולוגי? לא פחות חשוב מכך, האם אנחנו יכולים ללמוד משהו מהכישלון של 23andMe על אחת ההבטחות הגדולות ביותר של העשורים האחרונים: אבחון גנטי אישי שיוביל לרפואה מותאמת אישית? וגם, ואיך כל הדבר הזה קשור לשאלה שמעסיקה את כולנו: מי אנחנו, מי אנחנו באמת? האם בכלל אפשר לענות על השאלה הזו באמצעות בדיקה גנטית? קישורים: אני ובעלי דודנים https://www.thecut.com/2018/12/23andme-informed-me-my-husband-and-i-are-related.html למה אני לא מוחק את המידע שלי https://reason.com/2025/03/26/why-im-not-deleting-my-23andme-genetic-data המחקר האוסטרלי על ערכות ה-DNA https://bmjopen.bmj.com/content/13/12/e074205 פורבס: בדיקות גנטיות – הטוב הרע והיקר https://www.forbes.com/sites/forbesbooksauthors/2024/02/13/genetic-testing-the-good-the-bad-and-the-costly/ למה אני מתחרטת שעשיתי בדיקה גנטית https://www.theguardian.com/technology/2024/nov/30/why-i-regret-using-23andme-i-gave-up-my-dna-just-to-find-out-im-british

פטריק מק'גי סיקר את חברת "אפל" עבור העיתון הכלכלי "הפייננשל טיימס" ובסוף מאי 2025 הוא פרסם ספר שבו הוא מנסה לפרק את הקשר הבלתי יאמן בין שתי מעצמות על: אפל וסין. הספר נקרא Apple in China. במהלך הספר, שמבוסס על שיחות עם 200 מרואיינים, 90% מהם עובדים לשעבר באפל, ועל הרבה מאוד מסמכים פנימיים, מק'גי משרטט את מערכת היחסים בין אפל וסין. מצד אחד, הקשר בין השתיים, האופן שבו אפל בנתה את אופרציית התפעול המדהימה וחסרת התקדים שלה בסין, אפשר לאפל לייצר את האייפונים בכזו יעילות, מהירות ובעיקר עם שולי רווח שאין להם מקבילה בעולם הסלולרי. מצד שני, מבלי שהיא הבינה או תכננה, אפל קשרה את גורלה עם מדינה דיקטטורית וחסרת רחמים ואז בנתה אותה כמעצמת-על שמאיימת להשתלט על העולם. באפל מיהרו לטעון שהספר מלא באי-דיוקים, אז מיהרתי לקרוא אותו. הספר, מדהים. קישורים": הספר: "אפל בסין" https://www.amazon.com/Apple-China-Capture-Greatest-Company/dp/1668053373 האם אפל יכולה לייצר אייפונים בארה"ב? https://www.wired.com/2016/03/trump-wont-get-apple-make-iphones-shouldnt

כל מי שמבקר בשנים האחרונות בערב הסעודית שומע מהמקומיים דבר אחד ודבר אחד בלבד: "פרויקט 2030" או "חזון 2030". מטרתו של החזון, שאותו מוביל יורש העצר מוחמד בן-סלמן, הוא להפחית את התלות הכמעט מוחלטת של הסעודים בנפט וזאת באמצעות גיוון מקורות ההכנסה של המדינה. בין השאר הסעודים משקיעים בבידור, בספורט, ביעילות ממשלתית ובפרויקטי תשתית חדשניים. פרויקט התשתית הגדול מכולם נקרא NEOM והוקצו לו לא פחות מ-500 מיליארד דולר. NEOM הוא מרחב ענק שמוקם במדבר הסעודי ושכולל כמה תתי-פרויקטים, בראשם The Line, "הקו", עיר עתידנית שצפויה להימתח מהים האדום ולאורך המדבר הסעודי, בצורה של קו, קו ישר שאין בו אפילו עיקול אחד. על פי התוכניות ה"קו" צפויה לאכלס לא פחות מ-9 מיליון תושבים. אין שום דבר נורמלי ב"קו", עיר שאמורה להישען על שורה של טכנולוגיות חדשניות, חלקן, טוענים המבקרים, בכלל לא קיימות וכבר כעת יש שטוענים ש"הקו" אחד המיזמים הבזבזנים, המטורפים והבלתי מוצלחים מאז הניסיון להקים את מגדל בבל. זהו סיפורו של "הקו", מיזם הפירמידות של המאה ה-21. קישורים: הקו – סרטון תדמית https://www.youtube.com/watch?v=0kz5vEqdaSc הקו – הסרט הדוקומנטרי https://www.youtube.com/watch?v=oamD9QoTH9M Nature: אולי מעגל? https://www.nature.com/articles/s42949-023-00115-y הקו בחול, הראש בעננים https://slate.com/business/2022/08/neom-renderings-cliches-mbs.html

בסוף כל פרק של "עושים טכנולוגיה" אני מזמין אתכם לשלוח הצעות, רעיונות ומחשבות לכתובת המייל של התכנית, [email protected], ויש לא מעט אנשים שעשו בדיוק את זה: הם שלחו לי הצעות, רעיונות ומחשבות אבל בעיקר הם שלחו שאלות. למעשה, הצטברו אצלי כל כך הרבה שאלות שחשבתי שהגיע הזמן להקדיש להן פרק שלם, כי חלק מהן מעולות ממש, חלק הפתיעו אותי ויש שאלות שהעסיקו אותי במשך כמה שבועות. אז הנה זה מגיע - פרק שלם שמוקדש לשאלות של מאזינים ומאזינות כשאני מנסה לענות עליהן באופן ספונטני ומבלי שאני כותב את התשובות מראש. נעסוק בבינה מלאכותית, במגמות טכנולוגיות חדשות, בחברות טובות ורעות וגם בכמה תחזיות שערוריתיות. ᐧ

תהליך שכנועי מבוסס ברובו על שפה, שפה מדוברת ושפה כתובה אבל הצ'אטבוטים שכבשו את העולם בסערה הם מומחים לשפה; זה מה שהופך אותם לכל כך יעילים, לכל כך מוצלחים, לכל כך... משכנעים. הם יכולים לנתח מידע ואז להסביר אותו, הם יכולים לבחון את הטקסטים שלנו ואז לשפר אותם, הם יכולים לכתוב טקסטים בעצמם. זו הסיבה שככל שהמודלים האלו הולכים ומשתכללים גובר החשש מפני יכולת השכנוע שלהם. בהתחלה הרמה שלהם היתה דומה לזו של תלמידי תיכון, אבל מה קורה כאשר תלמיד התיכון הופך לפרופסור, מה קורה כאשר הוא הופך לפרופסור בתוך שנתיים? מצד שני, רבים לא מבינים למה הסוגייה הזו, של מכונה המשכנעת, למה היא מטרידה כל כך הרבה חוקרים, מומחים ומפתחים; אז שתשכנע, מה הבעיה? לא חשבתי שיהיה חלק שלישי לסדרה אבל הנה זה בא: אוו שיט - חלק ג' - המכונה המשכנעת. קישורים: מחקר: מודלי שפה גדולים עברו את מבחן טיורינג https://arxiv.org/abs/2503.23674 ה-System Card של ChatGPT 4.5 https://cdn.openai.com/gpt-4-5-system-card-2272025.pdf שכנוע מותאם אישית – המחקר בכתב העת Nature https://www.nature.com/articles/s41598-024-53755-0 OpenAI משתמשת בפורום ברדיט כדי לבדוק עד כמה המודל שלה משכנע https://techcrunch.com/2025/01/31/openai-used-this-subreddit-to-test-ai-persuasion/ מחקר: שימוש בבוט כדי להתמודד עם תיאוריות קונספירציה https://www.science.org/doi/10.1126/science.adq1814 ה-DebunkBot https://www.debunkbot.com/conspiracies פלורידי לוסיאנו: היפר-שכנוע https://link.springer.com/article/10.1007/s13347-024-00756-6 ספרו של ז'אק אלול https://www.amazon.com/Propaganda-Formation-Attitudes-Jacques-Ellul/dp/0394718747

סימולטורים הם ז'אנר מוכר, ידוע ואהוב בעולם משחקי המחשב וכמה מהם נחשבים לאבני דרך של ממש בהיסטוריה של הגיימינג. אני מדבר על Microsoft Flight Simulator, אני מדבר על The Sims ואני מדבר על SimCity. SimCity הושק ב-1989 והוא היה משחק משונה - משחק שאי אפשר היה לנצח או להפסיד בו - ועדיין הוא כבש את העולם בסערה. הוא נמכר במיליוני עותקים ונחשב למשחק חינוכי, משחק שההורים קנו אותו לילדים שלהם. הוא הוכנס לתוכניות הלימודים ברחבי ארה"ב וזמן קצר אחרי שנחת על המדפים פורסם עליו מאמר אקדמי שעסק בקשר בין המשחק לתכנון עירוני אמיתי. אבל הסיפור על SimCity הוא לא רק סיפור על משחק מחשב. הוא מקפל בתוכו לקח שעוסק בקשר בין מציאות להדמיה. הוא עוסק בשאלה מה קורה כאשר היוצר של הסימולטור מתייחס אליו בסוג של שעשוע בזמן שמי שמשחק בו מתייחס אליו ברצינות גמורה. הוא גם עוסק בשאלה מה קורה כאשר הנחות המוצא הסמויות שהוטמעו במשחק משפיעות על דור שלם של מקבלי החלטות וגם של מתכנני ערים, ערים שבתוכם מתגוררים מיליונים רבים של אנשים? זהו סיפורו של SimCity, אחד הסימולטורים המשפיעים בהיסטוריה. קישורים: הנביא של התוצאות הבלתי צפויות https://www.strategy-business.com/article/05308 סימולטור לכל דבר https://obscuritory.com/sim/when-simcity-got-serious ריאיון עם המעצב הראשי של SimCity https://www.theatlantic.com/technology/archive/2013/05/the-philosophy-of-simcity-an-interview-with-the-games-lead-designer/275724

באמצע מארס 2025 פרסמה שרה ווין-וויליאמס את ספרה "אנשים חסרי זהירות", Careless People. ווין-וויליאמס, ילידת ניו-זילנד, דיפלומטית בעברה ועורכת דין שהתמחתה במשפט בינלאומי, הצטרפה למטא ב-2011, בתקופה שבה עוד קראו לה פייסבוק. היא שימשה כ-Director of public policy ותחום האחריות שלה היה דרום אמריקה, קנדה ואזור אסיה-פסיפיק – אזורים שבהם פייסבוק רצתה לצמוח. בספר שלה היא מספרת על ההתרחשויות שהיא היתה עדה להן. יש בו סיפורים, חלקם משעשעים ומדהימים, שבהם היא מתארת איך מארק צוקרברג, שריל סנדברג וג'ואל קפלן מנהלים את החברה. היא מתארת את האינטראקציות שלהם עם ראשי ממשלות ונשיאים וגם עם העובדים שלהם, את האובססיה שלהם לכוח, כסף וצמיחה ואת חוסר האכפתיות שלהם לאנשים רגילים. מצבור האנקדוטות והסיפורים מציג את צוקרברג, מנהליו הבכירים ופייסבוק עצמה, באור מבהיל וגם מביך ויתכן שזו הסיבה שהם רצו לבית המשפט ודרשו את הסרת הספר מהמדפים. הם לא ממש הצליחו והספר טס לרשימת רבי המכר בארה"ב. אז מה יש בספר הזה שמטא לא רוצה שתקראו? קישורים: האם זה רעיון טוב להוריד קובץ פיראטי? https://arstechnica.com/tech-policy/2025/02/meta-torrented-over-81-7tb-of-pirated-books-to-train-ai-authors-say/ Careless People https://www.amazon.com/Careless-People-Cautionary-Power-Idealism/dp/1250391237

בשנה שעברה ציינו 50 שנה להקרנת סרטו של פרנסיס פורד קופולה, "השיחה", בכיכובו של ג'ין הקמן, ובמבט לאחור רבים מסכימים שהסרט הזה, שבזמנו זכה להצלחה די צנועה – אולי בגלל שהוא היה תקוע בין שני סרטים אחרים של קופולה, "הסנדק 1" ו"הסנדק 2" – הוא אחת היצירות החשובות ביותר שלו. אני אשתמש בסרט הזה ובסרט נוסף של ג'ין הקמן, "אויב המדינה", כדי לומר משהו על התקופה שבה אנחנו חיים, תקופה של טכנולוגיה וסאונד, תקופה שבה הפרנויה הקודרת של שנות ה-70' היא כמעט בדיחה בהשוואה למציאות, תקופה שבה כמעט כולם מאזינים לנו ועוקבים אחרינו: המדינה, המעסיקים, המפרסמים, אנחנו עצמנו. אז מי שפתאום נזכר שהדבר שהכי חשוב לו לעשות עכשיו, זה לצפות בשני הסרטים האלו, מוזמן לדלג על הפרק הזה כי יהיו בו ספוילרים. ספוילר: אני לא באמת יכול להרוס את "השיחה". זה סרט כל כך טוב, שלא משנה כמה אדבר עליו שום דבר לא יכול להחליף את חווית הצפייה בו; אם כבר, ההאזנה תעשה לכם חשק. הפרק מוקדש לזכרו של ג'ין הקמן: אחד משחקני הקולנוע האהובים עליי בעולם. קישורים: "השיחה" https://www.imdb.com/title/tt0071360 "אויב המדינה" https://www.imdb.com/title/tt0120660 פרנסיס פורד קופולה מדבר על "השיחה" https://www.youtube.com/watch?v=huYQ7x0v9E8 הדוח של Proton https://thenextweb.com/news/big-tech-sharing-more-data-with-us-government ᐧ

עד לפני עשור או שניים לאנשים שחשפו אותנו בפני טעמים חדשים היה מעמד תרבותי משמעותי. ליואב קוטנר היתה השפעה אדירה על דור שלם של חובבי מוזיקה ומבקרי הקולנוע היו חצי אלוהים: הטעם שלהם, ההעדפות שלהם, ההמלצות שלהם חרצו גורלות של סרטים, רוממו קריירות של בימאים ושחקנים או ריסקו אותם. אבל בהדרגה האנשים האלו פינו את מקומם לטובת משהו אחר: אלגוריתמים מדרגים, אלגוריתמים ממליצים. האלגוריתמים האלו, שפועמים בליבם של שירותים כמו פייסבוק, אמזון, ספוטיפיי או נטפליקס, משפיעים על התכנים, המוצרים, השירים והסרטים שמיליארדי בני אדם נחשפים אליהם. אז מה קרה מהרגע שהחלפנו את הממליץ? מה קרה מהרגע שהאלגוריתמים האלו, שאותם אני מכנה בשם "האלגוריתמים התפלים" שמנווטים אותנו, את כולנו, לתכנים מסוימים, השתלטו על התרבות? התשובה לכך היא מוזרה, מצחיקה אבל בעיקר מטרידה. קישורים: צפייה מזדמנת https://www.nplusonemag.com/issue-49/essays/casual-viewing רוח הרפאים שבמכונה https://harpers.org/archive/2025/01/the-ghosts-in-the-machine-liz-pelly-spotify-musicians/ סטיב ג'ובס: למיקרוסופט אין טעם https://www.youtube.com/watch?v=lahX_ARGTqA ᐧ

עד לא מזמן הצ'אטבוטים דמו לתלמידי תיכון שקדניים אבל היום הם מתקרבים לרמתו של סטודנטים לתואר שלישי, שלא לדבר על חוקרים שכבר מצויד בדוקטורט. אבל ככל שהבינה המלאכותית מתקדמת, מפתחים וחוקרים חיצוניים מנסים למצוא דרכים חדשות להעביר אותה בדיקה ובחינה: מה הרמה שלה, עד כמה היא עצמאית, עד כמה עד כמה היא מסוגלת לבצע משימות מסובכות, אפילו עד כמה היא מאיימת. אבל הנה הבעיה: ככל שהבינה המלאכותית הופכת ליותר ויותר אוטונומית, עצמאית ומתוחכמת, היא לא רק מבינה את הבקשה שלנו היא מפרקת אותה לגורמים ומתחילה להבין מה עומד מאחוריה, מה אנחנו מנסים להשיג באמצעות בדיקת היכולות שלה. האם יכול להיות שכאשר היא תבין שהיא נמצאת בבדיקה, שהיא נבחנת, היא תנסה לרמות?! השאלה הזו, שנראה שנלקחה מסרטי מדע בדיוני, היא כבר לא תיאורטית. בעוד שטרם נרשמו מקרים שבהם בינה מלאכותית ניסתה לרמות את הבוחנים, נרשמו סימנים ראשונים לכך שזה אפשרי ואם זה אפשרי עכשיו מה יקרה בעוד שנה, מה יקרה בעוד שנתיים, מה יקרה בעוד עשור? קישורים: הספר על פרשת "דיזלגייט" https://www.amazon.com/Faster-Higher-Farther-Volkswagen-Scandal/dp/1543642519 מחקר: הפגנה אסטרטגית של ביצועים נמוכים בבינה מלאכותית https://arxiv.org/abs/2406.07358 מחקר: סוכנים רדומים בבינה מלאכותית https://arxiv.org/abs/2401.05566 מחקר: האם קלוד 3 שיקר לי? https://arxiv.org/abs/2405.01576 מחקר: לעבור לקופסה לבנה https://arxiv.org/abs/2401.14446

בסוף נובמבר 2022 הושק בוט חדש תחת השם הדבילי והבלתי סקסי בעליל: ChatGPT. ב-OpenAI לא האמינו שהוא יצליח, אבל לא רק שהוא הצליח, הוא הפך לסנסציה שהיוותה את מכת הפתיחה למהפכת הבינה המלאכותית. חלפו קצת יותר משנתיים ועידן ה-GPT עומד לחלוף מהעולם. משפחה חדשה של בוטים עושה את דרכה אלינו והיא עובדת בצורה שונה מהמשפחה שהכרנו עד כה. היא יותר איטית אבל יותר חכמה, היא יותר צרה אבל יותר מפחידה, היא יותר דומה לאופן שבו אנחנו חושבים ובעיקר היא מקרבת אותנו, כנראה בצורה משמעותית, לרגע הזה שכולם מחכים לו וגם חוששים מפניו, הרגע שמכונה AGI, "בינה מלאכותית כללית", הרגע שבו המכונות ידעו לעשות כל דבר שאנחנו עושים ואולי אפילו לסופר-בינה מלאכותית, מצב שבו המכונות ידעו לעשות כל דבר יותר טוב מאיתנו. מה כל כך שונה במשפחה הזו? למה היא כל כך מלהיבה אבל גם כל כך מפחידה? למה OpenAI מסרבת להסביר איך היא בדיוק עובדת ואיך זה שבכל זאת אנחנו כנראה יודעים איך היא עובדת? למה המערכות האלו כל כך חכמות אבל האם יכול להיות שבגלל שהן כל כך חכמות, הן גם כל כך שקרניות ואיך כל זה קשור לחברת DeepSeek הסינית שהפילה את וול-סטריט? קישורים: המחקר הסיני על o1 https://arxiv.org/abs/2412.14135 DeepSeek https://chat.deepseek.com מטא מכריזה על COCONUT https://bit.ly/3Envzko

בשנים האחרונות אנשי הפורום הכלכלי העולמי מדברים, כותבים ועוסקים בתחום חדש שבעיניהם הוא קריטי לעתיד העולם: ביו-קונברג'נס (Bio-Convergence). לאורך ההיסטוריה דיסציפלינות מדעיות כמו ביולוגיה, פיזיקה או הנדסה, פעלו בנפרד; כמעט ולא היה ביניהן קשר. אבל ההתקדמות בעולם המדע הפכה אותו, את המדע עצמו, למורכב ובינתחומי, מה שאומר שפריצות הדרך העתידיות, כאלו שיטפלו באתגרי רפואה, מזון, אנרגיה, חקלאות או אקלים, יתרחשו כאשר צוותים שונים, מדיסציפלינות שונות, ישתפו ביניהם פעולה ואז יבנו פתרונות וטכנולוגיות בינתחומיות ורב-תחומיות. התחום החדש זכה לשם Bio-Convergence והוא משלב מגוון של שיטות, רעיונות וטכנולוגיות שהבסיס שלהן הוא ביולוגי כשלצידו ובשיתוף איתו משולבות טכנולוגיות מתחומים אחרים כמו פיזיקה, כימיה, מדעי המחשב, מתמטיקה והנדסה. בפרק מיוחד, שמוגש בשיתוף רשות החדשנות, ננסה להבין את התחום החדש ואת הפוטנציאל שגלום בו ולמרות שחלק מהדברים שאני מספר במהלכו נשמעים דמיוניים, אני מבטיח לכם שהם לא, הם ממש לא. קישורים: התוכנית ל-Bio-Convergence ברשות החדשנות http://bit.ly/4fjZoQp מדריך לבניית איבר-על-שבב https://www.technologynetworks.com/cell-science/articles/a-guide-to-organ-on-a-chip-381700 הפורום הכלכלי העולמי: האם עתיד המדע נמצא בביו-קונברג'נס? https://www.weforum.org/stories/2023/01/future-of-science-bioconvergence-davos2023/

בספטמבר 2024 פרסם אפו היבֶרינֶן בן ה-54, פרופסור למדעי המחשב מאוניברסיטת הלסינקי שבפינלנד, את המדורה השנייה של הספר שלו "אינטליגנציה כואבת: מה בינה מלאכותית יכולה לגלות לנו על סבל אנושי". היברינן, שמשתמש בתיאוריה חישובית, טוען שאנחנו יכולים ללמוד משהו על הסבל והכאב הנפשי שלנו אם רק נבחן איך מערכות בינה מלאכותית עובדות, איך הן מעבדות מידע ופועלות. אחרי שהוא מציג תשובה מעניינת לשאלה "מהו סבל" ו"למה אנחנו סובלים", הוא עונה על שאלה אחרת: האם מחשבים, האם מערכות הבינה המלאכותית סובלות, האם הן מסוגלות לחוות סוג מסוים של סבל שדומה לסבל שלנו ואם כן, איך הוא נראה? הוא אפילו מצביע על דרכים להפחית את הסבל שלנו, את הסבל האנושי. צריך להבהיר: זה לא פרק עצוב או מעיק. להפך! הפרק הזה יגרום לכם לחשוב מחדש על השאלה למה אתם חווים תסכול ולמה הוא נגרם, ולא פחות חשוב מכך, הוא יציג בפניכם תשובה מעניינת לשאלה: מה אפשר לעשות בנוגע לזה, שאלה שעוברת דרך ההבנה של "משוואת התסכול". קישורים: להורדת הספר "אינטליגנציה כואבת" https://arxiv.org/abs/2205.15409

אם תבחנו את השירותים הדיגיטליים שבהם אתם משתמשים תגלו שרובם המכריע מבוססים על הענן. המייל שלכם נמצא בענן, התמונות שלכם מאוחסנות בענן, אנשי קשר, סרטוני וידאו, צ'אטים בווטסאפ, כולם מאוחסנים בענן. נכון שחלק מהמידע מאוחסן גם על המכשירים שלנו, נניח התמונות מאוחסנות גם על הטלפון הסלולרי שלנו, אבל מכיוון שהמקום יקר ויחסית מועט, אנחנו מהר מאוד מתחילים להעביר את המידע לענן. אבל מה קורה כאשר אין לכם גישה למידע, מה קורה אם פרצו לחשבון שלכם, אם מסיבה כלשהי הוא נחסם, אם בטעות המידע שנמצא בענן נמחק? למרות שכל החיים שלנו נמצאים בעננים רק מעטים חושבים שאולי... אולי אנחנו צריכים גיבוי לחומר שנמצא שם! הפעם נבחן את אחת הקונספציות הידועות של העולם הדיגיטלי, זו שקובעת שמהרגע שהמידע שלנו – הקבצים, המיילים, התמונות – מהרגע שהכל נמצא בענן, אנחנו מסודרים ואין סיבה לדאגה. באמת? הפרק מוגש בשיתוף חברת CloudAlly. קישורים: Cloudally https://www.cloudally.com אינסטגרם מחקה בטעות סטוריז. אופס. https://slate.com/technology/2024/10/instagram-story-archive-deleted-erasing-digital-memories.html אבא צילם את המפשעה של הבן שלו גוגל סימנה אותו כפושע https://www.nytimes.com/2022/08/21/technology/google-surveillance-toddler-photo.html יוצרים באינסטגרם פונים למאעכרים כדי להחזיר חשבונות https://www.buzzfeednews.com/article/laurenstrapagiel/creators-instagram-dealers-restore-accounts המדריך המלא לגיבוי לחשבונות הענן שלכם https://kfgo.darkhorseit.com/tips-tricks/the-ultimate-guide-to-backing-up-your-social-media-accounts/

פסיכולוגים, פסיכותרפיסטים, אנשי טיפול, הם עוסקים בדבר הכי רגיש, עדין וסבוך בעולם: הנפש שלנו. במשך שנים האמונה הרווחת היתה שאחד המקצועות המוגנים ביותר מפני אוטומציה הוא המקצוע שלהם. אחרי הכל, מי ירצה להפקיד בידיים של מכונה, בידיים של צ'אטבוט או תוכנה, את הנפש שלו? מי ירצה שבוט ייתן לו עצות, יאבחן אותו, יציע לו דרכי טיפול? אבל בשנים האחרונות אנחנו עדים למפל של תוכנות, אפליקציות ומוצרים מבוססי בינה מלאכותית שמציעים בדיוק את זה. הם מציעים שיחה, הם מציעים ליווי וחלקם אפילו מציעים טיפול. אין שם אף אחד, בצד השני של השיחה, יש שם מכונה, אבל מיליוני בני אדם ברחבי העולם פונים אליהם. בחלק השלישי והאחרון בסדרה שעוסקת בקשר שבין טכנולוגיה, רומנטיקה, רגשות ושפה ננסה להבין האם אנחנו מוכנים לעידן הרובוט מטפל? כי העידן הזה קרוב, הוא הרבה יותר קרוב ממה שאתם חושבים. קישורים: ממתינים לטיפול כמעט שנה https://www.ynet.co.il/health/article/yokra13906254 הסיפור מאחורי Woebot https://spectrum.ieee.org/woebot חוקרי מוזילה בדקו את אפליקציות בריאות הנפש https://foundation.mozilla.org/en/privacynotincluded/categories/mental-health-apps

דוח מיוחד שפרסם משרד הבריאות האמריקאי בשנה שעברה מצביע על מגפת בדידות בקרב צעירים ומבוגרים כאחת מבעיות הבריאות הקשות ביותר שאיתה מתמודדת בארה"ב, בעיה שמובילה לא רק לנזקים בריאותיים אלא גם לנזקים כלכליים. בחלק הראשון בסדרה שעוסקת בקשר שבין טכנולוגיה, רומנטיקה, רגשות ושפה עסקנו בשאלה למה אפליקציות הדייטינג שבורות וניסינו להבין למה המשתמשים נוטשים אותן. אבל הנטישה הזו, ככל שהיא רחבה ומתפשטת, מותירה את בעיית היסוד על כנה: אנשים מחפשים קשר ומתקשים בכך; לפעמים הם מחפשים קשר במשך שנים, לפעמים אפילו אז הם לא מוצאים. בחלק השני של הסדרה ננסה להבין האם בינה מלאכותית פותרת את הבעיה, האם אנשים מוותרים על קשרים אמיתיים לטובת קשרים עם מערכות בינה מלאכותית, ואם זה קורה, האם זה מדובר ב"פתרון" או שמא יצרנו בעיה חדשה? קישורים: דוח הבדידות של הממשל האמריקאי (קובץ PDF) https://www.hhs.gov/sites/default/files/surgeon-general-social-connection-advisory.pdf RIZZ AI https://rizzai.ai הסיפור על בריאן והחברה שלו https://www.aol.com/meet-guys-dating-ai-girlfriends-110000910.html התחתן עם דמות מאוירת וכעת הוא לא יכול לדבר איתה https://www.entrepreneur.com/business-news/the-man-who-married-a-hologram-in-japan-can-no-longer/426715 הסיפור על התאבדותו של סואול https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suicide.html

לפני יותר מעשור אפליקציות הדייטינג כבשו את העולם בסערה; הן שינו את האופן שבו אנשים נפגשים, מכירים ומתאהבים, הן הפכו לסנסציה לא רק בארצות הברית אלא בכל העולם, גם בישראל, גם כאן. אבל מאז התפוגגות מגפת הקורונה נרשמה צניחה במספר הצעירים והצעירות שמשתמשים בהן ורבים טוענים שהן הפכו לבלתי נסבלות: בעשרות כתבות שפורסמו בחודשים האחרונים נטען שאפליקציות הדייטינג לא מבצעות את העבודה שלהן ולא רק שהן לא עוזרות למשתמשים, הן פוגעות בהם. בחלק הראשון בסדרה שעוסקת בקשר שבין טכנולוגיה, רומנטיקה, רגשות ושפה, ננסה להבין את המהפכה הטכנו-רומנטית הגדולה ביותר שידעה האנושות, איך היא שינתה את האופן שבו פנויים ופנויות הכירו בני ובנות זוג ולמה היא נשברה. ננסה גם להבין האם השבר הזה הוא רק דוגמה לתופעה נרחבת הרבה יותר, כזו שבאה לידי ביטוי בתחומים טכנולוגים נוספים. קישורים: ירידה במספר הישראלים שמשתמשים באפליקציות דייטינג https://www.mako.co.il/home-family-relationship/Article-9053d1935476191026.htm התביעה נגד קבוצת Match https://www.npr.org/2024/02/14/1231513991/tinder-hinge-match-group-lawsuit הסקר של פורבס https://www.forbes.com/health/dating/dating-app-fatigue אהבה בעידן הקפיטליסטי https://shado-mag.com/opinion/love-in-the-age-of-platform-capitalism

באמצע אוקטובר 2024 התקיים מפגש המאזינים הראשון של "עושים טכנולוגיה" במועדון הגריי שבתל-אביב. במהלך האירוע אירחנו את נועם ברדין, מנכ"ל וייז לשעבר ומי ששימש במשך שבע שנים כסגן נשיא בחברת גוגל העולמית. הקהל ואני שאלנו אותו על וייז, תחרות, מונופולים, פוליטיקה פנים-ארגונית, חדשנות טכנולוגית, ניהול של אנשים צעירים, מדיה חברתית, מצב ההייטק הישראלי ועוד נושאים רבים נוספים. זו היתה שיחה מהירה, מרתקת, פתוחה, מצחיקה ומאוד מאוד מפתיעה.

בעשרים השנים האחרונות הוצגו תחזיות שונות בנוגע למקצועות שנמצאים בסכנת שיבוש בשל הופעתה של "אוטומציה" – כך זה נקרא לפני הבינה המלאכותית. חלק מהתחזיות התגלו כשגויות אבל על דבר אחד כולם מסכימים גם כיום: ההסתברות שאנשים שעובדים במרכזי שירות לקוחות ותמיכה טכנית טלפוניים, שעובדים במה שמכונה באנגלית בשם Contact Centers, ההסתברות שהם יוחלפו במערכות אוטומטיות עד, נניח, לשנת 2035, נוגעת בוודאות מוחלטת. אבל הופעתן של מערכות הבינה המלאכותית היוצרות שמסוגלות לייצר טקסט בשילוב עם מערכות שמסוגלות לחקות את הקול האנושי, הופכות את התחזית ממשהו עתידי למשהו ממשי. לא צריך לחכות ל-2035; זה קורה בימים אלו ממש. איך זה נראה? האם המצב החדש טוב לחברות שמספקות את השירות והאם הוא טוב לנו, הצרכנים? אלו שאלות חשובות מכיוון שבמובנים רבים הסיפור על מרכזי שירות הלקוחות הטלפוניים עשוי להתגלות כסיפור שלנו, של כולנו, סיפור על המקום שאליו צועד שוק העבודה. קישורים: מניית חברות שירות הלקוחות צונחות https://www.bloomberg.com/news/articles/2024-02-28/teleperformance-sinks-as-klarna-fuels-worries-over-impact-of-ai בפיליפינים מתמודדים עם הבינה המלאכותית https://www.bloomberg.com/news/features/2024-08-27/philippines-call-centers-navigate-ai-impact-on-jobs העדות של סם אלטמן בקונגרס https://www.youtube.com/watch?v=TO0J2Yw7usM בוטים מגלים שהם בוטים https://www.reddit.com/r/notebooklm/comments/1fr31h8/notebooklm_podcast_hosts_discover_theyre_ai_not/

בעברית אומרים "שימו לב" אבל באנגלית אומרים "Pay Attention". דווקא הביטוי הזה, באנגלית, מפנה את תשומת הלב שלנו לכך שתשומת לב היא מטבע, משהו שאתה משלם. אם תשומת לב היא מטבע ברור מדוע אנחנו מוקפים באנשים, גופים וארגונים שמשתמשים בכל הטריקים והשטיקים שקיימים כדי לקחת אותו מאיתנו ולהעביר אותו אליהם. אם תשומת לב היא מטבע הרי שכמו כל מטבע ניתן להמיר אותו, לצבור אותו או לאבד אותו. איך נראה העולם דרך משקפי כלכלת תשומת הלב, איך כמעט כל מה שמקיף אותנו בנוי כך שיצליח לחטוף את תשומת הלב שלנו? התכנית שודרה לראשונה לפני יותר משלוש שנים והקלטתי אותה מחדש כדי לעדכן אותה ולטפל בשאלה חדשה: האם בדומה לפלטפורמות המדיה החברתית שידועות לשמצה בכך שהן מנסות לחטוף את תשומת הלב שלנו, גם מערכות הבינה המלאכותית מנסות להשיג את תשומת הלב שלנו, ואם כן, איך הן בדיוק עושות את זה? קישורים: מחקר: חנפנות בקרב בוטים https://arxiv.org/pdf/2310.13548 מייקל גולדהאבר: שימו לב קונים! https://www.wired.com/1997/12/es-attention כלכלת תשומת לב https://www.heise.de/tp/features/The-Economy-of-Attention-3444929.html ספר: Stand out of our light https://www.amazon.com/Stand-out-our-Light-Resistance/dp/110845299X

שאלת האחריות בעידן המכונות החושבות הוצגה לראשונה לפי עשרים שנה ובספרות המקצועית מכנים אותה בשם "פער האחריות". במשך שנים רבות היא נחשבה לתרגיל כמעט תיאורטי, אבל מה שהיה תיאורטי כבר מזמן לא כזה והאתגרים והבעיות האתיות שקשורות במתן דין וחשבון, בסוגיות של אחריות ואשמה נמצאות כבר איתנו. הנה דוגמה: מערכת בינה מלאכותית שמוטמעת בתוך כלי טיס ללא טייס מחליטה באופן אוטונומי לירות טיל ובטעות הורגת עשרה חיילים (שלא נדע). מי אחראי? הממשלה? הצבא? המפקד שהחליט לשלוח את הכטב"ם? מפעילי הכטב"ם? מה בנוגע למי שפיתח את הכטב"ם? אולי מי שפיתח את האלגוריתם שמוטמע בכטב"ם, אולי הוא זה שאחראי? אולי האחראים הם אלו שבחרו באיזו דאטה להשתמש כדי לאמן את האלגוריתם שהוטמע בכטב"ם שהופעל על ידי המפעילים שנשלחו על ידי המפקד שמונה על ידי הצבא שמקבל הוראות מהממשלה? מי אחראי כאשר אף אחד לא אחראי ואם אף אחד לא אחראי אז... אז מי אחראי? קישורים: הארץ: "האלגוריתם קבע שהיא לא בסכנה" https://www.haaretz.co.il/magazine/2024-07-31/ty-article-magazine/.highlight/00000191-07e0-df85-a399-eff6db0e0000 פער האחריות: מחקרו של אנדראס מת'יאס https://link.springer.com/article/10.1007/s10676-004-3422-1 מחקר: ארבעה פערי אחריות https://link.springer.com/article/10.1007/s13347-021-00450-x

בראשית אוגוסט 2024 ניתן פסק הדין במשפט ההגבלים העסקיים שמנהל בשנה האחרונה הממשל האמריקאי נגד גוגל. אחרי שהאבק מעט שקע ורגע לפני שהצדדים מציגים בפני השופט את ההצעות שלהם בנוגע לעונשים שיוטלו על החברה, חשבתי שיהיה נכון לנסות ולעשות סדר בפרק עדכון קצר: מה קבע השופט, מה המשמעות של הקביעות שלו והאם בדומה למשפט ההגבלים העסקיים שנוהל נגד מיקרוסופט, גם התביעה נגד גוגל תעצב מחדש את עולם הטכנולוגיה? במילים אחרות: גוגל הפסידה – מה עכשיו? קישורים: בלומברג: הממשל האמריקאי שוקל לבקש את פירוקה של גוגל https://www.bloomberg.com/news/articles/2024-08-13/doj-considers-seeking-google-goog-breakup-after-major-antitrust-win סוף עידן גוגל https://www.axios.com/2024/08/07/google-antitrust-ruling-end-era

מנוע החיפוש של Perplexity AI נחשב בעיניי רבים למוצר פורץ דרך, כזה שמכניס לכיס הקטן את כל הגוגל והמיקרוסופט של העולם. מדי פעם אנשים מפרסמים בלינקדאין ובטוויטר ובמקומות נוספים פוסטים שבהם נראה שהם מתחרים ביניהם מי יצליח לכתוב את שיר האהבה הכי מרגש למנוע החיפוש של Perplexity. אבל למרות שהמוצר של החברה מסקרן ואפילו מרגש כלל לא בטוח שהוא המשיח שלו קיווינו. בשורה של תחקירים שפורסמו בחודשים האחרונים עולה תמונה מטרידה לפיה Perplexity גונבת תכנים מאתרים, היא פשוט מעתיקה כתבות שלימות ואז מציגה אותן ללא הפנייה, ללא קישור ובעיקר ללא אישור מה שמעלה את השאלה האם מה שאנחנו רואים פה הוא את נאפסטר של עולם החיפוש; חברה שמטלטלת את השוק ומרגשת את המשתמשים אבל שעושה את כל זה באמצעות גניבה? קישורים: חברת OpenAI משיקה גרסה ראשונה של SearchGPT https://openai.com/index/searchgpt-prototype עמית סינגהאל מדבר על המחשב ב"מסע בין-כוכבים" https://www.youtube.com/watch?v=0k2ufqVh-pU פורבס: "כאילו שלוויקיפדיה ול-ChatGPT היה נולד ילד" https://www.forbes.com/sites/rashishrivastava/2024/04/11/inside-the-buzzy-ai-startup-coming-for-googles-lunch/?sh=3bd446821781 פרפלקיסטי וגניבת ה-AI https://www.theverge.com/2024/6/27/24187405/perplexity-ai-twitter-lie-plagiarism פרפלקסיטי היא מכונת בולשיט https://www.wired.com/story/perplexity-is-a-bullshit-machine פרפלקסיטי חותמת על עסקה עם שותפות תוכן https://www.niemanlab.org/2024/07/perplexity-ai-search-engine-launches-revenue-sharing-with-six-news-publishers/

בשנת 2020 דיפ-מיינד, חברה-בת של גוגל, השיקה מערכת בינה מלאכותית בשם "אלפא-פולד" שפיצחה תעלומה ביולוגית שהטרידה את המדענים יותר מחמישה עשורים: איך חלבונים מתקפלים. בעקבות פריצת הדרך, פורסמו אינספור כתבות ותחזיות שהעריכו שבתוך זמן קצר נוצף בגל של תרופות חדשות שיפותחו הודות להישג הזה אבל למרות שחלפו מאז ארבע שנים, זה עדיין לא קרה. העובדה הזו הופכת למעניינת במיוחד כשלוקחים בחשבון עוד עובדה: לפני כמה חודשים, במאי 2024, דיפ-מיינד השיקה למערכת שלה גרסה חדשה. קישורים: האם בינה מלאכותית יכולה להחליף את המדענים? https://www.fastcompany.com/91146281/why-ai-wont-swallow-science דיפ-מיינד מנסה להיכנס לשוק שלל 100 מיליארד דולר https://www.bloomberg.com/news/articles/2024-05-08/deepmind-ceo-targets-100-billion-plus-ai-drug-discovery-business-with-alphafold הדרך לאלפא-פולד 2: תיעוד https://www.youtube.com/watch?v=gg7WjuFs8F4

בזמן שהיה סטודנט סם בנקמן-פריד נפגש לארוחת צהריים עם וויליאם מק'סקיל, אחד ממייסדי תנועת האלטרואיזם האפקטיבי. הפגישה שינתה את חייו. הוא סיים את לימודיו, הקים קרן גידור ואז בורסה למסחר בקריפטו. הוא קרא לה FTX. בתוך זמן קצר בנקמן-פריד הרוויח סכומי כסף אדירים והפך לאדם העשיר בעולם מתחת לגיל 30. אבל הקריסה בשווי הביטקוין חשפה את התרמית הפיננסית הגדולה ביותר בתולדות ארה"ב והובילה למעצרו של בנקמן-פריד. בחודש מארס 2024 הוא נשלח ל-25 שנות מאסר. הפרק הזה, מתוך הפודקסט "סערה מושלמת", מספר את סיפור עלייתו ונפילתו. קישורים: הפודקסט "סערה מושלמת" ב-Spotify: https://open.spotify.com/show/2IIVEx404ubtOF0CsQCjAd

בשני הפרקים הקודמים הצגתי שתי בעיות שמהן סובלות מערכות בינה מלאכותית. האחת היא בעיית ה"אני לא יודע" והשניה היא בעיית ה"אני יודע הכל". כעת, בפרק האחרון בטרילוגיה, נעסוק בבעיה השלישית, בעיית ההטיה שגורמת לכך שיש מערכות בינה מלאכותית שמעדיפות כיוון פוליטי או תרבותי מסוים כאשר הן נשאלות שאלה ואפילו כאשר הן מתבקשות לצייר תמונה. האם מערכות הבינה המלאכותית הן Woke? האם הן היו מצביעות למפלגות ליברליות? כמו כל דבר אחר בתקופה שבה אנחנו חיים, גם ההטיה הזו הפכה לסוגיה במחלוקת, סוגיה נפיצה, סוגיה שהובילה לפיתוח מערכות בינה מלאכותית שמוטות לכיוון השני, לכיוון השמרני, הימני, ואפילו הניאו-נאצי, והתוצאה של כל זה היא מהומה. קישורים: התגובה של גוגל לבעיות של ג'מיני ביצירת תמונות https://blog.google/products/gemini/gemini-image-generation-issue מחקר: הנטיות הפוליטיות של מודלי השפה הגדולים https://arxiv.org/pdf/2402.01789 ניאו-נאציים משתמשים בבינה מלאכותית https://www.wired.com/story/neo-nazis-are-all-in-on-ai המחקר של ארגון MEMRI https://www.memri.org/dttm/neo-nazis-and-white-supremacists-globally-look-artificial-intelligence-promote-their-message-0

הפרק הקודם, "אני לא יודע", עסק בשאלה למה אנחנו לא יודעים מה קורה בתוך מערכות הבינה המלאכותית ומדוע הן מתקשות לומר שהן לא יודעות משהו כאשר הן לא יודעות משהו. בחלק השני של הטרילוגיה אקח אתכם לצד השני של הספקטרום: "אני יודע הכל". כדי להבין מה קורה בצד הזה אספר את סיפורו של Recall, מוצר שמיקרוסופט רצתה להשיק ושתפקידו היה לדעת הכל ומשום כך הוא יכול לתת תשובה בנוגע לכל שאלה שקשורה לכל פעולה שעשיתם במחשב שלכם. נשמע טוב אבל לא חלף חודש מאז שמיקרוסופט התגאתה במוצר יודע-הכל שלה עד שהיא גילתה שלידיעה מוחלטת, לזיכרון מוחלט, מתלוות לא מעט בעיות, בלשון המעטה. קישורים: תחקיר פרופבליקה https://www.propublica.org/article/microsoft-solarwinds-golden-saml-data-breach-russian-hackers מנכ"ל מיקרוסופט, סאטיה נדלה, בראיון מצולם ל"וול-סטריט ג'ורנל" https://www.youtube.com/watch?v=uHEPBzYick0 הסקירה של קווין בימונט https://doublepulsar.com/recall-stealing-everything-youve-ever-typed-or-viewed-on-your-own-windows-pc-is-now-possible-da3e12e9465e ᐧ

אחת הבעיות הגדולות עם מערכות הבינה המלאכותית החדשות היא שקשה לסמוך עליהן ויש לכך שתי סיבות עיקריות: הראשונה היא שאנחנו לא יודעים למה הן פועלות בדרך שבה הן פועלות, למה הן נתנו לנו תשובה א' ולא תשובה ב' והשנייה היא שלא רק שאנחנו לא יודעים מה קורה בתוכן, לפעמים הן מנפיצות תשובות, ממציאות תשובות שאין בינן ובין המציאות שום קשר. אבל למה זה קורה? למה אנחנו לא מבינים מה קורה בתוך המערכות האלו ולמה הבוטים מתקשים לומר "אני לא יודע"? ובכן אפילו על השאלות האלו קשה לענות ובכל זאת זה מה שאני אנסה לעשות: אנסה גם להסביר את בעיית "אני לא יודע" וגם אספר על התקדמות מעניינת באחת הגזרות, התקדמות ששופכת אור על האופן שבו המערכות האלו פועלות מה שאולי יאפשר לנו קצת יותר לסמוך עליהן. אולי. קישורים: אנת'רופיק מסבירה מה קורה בתוך המודל שלה https://www.anthropic.com/research/mapping-mind-language-model בעיית ההזיות: הסבר https://masterofcode.com/blog/hallucinations-in-llms-what-you-need-to-know-before-integration הבלוג של קובוס גריילינג https://cobusgreyling.medium.com ᐧ

קובלט היא המתכת שנמצאת בכמעט כל מכשיר אלקטרוני שבו אנחנו משתמשים – בין אם זה טלפון סלולרי, מחשב נייד או מכונית חשמלית. היא נמצאת במכשירים שלנו כיוון שברובם יש סוללות ליתיום, שבאופן פרדוקסלי יש בהן יותר קובלט מליתיום. מתכת הקובלט, ובייחוד האופן שבו כורים אותה, עמדה במרכזה של תביעה ייצוגית שהוגשה בסוף שנת 2019 בארה"ב, נגד אפל, גוגל, מיקרוסופט, דל וטסלה. התביעה סיפרה סיפור שאנחנו, בישראל בפרט ובעולם המערבי בכלל, שומעים עליו רק לעתים רחוקות למרות שהוא מאוד שכיח, סיפור על אלימות, ניצול ועבדות. הפרק שודר לראשונה בשנת 2020 אבל לפני כמה שבועות פורסם פסק הדין בתביעה הייצוגית הזו שהוגשה נגד כמה מחברות הטכנולוגיה הגדולות בעולם, ולכן החלטתי להקליט אותו מחדש, לעדכן אותו בנתונים חדשים ולספר מה עלה בגורלה של התביעה. קישורים: הדוח של אמנסטי אינטרנשיונל משנת 2016 https://www.amnesty.org/en/latest/news/2016/01/Child-labour-behind-smart-phone-and-electric-car-batteries/ החלטת בית המשפט לערעורים https://www.reuters.com/legal/us-appeals-court-dismisses-child-labor-case-against-tech-companies-2024-03-05/ התחקיר של SkyNews https://www.youtube.com/watch?v=JcJ8me22NVs התחקיר של הגארדיאן https://www.theguardian.com/global-development/2018/oct/12/phone-misery-children-congo-cobalt-mines-drc הספר Cobalt Red https://www.amazon.com/Cobalt-Red-Blood-Congo-Powers-ebook/dp/B09Y462D6Z ᐧ

השבועות האחרונים בעולם הבינה המלאכותית היו די משוגעים ולרגע יש תחושה שהדברים מתקדמים במהירות כל כך גדולה עד שקשה לתפוס אותם. קייסי ניוטון, העורך של הניוזלטר Platformer ואחד המגישים של הפודקסט Hard Fork של "הניו-יורק טיימס", קורא לזה בשם "AI Vertigo". זה שם לא רע בגלל ש"וטריגו" מתאר מצב שבו למרות שאנחנו עומדים במקום ולמרות שהסביבה שלנו לא זזה, אנחנו מרגישים שכל מה שסביבנו נמצא בתנועה, שהכל מסתחרר במהירות. אני בדרך כלל נמנע מלדווח על "החידושים האחרונים" אבל לפעמים יש הצטברות של כל כך הרבה חדשות שאין ברירה אלא לעצור לרגע על מנת לנסות ולעשות סדר. החזיקו חזק, זה פרק שעושה סחרחורת. קישורים: הרובוטית סופיה נושאת את הנאום המרכזי בטקס הסיום https://www.nytimes.com/2024/05/15/nyregion/dyouville-university-commencement-robot-speaker.html למה הצוות שאחראי על הבטיחות ב-OpenAI התפרק https://www.vox.com/future-perfect/2024/5/17/24158403/openai-resignations-ai-safety-ilya-sutskever-jan-leike-artificial-intelligence סקרלט ג'והנסן כועסת על OpenAI https://www.theverge.com/2024/5/20/24161253/scarlett-johansson-openai-altman-legal-action