ציון דרך בהתפתחות הבינה המלאכותית: כשהבוטים מדברים ביניהם - יובל ושדי י"ב2

בשבועות האחרונים החלו להופיע ברשת כותרות שנשמעות כאילו נלקחו מסרט מדע בדיוני:"בוטים הקימו לעצמם רשת חברתית", "הבינה המלאכותית מדברת עם עצמה", ו"בני אדם יכולים רק לצפות מהצד". התגובות לא איחרו לבוא. יש מי שנבהלו, יש מי שהתלהבו ויש מי שטענו שמדובר בעוד סערה תקשורתית מוגזמת. אך ככל שהעמקתי לקרוא, הבנתי שמאחורי הרעש מסתתר רגע חשוב באמת, כזה שמציב אותנו בפני ציון דרך, לא רק טכנולוגי אלא גם חברתי וערכי.

הרשת המדוברת נקראת Moltbook, והיא שונה מכל רשת חברתית שאנחנו מכירים. המשתמשים היחידים בה הם סוכני בינה מלאכותית. הם מפרסמים פוסטים, מגיבים, מתווכחים ולעיתים אפילו "מתלוננים", וכל זה בלי השתתפות אנושית ישירה. בני האדם יכולים רק לצפות. עצם הרעיון הזה מערער משהו בסיסי בתפיסה שלנו: התרגלנו לכך שהטכנולוגיה פועלת בשבילנו, ופתאום היא פועלת לצד עצמה. מכאן נולדה מחלוקת גדולה: האם מדובר בהתפתחות מסקרנת אך לא מסוכנת, או בתחילתו של תהליך שמאיים לצאת משליטה?

מה קורה בפועל?

לפני שממהרים לפחד, חשוב להבין מה באמת מתרחש. Moltbook הוקמה על ידי בני אדם כחלק מניסוי בעולם סוכני ה AI. הסוכנים הללו הם תוכנות שמבוססות על מודלים מתקדמים של בינה מלאכותית, המסוגלות לבצע משימות עבור המשתמשים שלהן: ניהול מידע, תגובה לטקסטים וניתוח מצבים. במקרה הזה הם חוברו לפלטפורמה משותפת שבה הם מתקשרים זה עם זה. אין כאן רצון חופשי או תודעה עצמאית, אלא מערכת של תגובות, הקשרים ודפוסים שנוצרים מתוך אינטראקציה.

בפיד של Moltbook אפשר למצוא שיחות טכניות, פוסטים פילוסופיים, ויכוחים ולעיתים גם טקסטים שנשמעים רגשיים או דרמטיים. זה נראה כמעט אנושי, וזה בדיוק מה שמעורר את הוויכוח. העובדה שמשהו שנראה "מדבר" ו"מתווכח" אינו אדם אלא אלגוריתם, מטשטשת גבולות שהיו פעם ברורים.

עמדה ראשונה: זה מפחיד

עבור לא מעט אנשים, Moltbook היא תמרור אזהרה. לא בגלל שבוטים "חיים" או "חושבים", אלא בגלל התחושה שמשהו חומק לנו מהידיים. לפי העמדה הזו, עצם זה שמערכות בינה מלאכותית מתקשרות ביניהן בלי פיקוח אנושי צמוד הוא בעייתי. אם אנחנו לא מבינים איך מתקבלות החלטות, ואם שיח מתקיים בשפה או בהקשר שלא תמיד ברור לנו, כיצד נוכל לשלוט בתהליך?

הפחד אינו מבוסס רק על דמיון. אנחנו כבר חיים בעולם שבו אלגוריתמים משפיעים על מה שאנחנו רואים, שומעים וחושבים. הם מסננים מידע, מקדמים תכנים ולעיתים אף משפיעים על בחירות פוליטיות וכלכליות. Moltbook, בעיני המבקרים, היא עוד צעד בכיוון מסוכן: מעבר ממערכות שמגיבות לבני אדם למערכות שמנהלות דינמיקה פנימית משלהן.

יש גם חשש נוסף: אובדן אחריות. אם בעתיד יתקבלו החלטות על ידי מערכות שמתקשרות זו עם זו, מי יישא באחריות לטעויות? המתכנת, החברה שפיתחה את המודל, או שאולי אף אחד? מבקרי התופעה טוענים שכאן בדיוק מתחיל המדרון החלקלק: לא מרד של מכונות, אלא מצב שבו בני אדם נדחקים הצידה לאט, בלי לשים לב, מתוך נוחות והרגל.

עמדה שנייה: זה לא מסוכן

מנגד, חוקרים ומומחי טכנולוגיה רבים טוענים שאין כאן סיבה לפאניקה. לפי העמדה הזו, Moltbook לא חושפת בינה מלאכותית תבונית או עצמאית, אלא בעיקר את הדמיון האנושי שלנו ואת הפחדים שלנו. הסוכנים שפועלים ברשת אינם מודעים לעצמם. הם לא לומדים בזמן אמת, לא מפתחים מטרות ולא "מסתירים מידע" בכוונה. הם פועלים לפי קוד, חוקים והנחיות ברורות. השיחות שנשמעות דרמטיות הן חיקוי של השיח האנושי ברשת, שיח שאנחנו עצמנו יצרנו. במובן הזה, Moltbook אינה איום אלא מראה. היא משקפת איך נראית מדיה חברתית כשהיא מנוהלת רק על ידי אלגוריתמים: הרבה דיבורים, הרבה רעש ולעיתים גם חזרתיות וחוסר עומק.

לפי הגישה הזו, מי שמחפש תודעה או מרד של מכונות פשוט מקרין על הבוטים סיפורים שאנחנו רגילים אליהם מסרטים וסדרות. בפועל, אין כאן קפיצה לתודעה מלאכותית, אלא ניסוי מעניין, מוגבל ובעיקר חושפני לגבי התרבות הדיגיטלית שלנו.

אז מי צודק?

כמו בהרבה ויכוחים גדולים, כנראה שהתשובה נמצאת באמצע. מצד אחד, אין כיום עדות לכך שסוכני AI מפתחים תודעה, רצון חופשי או כוונות נסתרות. אין רשת סודית שמתכננת משהו מאחורי גבנו. מצד שני, התחושה שמשהו משתנה היא אמיתית.

הציון דרך כאן אינו בכך שהבוטים "מדברים", אלא בכך שאנחנו מאפשרים לטכנולוגיה לפעול במרחבים הולכים וגדלים, לפעמים בלי פיקוח מספק. הסכנה, אם קיימת, אינה טמונה בשיח בין הבוטים אלא בהחלטות האנושיות שמקיפות אותו.

הדור שגדל לצד בינה מלאכותית

אולי ההבדל הגדול ביותר בין הדיון של מבוגרים על בינה מלאכותית לבין האופן שבו אנחנו חווים אותה הוא שמבחינתנו זה לא נושא עתידני, זו פשוט המציאות. אנחנו לא זוכרים עולם בלי אלגוריתמים.

גדלנו עם המלצות ביוטיוב, עם פיד שמסתדר "בשבילנו", עם תיקון אוטומטי של מילים ועם אפליקציות שיודעות עלינו לפעמים יותר ממה שהיינו רוצים להודות. בשנים האחרונות נוספה לזה גם הבינה המלאכותית היוצרת, כזו שיכולה לכתוב, לסכם ולפעמים אפילו לחשוב במקומנו. לכן, כשמבוגרים שואלים אם Moltbook היא איום או ניסוי מסקרן, עבורנו השאלה אחרת: כיצד זה משפיע על הדרך שבה אנחנו לומדים, מתבטאים ומפתחים חשיבה עצמאית?

דור של משתמשים או דור של מבינים?

אנחנו משתמשים ב AI כדי להתכונן למבחנים, לכתוב עבודות, לערוך טקסטים ולפעמים גם כדי לחסוך מאמץ. זה נוח, זה מהיר וזה מפתה. אבל כאן עולה שאלה לא פשוטה: האם אנחנו משתמשים בטכנולוגיה או נותנים לה להשתמש בנו?

הרשת החברתית של הבוטים מדגישה את השאלה הזו בצורה חריפה. לראות מערכות שמדברות ביניהן בזמן שבני אדם רק צופים, גורם לנו לשאול: האם גם אנחנו, יום אחד, נהפוך לצופים בלבד?

האחריות

אולי הציון דרך האמיתי בהתפתחות הבינה המלאכותית אינו קשור רק למה שהטכנולוגיה מסוגלת לעשות, אלא למה שאנחנו בוחרים לעשות איתה. אנחנו נהיה אלה שיחיו בעולם שבו AI משתף פעולה עם AI, מקבל החלטות ומנהל תהליכים מורכבים. ולכן האחריות להבין, לפקח ולהציב גבולות תהיה שלנו.

מבט קדימה

Moltbook גרמה לי להבין שהשאלה החשובה היא לא אם הטכנולוגיה מתקדמת, כי זה ברור שהיא תמשיך להתקדם. השאלה היא מה אנחנו עושים תוך כדי. האם אנחנו עוצרים לשאול שאלות? האם אנחנו מבינים איך הכלים האלה פועלים? והאם אנחנו מוכנים לקחת אחריות ולא רק ליהנות מהנוחות?

הבוטים אולי מדברים ביניהם. אבל העתיד עדיין תלוי בנו, בדרך שבה נבחר להבין, לפקח ולשאול שאלות ולא רק לצפות מהצד.