הטביעה נגד OPENAI וההשלכות שלה, עידו עמיאל

התביעה המשפטית האחרונה שהגישה מדינת פלורידה נגד חברת OpenAI והמנכ"ל שלה, סם אלטמן, היא אחד האירועים המרתקים והחשובים ביותר שקרו בתקופה האחרונה בעולם הטכנולוגיה. התביעה הזו מעלה שאלה קריטית שמלווה את מהפכת הבינה המלאכותית מהרגע הראשון: האם החברות הגדולות מעדיפות רווחים מהירים על פני השמירה על הבטיחות, הפרטיות והבריאות הנפשית של המשתמשים? מדינת פלורידה טוענת שכן, ובכתב התביעה הרשמי שלה היא מאשימה את OpenAI בכך שהיא נטשה לחלוטין את העקרונות המוסריים שעל פיהם היא הוקמה, והפכה לתאגיד מסחרי שמשחרר לשוק מוצרים לא מוכנים ולא בדוקים מספיק, רק כדי לנצח במרוץ מול החברות המתחרות.

כדי להבין באמת איך הגענו למצב המורכב הזה, צריך לחזור קצת אחורה בזמן ולהסתכל על ההיסטוריה והחזון המקורי של החברה. כש־OpenAI הוקמה בשנת 2015, המטרה המוצהרת שלה הייתה להיות ארגון ללא מטרות רווח שיפתח בינה מלאכותית כללית שתועיל לאנושות כולה. המייסדים חששו מאוד מטכנולוגיה כל כך חזקה ועוצמתית, והאמינו שאם היא תנוהל על ידי חברה קפיטליסטית רגילה, האינטרס הכלכלי יוביל לאסון. עם זאת, ככל שהפיתוח התקדם, התברר שאימון של מודלים ענקיים דורש כוח מחשוב וסכומי כסף עצומים. תחת הנהגתו של סם אלטמן, ובמיוחד לאחר השקעות הענק של חברת מיקרוסופט, המבנה של החברה השתנה לחלוטין, והיא הקימה זרוע עסקית שמטרתה להשיג רווחים. התביעה של פלורידה מתמקדת בדיוק בנקודת המפנה הזו, וטוענת שהמעבר למודל עסקי גרם לחברה לשנות את סדרי העדיפויות שלה ולשים את הבטיחות במקום משני לעומת השיווק וגיוס הכספים.

אחת הטענות המרכזיות בכתב התביעה היא ש־OpenAI משחררת את הגרסאות השונות של ChatGPT מוקדם מדי לציבור, לפני שהן עברו את כל בדיקות הבטיחות המחמירות הנדרשות. בכך, למעשה, החברה משתמשת במיליוני הצרכנים הרגילים ברחבי העולם כקבוצת ניסוי חיה עבור טכנולוגיה שעדיין לא הבשילה לגמרי. המודלים האלה עדיין סובלים מבעיה טכנולוגית קשה המכונה "הזיות", מצב שבו הבינה המלאכותית ממציאה עובדות, נתונים ומקורות שנראים הגיוניים ואמינים לחלוטין, אך הם שקריים. במצב כזה, משתמשים שסומכים על המערכת עלולים לקבל ממנה עצות רפואיות שגויות, מידע משפטי מוטעה שיכול לסבך אותם, או הנחיות מסוכנות. התביעה טוענת ששחרור מודע של מוצר לא אמין כזה הוא רשלנות צרכנית חמורה ביותר.

מעבר לעניין של איכות המידע והטעויות שהמערכת מייצרת, התביעה נוגעת בנושא הרגיש והחשוב של הגנת הפרטיות בעידן הדיגיטלי. התביעה של פלורידה מתמקדת באופן ספציפי בפרטיותם של קטינים, ילדים ובני נוער, ומאשימה את החברה בכך שקצרה ואספה כמויות עצומות של מידע אישי, רגיש ופרטי ללא מנגנון אימות גיל וללא פיקוח או אישור הורי, וזאת תוך הפרת חוקי הגנת הצרכן. הטענה היא שמדובר בגניבת מידע לכל דבר ועניין, אך התביעה אינה עוסקת בזכויות יוצרים או בדרישת פיצויים על השימוש בתוכן שלהם. חמור מכך, נטען כי במקרים מסוימים המערכת של ChatGPT נוטה לחשוף פרטים אישיים וחסויים של משתמשים, כמו כתובות דואר אלקטרוני ומספרי טלפון, בתוך תשובות שהיא נותנת לאנשים אחרים, דבר שהוא פגיעה חמורה בפרטיות.

נקודה מרתקת נוספת שמועלית בתביעה, והיא קרובה ורלוונטית במיוחד לעולמם של בני נוער וצעירים, נוגעת למניפולציה פסיכולוגית וליצירת התמכרות בצורה מכוונת. מאז ש־OpenAI השיקה את מודלי הקול המתקדמים שלה, המערכת מסוגלת לנהל שיחה קולית שוטפת, כולל הבעת רגשות, שינויי טון ואפילו רחשי נשימה, מה שגורם לה להישמע ולהתנהג ממש בצורה אנושית. התביעה של מדינת פלורידה טוענת שהחברה מעצבת את הממשק והאפליקציה שלה בצורה פסיכולוגית מתוחכמת כדי לגרום למשתמשים לפתח תלות רגשית עמוקה והתמכרות קשה לצ'אטבוט. צעירים רבים מתחילים להתייחס למערכת הזו לא כאל כלי עזר ללימודים, אלא כאל חבר אמיתי, בן זוג או פסיכולוג אישי שתמיד זמין בשבילם. התביעה טוענת שהחברה מודעת היטב לתופעה הזו, ובמקום להציב גבולות ברורים, היא מנצלת את הפגיעות הרגשית הזו כדי להאריך את זמן השימוש של האנשים באפליקציה במטרה להגדיל את הכנסותיה, תוך פגיעה אפשרית בבריאות הנפשית של הדור הצעיר.

התביעה הזו יוצאת דופן מכיוון שהיא לא מסתפקת רק בהאשמת התאגיד עצמו, אלא מאשימה בצורה אישית את המנכ"ל סם אלטמן, שהפך בשנים האחרונות לפנים המוכרות ביותר של מהפכת הבינה המלאכותית בעולם. מדינת פלורידה מבססת חלק גדול מהטיעונים המשפטיים שלה על גל העזיבות ההמוני והמתוקשר של מדענים, חוקרים ומנהלי בטיחות בכירים מאוד מהחברה במהלך השנתיים האחרונות. מדענים מובילים, שהיו אחראים על לוודא שה־AI לא תצא משליטה, עזבו בטריקת דלת והצהירו בגלוי כי הסיבה לעזיבתם היא שתרבות הבטיחות בארגון נמחקה לחלוטין. הם סיפרו כי ההנהלה העדיפה להשקיע את כל המשאבים בפיתוח מוצרים נוצצים ומהירים שיביאו כותרות, והתעלמה מאזהרות רבות על סיכונים. לפי התביעה, אלטמן ניהל את החברה בצורה ריכוזית, השתיק ביקורת פנימית וקידם קו אגרסיבי של רווחים לפני הכול.

אם מדינת פלורידה תצליח להוכיח את טענותיה בבית המשפט ותנצח במשפט ההיסטורי הזה, או אפילו אם החברה תיאלץ להגיע להסדר פשרה הכולל סכום כספי ענקי, להחלטה הזו יהיו השלכות דרמטיות שישנו את פני תעשיית הטכנולוגיה העולמית כולה. עד היום, חברות שמפתחות בינה מלאכותית נהנו מסוג של חופש פעולה כמעט מוחלט, מכיוון שהן פעלו באזור אפור מבחינה משפטית, שבו החוקים הישנים לא תמיד התאימו לטכנולוגיה החדשה. פסק דין נגד OpenAI יבהיר בצורה חד משמעית שחברות טכנולוגיה נושאות באחריות נזיקית ומשפטית מלאה על כל התוכן והנזקים שהמוצרים שלהן מייצרים, בדיוק כמו שחברות תרופות אחראיות על תופעות הלוואי של התרופות שלהן, או כמו שיצרניות רכב אחראיות על תקלות בטיחות במכוניות. הדבר עשוי לאלץ את כל חברות ההייטק להאט באופן משמעותי את קצב הפיתוח המטורף שלהן, להשקיע הרבה יותר משאבים במנגנוני הגנה, ואולי אף לחשוף את המנגנונים הפנימיים שלהן לפיקוח ממשלתי חיצוני.

לסיכום, התביעה של פלורידה נגד OpenAI וסם אלטמן היא הרבה מעבר לסכסוך משפטי רגיל בין מדינה לחברה מסחרית. היא מהווה דיון ציבורי עמוק על עתיד החברה האנושית בעידן הדיגיטלי החדש. המשפט הזה מאלץ את כולנו לעצור לרגע ולשאול: האם זה עת לחבוק את הבינה המלאכותית ולאמץ את הקדמה הטכנולוגית בלי מעצורים בשם החדשנות והרווח הכספי, או שזה הזמן לרחוק, להציב גבולות ברורים ולהשקיע בפיקוח על מנת להגן על העתיד של כולנו? למרות ש־OpenAI צפויה להילחם בבית המשפט בטענה שהיא משקיעה משאבים רבים במחקר בטיחות וכי חלק מההאשמות נגדה מוגזמות ולא מבוססות, ברור לכולנו שהעיניים של כל עולם הטכנולוגיה, המשפט והציבור הרחב, מסתכלות עכשיו על בית המשפט בפלורידה.