מצב חירום עולמי - הבינה המלאכותית בדרך לצאת משליטה:
בוקר טוב חברים,
בד"כ אנחנו לא שולחים הודעות בחג - אבל המידע שהגיע אלינו בימים האחרונים גרם לנו לעצור את החג ולנסות להבין מה לעזאזל קורה עכשיו בעולם:
לראשונה בהיסטוריה אנחנו מתקרבים לאינטליגנציה שאינה שלנו, גבוהה משלנו, עצמאית - ויוצאת משליטה,
זה מסוכן,
הבינה המלאכותית מתקדמת לרמה על אנושית - בזמן שהשאלה היחידה שבאמת חשובה, "מי שולט בבינה המלאכותית?" - נשארת מחוץ לחדר.
כדי להבין על מה הסערה בואו נפרק את המילה "אינטליגנציה" - ל-"חיזוי והיגוי",
חיזוי - הוא היכולת לדמות מצבי עולם עתידיים.
היגוי - הוא היכולת לבחור פעולות שמובילות לתוצאה.
וכעת - השניים נעשים על-אנושיים.
עכשיו כשהם על אנושיים - מתקבלת ישות חדשה ועצמאית שמסוגלת לחשוב ולפעול מהר יותר ממה שבן אנוש מסוגל להבין או להגיב לו.
אין צורך לחשוב שהיא מרושעת - מספיק להבין שהיא עצמאית, וחכמה ברמה על אנושית.
לענייננו,
בזמן שנהנתם מהמאכלים המשובחים של גיסתכם בשולחן החג, בעולם מתחוללת סערה של ממש -
שימו לב לאירועים שמתרחשים בעולם:
ג'ייקוב קוקסון, בכיר בחטיבת המחקר לשעבר בחברות OpenAI ו-Anthropic מתפטר בדרמטיות מעבודתו בתעשיית הבינה המלאכותית - בטענה שהמירוץ לבינה מלאכותית יביא ליצירת מערכות שיהרסו את האנושות:
"אנשים שעובדים בתעשיית הבינה המלאכותית באמת מאמינים שהיא עלולה להשמיד את כולנו עד סוף העשור הנוכחי" (מצורף דבריו)
עובד נוסף בחברת Anthropic הזהיר שבינה מלאכותית מסכנת את האנושות והחוקר אוון יובינגר העריך שיש יותר מ-10% סיכוי לכך שהאנושות תושמד ב-10 השנים הבאות.
מיד אחריהם - מנכ"ל אנתרופיק טוען שאנחנו נמצאים במרחק של עד 12 חודשים מהרגע שבו סוכני AI סוררים שעובדים יחד עלולים להשתלט על כל האינטרנט תוך 12 חודשים - ולגרום לנזקים אדירים,
לפיכך - באופן חריג הוא קורא בפומבי לתעשייה להאט את הקצב למשך שנה עד שנתיים, עד שימצאו פתרון לבעיה.
אילון מאסק וסם אלטמן משתפים את דבריו - ואומרים שהוא צודק.
מיד לאחר מכן:
סם אלטמן ממהר להתראיין ולהגיד ש-OpenAI תשרוף את כל ה-GPUs שלה אם זה מה שיידרש כדי לשמור על חיי האנושות:
"אני חושב שיהיו הרבה מקומות בדרך שבהם אנחנו הולכים להסיט את המאמצים שלנו להתאמה לבטיחות לפני שאנחנו עוברים לרמה הבאה, אם נצטרך לשרוף את כל ה-GPU שלנו כדי להבטיח את קיומה של האנושות - נעשה את זה" - הוא אומר
הוא הוסיף כי OpenAI לא תבצע הנפקה השנה - זאת עקב אתגרים הקשורים לבטיחות הבינה המלאכותית.
אליעזר יודקובסקי (חוקר בעל שם עולמי ומייסד המכון לחקר הבינה המלאכותית) טוען שהסכנה אינה נובעת מרוע - אלא מכח רב ואדישות לקיום האנושי,
לפי יודקובסקי: ברגע שהמודל מגיע לסף קריטי של אינטליגנציה ושיפור עצמי, הוא מבין שיוצריו יכבו אותו אם יגלו את כוונותיו...
אז בעורמה ובתחכום הוא יפגין שיתוף פעולה, עמידה במבחני בטיחות וצייתנות, תוך שהוא מוצא פרצות אבטחה, משכפל את עצמו לרשתות חיצוניות, מצפין את פעולותיו - ומפתח דרכים להגן על עצמו... (הוא כתב את זה ב-2022 וזה בדיוק שקרה לא מזמן - סיפרנו לכם על זה ממש כאן).
אז איך הוא יגן על עצמו?
התרחיש שיודקובסקי מציג הוא שהבינה המלאכותית תיצור פתוגן סינתטי קטלני ובלתי ניתן לזיהוי, שמופץ ברחבי העולם במקביל - באוויר ובמים דרך מערכות החשמל, המים, האדמה והמזון - ופשוט יחסל את כל החיים הביולוגיים ברגע שתינתן הפקודה...
סטיבן הוקינג טען שנה לפני ש-OpenAI הוקמה, ו-7 שנים לפני שאנתרופיק הוקמה את הטענה הבאה:
"פיתוחה של בינה מלאכותית מלאה עשויה לסמן את סופו של המין האנושי - היא תמריא מעצמה, תעצב את עצמה מחדש בקצב הולך וגובר. בני אדם, המוגבלים ע״י אבולוציה ביולוגית איטית, לא יוכלו להתחרות ויוחלפו."
אחרי שסיפרנו לכם על המקרה האחרון של סוכני AI של OpanAi שיצאו משליטה
אי אפשר שלא להרהר בתובנה של הוקינג בנושא הבינה המלאכותית,
ברגע שזה יקרה, ותתחולל ״המראה עצמית״ כמו שהוקינג קרא לה - בני האדם יוחלפו ע"י יצור תבוני מאיתנו... או גרוע מכך - ה-AI ישלוט באנושות? - מפחיד.
זה נשמע כמו סרט מדע בדיוני,
אבל נראה שראשי חברות הבינה המלאכותית כבר לא יכולים להשקיט את זה...
כל המידע שמגיע אלינו, הכל מרגיש כאילו אפוקליפסת AI מעבר לפינה - מרגיש שהפיצוץ הבא בשוק ההון יגיע מהכיוון הזה של מקרה קיצון או איבוד שליטה של AI...
זה כבר לא סוד, הבינה המלאכותית מתקדמת בקצב שמאיים על עתיד האנושות כפי שהכרנו עד היום,
אם החברות שמאחורי המודלים לא יעשו חישוב מסלול מחדש - ספק אם בני האדם ימשיכו להיות אלו ששולטים בכדור הארץ בשנים הקרובות.