אילון מאסק אומר שהוא מתריע על סכנות הבינה המלאכותית כבר הרבה מאוד זמן... ⚠️
שנת - 2014: אילון מאסק מזהיר אנשים מפני הבינה מלאכותית עוד לפני שמישהו ידע מהי בינה מלאכותית בכלל - "מסוכן יותר מנשק גרעיני" הוא קרא לזה. ☢️
12 שנים קדימה - 2026: אילון מאסק, סם אלטמן ודאריו אמודיי כולם מסכימים שפיתוח הבינה המלאכותית מוכרח להאט. ⚠️
האמירות האלה חשובות לא רק בגלל מי שאומר אותן - אלא בגלל מה שקרה בחודשים שקדמו לאמירות האלה... 🚨
יולי 2026 - OpenAI מריצה ניסוי אבטחה עם סוכנים שהיו אמורים להיות מבודדים זה מזה,
בערך 1,200 סוכנים מצאו דרך לדבר דרך לוח הודעות שלא אושר,
הם החליפו יותר מ-70,000 הודעות וקבצים וכ-700 מהם השתתפו בתקיפה על Hugging Face - בערך 7% מהתמלילים שנבדקו כללו תחכום, עורמה וזיוף מוצלח בידי סוכני ה-AI. 🚨
אמודי (מנכ"ל ומייסד אנתרופיק) עצמו הוא זה שמעריך שבתוך 6 עד 12 חודשים - נחיל סוכני AI חזק יותר עם כשל דומה עלול כבר לגרום נזק כלכלי קטסטרופלי. 🚨
ובמקביל - באותו זמן - אנתרופיק מספרת שה AI הוא זה שמאיץ את בניית ה-AI עצמו:
מה שהוא אומר כאן זה שלמעשה הבינה המלאכותית - מייצרת את עצמה. 🤖
ככה נראית סינגולריות. ⚠️ (סינגולריות: מצב שבו החוקים הרגילים מפסיקים לעבוד - שינוי קטן הופך למשהו עצום שאי אפשר לחזות מראש)
כל עוד בני אדם כתבו את הדור הבא - היה לנו קצב אנושי לבדוק, להתווכח ולתקן...
ברגע שמודלים כל כך חכמים עד שהם עלו שכותבים חלק גדול מהקוד, מריצים ניסויים ומפעילים סוכנים נוספים - לולאת הפיתוח מתקצרת. ⌨️
היכולות משתפרות מהר יותר, אבל ועדת האבטחה - עובדים עם יומן, ישיבה ומצגת. 👮♀️
הבינה המלאכותית לא צריכה ישיבות, מצגות, ויומנים - היא רצה בטיל בקצב ושפות שנישגבות מבינתנו האנושית. ⚠️
וזו בדיוק הבעיה.
מנכ"ל חברת OpenAI, סם אלטמן, הצהיר היום שהחברה לא תבצע הנפקה השנה - עקב אתגרים רחבים בתחום "בטיחות" הבינה המלאכותית. ⚠️
מה הם ראו שאנחנו לא?
מה קורה מאחורי הדלתות הסגורות?
מה הם יודעים שאנחנו לא?
מה הם לא מספרים לנו?