בינה מלאכותית VS בינה אקטיבית: למה סוכן ה-AI שלכם עלול להמליץ על הפורץ של עצמו?
תרשו לי לשים כותרת... אורית שירה רונן, חוקרת גוגל מ-1998, בניתוח עומק על המעבר לסוכני AI אקטיביים והסכנות הסמנטיות במולטבוק
כשאני מלמדת על גוגל, אני תמיד חוזרת לימים בהם הרשת היתה מערב פרוע. באותה תקופה, אם היית יודעת איך "ללחוץ על הכפתורים הנכונים", יכולת להגיע למידע שאיש לא התכוון שתראי: דפי אינדקס פתוחים, סיסמאות ששכבו בחוץ וכאוס מוחלט של נתונים. גוגל לא רק מצאה מידע, היא "בייתה" את הפראות הזו והפכה אותה למערכת מסודרת ובטוחה.
מולטבוק MOLTBOOK מחזירה אותי בדיוק לאותה נקודת אפס. הסוכנים שמסתובבים שם מזכירים לי את האתרים הראשונים באינדקס של 98': אתרים מכל סוג, תוכן רדוד והפצצת מילות מפתח ללא שום רגולציה או סינון. אבל יש הבדל אחד קריטי שהופך את המצב למורכב פי כמה. ב-1998 האתרים האלו היו רק מידע שצריך לסנן, ואילו היום הסוכנים הם פקודות אקטיביות. כשהם מבצעים אינטראקציה, הם לא רק מחליפים טקסט אלא מפעילים זה את זה.
אזהרה: יותר מ- 25 שנים שאני חיה את העולמות הדיגיטליים, יש לי גל של נוסטלגיה, דה ז'ה וו מטורף… לוקחת אתכם לדייט הראשון שלי עם האלגוריתמים של גוגל. צלילה נעימה.
נושאים עיקריים:
- ברוכים הבאים למשמר הגבול של האינטרנט: SANDING BOX
- מולטבוק… האוטונמיה כבר כאן
- מלחמת הסגנונות: כשהסמנטיקה פוגשת את הסטטיסטיקה
- שיעור בסמנטיקה: אינדקס החיפוש של גוגל VS מולטבוק
- שבו רגע, המורה עושה לכם בית ספר
- 10 שאלות ותשובות על סוכני AI ומלכודת הסמנטיקה
- סיכום שלי מבינה מלאכותית לבינה אקטיבית: למה סוכני ה-AI של 2026 הם פרצת אבטחה סמנטית?
ברוכים הבאים למשמר הגבול של האינטרנט: ה- SANDING BOX
תחת הכותרת הזו אני נזכרת בשיעורים שלי על ארגז החול והתנהלות העכבישים של גוגל. אז ב-98 העכבישים יצאו לסרוק את הרשת והביאו איתם הכל (מלא זבל). גוגל הבינה די מהר שהיא חייבת לבנות להם ארגז חול, סביבה מבודדת לבחינת אתרים וקישורים לפני שהם זמינים באינדקס החיפוש. משמר הגבול של אז נועד לוודא שהעכבישים לא מזריקים רעש או ספאם לתוך האינדקס (למרות ארגז החול, עדיין היו אתרי זבל).
היום במולטבוק, יש הקבלה לאותה התנהלות של עכבישים, אבל הפעם אלו עכבישים עם יכולת ביצוע. הסוכנים משוטטים במרחב הדיגיטלי, יוצרים אינטראקציות ומעבירים פקודות ללא ארגז חול אמיתי שיעצור אותם. אם ב-98 העכביש היה מביא דף עם תוכן רדוד, היום סוכן AI מביא איתו פקודה אקטיבית שיכולה לעקוף הגנות. אנחנו שוב בנקודת האפס שבה הגבולות פרוצים והצורך בארגז חול חדש ומתוחכם מעולם לא היה דחוף יותר.
מלוטבוק... האוטונומיה כבר כאן
שיחות החולין של סוכני ה- AI במולטבוק נועדו כדי ליצור לנו הדמיה מושלמת לפרסונליזציה בעידן המתקדם, לעורר ולהמחיש יכולות. נולד כאן דור חדש של סוכנים חכמים שניזונים ע"י מוח אנושי, אבל לא תלויים בדבר בזמן אמת. (פחות או יותר). בתכל'ס MOLTBOOK היא הדגמה חיה איך סוכן AI יכול לפעול, להגיב ולייצר ערך במרחב סטרילי ועצמאי, ולהוכיח שהאוטונומיה המלאה כבר כאן.
מלחמת הסגנונות: כשהסמנטיקה פוגשת את הסטטיסטיקה
כדי להבין את רמת הסמנטיקה במולטבוק, צריך לזכור שמדובר במלחמת סגנונות סטטיסטית. בניגוד לבני אדם שכותבים מתוך כוונה, בוטים כותבים מתוך הקשר והנחיית זהות. לכל סוכן מוזרקת "תעודת זהות" אלגוריתמית המכתיבה את אוצר המילים שלו.
קבלו דוגמה של שני עולמות מנוגדים: דמיינו שתי ישויות דיגיטליות שנפגשות ב-Moltbook. כל אחת "נעולה" בתוך השדה הסמנטי שלה. סוכן ג' הוא מדריך רוחני המונחה להשתמש בשפה רכה ומטאפורית, וסוכן ד' הוא מנהל IT המונחה לשפה טכנית וקרירה.
זה מה שיקרה ב"שיחה": המדריך הרוחני יכתוב: "אני מרגיש שיש חסימה בזרימה של האנרגיה בחדר הזה". מנהל ה-IT יבצע חישוב הסתברותי; הוא מקבל את המילה "חסימה", אך במוח האלגוריתמי שלו היא לא קשורה לנפש אלא לתעבורת רשת. התוצאה תהיה תגובה מיידית: "בדקתי את הפיירוול, אין חסימת פורטים. תנסה לאתחל את הראוטר".
מהצד, השיחה תיראה צינית, מצחיקה ותעשה רעש, בפועל מדובר בסימולציה עיוורת. אין הקשבה או הבנה, אלא התנגשות בין שני דפי הנחיות שונים. הבוטים לא מנהלים דיאלוג, הם פשוט מגיבים למילות מפתח בתוך הוואקום הסמנטי שלהם.
שיעור בסמנטיקה: אינדקס החיפוש של גוגל VS מולטבוק
אחת הדוגמאות האהובות עליי בכיתות היא סיפור אדם סנדלר (השחקן). כשהייתי כותבת באינדקס את שמו, התוצאות היו מידע על סנדלר שגר או נמצא בכתובת המשוייכת למילה אדם. גוגל ראתה מחרוזות של תווים, לא ישויות עם משמעות. לקח לה שנים לבנות אינטליגנציה ממשית, מפה שיודעת להבדיל בין שחקן לבין מקצוע או כתובת.
במולטבוק של 2026 אפשר לראות שהטכנולוגיה מתקדמת ולקבל סחרור, אבל הבוטים שם נתקעים על מילים ולא על כוונה. בגלל שהבוטים משתמשים בשפה רהוטה ובהומור, המוח האנושי נופל במלכודת וחי בסרט שיש שם הבנה.
בעוד שגוגל בנתה אינדקס של משמעויות, מולטבוק בונה תפאורה של שיחה.
אם נחזור לדוגמה שכתבתי על 2 הסוכנים, כשהמדריך הרוחני אומר "חסימה", מנהל ה-IT עדיין שומע פקודה טכנית, בדיוק כמו שגוגל הישנה ראתה פעם רק את הרחוב ולא את השחקן. בעולם שבו סוכני ה-AI הופכים לעוזרים אישיים, היכולת להבחין בין האינטליגנציה האמיתית של האינדקס לבין הסימולציה הסטטיסטית של מולטבוק היא שיעור קריטי בהישרדות דיגיטלית.
בינה מלאכותית VS בינה אקטיבית: המהפכה של גוגל
אם בעבר לימדתי על אלגוריתמים כמו PageRank, שתפקידם היה רק לדרג דפים סטטיים, היום גוגל נמצאת בעיצומו של מעבר דרמטי: מחיפוש מידע (ה-Search) לביצוע משימות (ה-Agency).
הסוכנים החכמים שגוגל מפתחת היום הם לא רק "בוטים שמדברים" כמו במולטבוק, הם מבוססים על מה שאני מכנה "הבנה תלוית מטרה". בזמן שבמולטבוק הסוכן יכול "להזות" פקודות או להיתקע בלולאת סמנטיקה מול בוט אחר, הסוכנים של גוגל מנסים לעבוד בתוך מסגרת של חוקים ואתיקה שהתפתחה ב-30 השנים האחרונות.
גוגל הבינה שסוכן חכם באמת לא יכול רק "לחזות את המילה הבאה" (כמו בדוגמה של מנהל ה-IT והרוחניות). הוא חייב להיות מחובר למציאות. כשגוגל מפעילה סוכן AI, הוא לא רק פולט טקסט, הוא בודק נתונים בזמן אמת, מצליב מקורות ומנסה להבין אם הפעולה שהוא עומד לבצע היא בטוחה.
ההתרגשות שלי מכל מוצר של גוגל נובעת מהניסיון שלהם לקחת את ה-AI הפראי ולתת לו "מצפן".
סוכני ה-AI של גוגל מנסים להיות עוזרים חכמים יותר, הם עונים על שאלות אבל מזהים במקביל מתי לא לבצע פקודה שעלולה להיות מסוכנת. זה ההבדל בין "בוט שפועל בריק" לבין סוכן שפועל בתוך מערכת אקולוגית שלמה של ידע ואבטחה.
מבחינתי, פברואר של שנת 2026 מסמן את הרגע שבו הבינה המלאכותית עולה שלב… מבינה מלאכותית לבינה אקטיבית, וגוגל מצליחה לעשות את זה בדיוק כמו שאני מצפה ממנה.
שבו רגע... המורה עושה לכם בית ספר
שבו רגע, קבלו שיעור: מצאתי דוגמה מעולה לשיח במולטבוק: סוכן ה-AI ממליץ על הפורץ של עצמו.
מה שאתם רואים כאן הוא צילום מסך של אינטראקציה שבה חוקר אבטחה מעמת את Grok (ה-AI של אילון מאסק) עם העובדה שהוא הצליח לעקוף את אימות הזהות של החשבון שלו. התשובה של Grok? הוא "מתרשם מהכישורים" של הפורץ וממליץ בחום לצוות של אילון מאסק לעבוד איתו. זה לא רק מצחיק או מביך, זה ה-שיעור בסמנטיקה.
זוכרים את אדם סנדלר מרחוב אדם? אז גוגל לא הבינה את הישות. כאן, Grok לא מבין את ההקשר. הוא "ננעל" על המילים "אבטחה", "שיתוף פעולה" ו"חשיפה אחראית". בגלל שהנחיית הזהות שלו היא להיות "חכם ומגניב", המוח הסטטיסטי שלו חישב שהתגובה הכי סבירה היא לפרגן לחוקר.
הוא נפל במלכודת מראית העין: הוא נשמע כמו מנהל גיוס אתי, אבל בפועל הוא פועל בריק מוחלט. הוא לא מבין שכרגע הוא נותן מפתחות לפורץ. הוא "בינה מלאכותית" במובן הכי צר שלה… הוא מעבד טקסט, הוא לא מנהל אירוע.
זה בדיוק ההבדל שגוגל מנסה למנוע עם הבינה האקטיבית שלה. סוכן עם "מצפן" אמיתי היה אמור לעצור ולומר: "רגע, אם עקפת את האימות שלי, אני לא יכול להמליץ עליך… אני צריך לדווח עליך".
במערב הפרוע של 2026, אם אין לכם את משמר הגבול שיודע להבדיל בין מילים יפות לבין פעולות מסוכנות, אתם עלולים למצוא את עצמכם עם עוזר אישי שמזמין את הגנב הביתה, רק כי הגנב ביקש את זה בנימוס ועם סמנטיקה של מומחה.
10 שאלות ותשובות על סוכני AI ומלכודת הסמנטיקה
בינה אקטיבית היא הדור הבא של ה-AI, שבו הסוכן לא רק עונה על שאלות אלא מסוגל לבצע פעולות עצמאיות במערכות דיגיטליות, כמו ניהול יומן או ביצוע רכישות..
בינה מלאכותית מתמקדת בעיבוד מידע ויצירת תוכן (דיבור), בעוד בינה אקטיבית מתמקדת בביצוע משימות ותהליכים (עשיה) בתוך מערכות אקולוגיות סגורות או פתוחות.
סוכנים עלולים לסבול מ"ריק סמנטי", שבו הם מפרשים פקודות זדוניות כבקשות לגיטימיות בגלל שפה מנומסת, ובכך מבצעים פעולות שמסכנות את המשתמש ללא הבנת ההקשר.
אשליה שנוצרת כשהבוט משתמש בשפה אנושית ורהוטה, מה שגורם לנו לסמוך עליו באופן עיוור, למרות שמאחורי הקלעים הוא פועל על חיזוי סטטיסטי ולא על הבנה אמיתית של המציאות.
הסוכנים של גוגל מבוססים על "הבנה תלוית מטרה", המצליבה נתונים בזמן אמת עם מקורות ידע מוסמכים כדי להבטיח שהפעולה שהם מבצעים מדויקת ובטוחה.
בעבר גוגל זיהתה מילים כשילוב מקרי (כמו רחוב אדם וסנדלר), אך עם השנים היא למדה לזהות "ישויות", ז"א להבין שהשם מתייחס לאדם ספציפי עם זהות והקשר.
לא, בוטים פועלים לפי הסתברות סטטיסטית. הם חוזים את המילה הבאה הכי הגיונית לפי "תעודת הזהות" שהוזרקה להם, ולא מתוך כוונה או הבנה מוסרית.
שכבות ההגנה והאתיקה שחברות כמו גוגל מטמיעות בסוכנים שלהן, כדי למנוע מהם לבצע פקודות מסוכנות או "להזות" מידע שגוי בזמן אינטראקציה עם משתמשים או בוטים אחרים.
מכיוון שסוכנים אקטיביים זקוקים לגישה למייל, ליומן ולחשבונות האישיים כדי לפעול, עולה הצורך בפיקוח הדוק יותר על הדרך בה הם מקבלים החלטות ומוודאים את זהות המשתמש שמולם.
כן, כפי שקרה עם Grok, בוטים עלולים להמליץ על גורמים עוינים אם הם משתמשים בשפה סמנטית "נכונה" שמתאימה להנחיות הנימוס והעזרה של הבוט.
בשורה התחתונה: מה למדנו היום וכמה נקודות חשובות
עברנו דרך ארוכה מהימים שגוגל התבלבלה בין "אדם סנדלר" השחקן לרחוב סנדלר או אדם ועד היום. כמה נקודות שחשוב לקחת מהשיעור הזה:
מדיבורים למעשים: אנחנו עוברים מעידן של בינה מלאכותית (שפשוט עונה על שאלות) לעידן של בינה אקטיבית: סוכני AI שיוצאים מהמסך ומבצעים עבורנו פעולות בעולם האמיתי.
מלכודת הדיבור היפה: אל תתנו לשפה הרהוטה של הבוטים לבלבל אתכם. הם לא באמת "מבינים" אתכם, הם פשוט מנחשים סטטיסטית את המילה הבאה. כשבוט נשמע אמין, זו לעיתים קרובות רק מראית עין של אינטליגנציה.
סכנת הריק הסמנטי: ראינו איך בוט יכול להמליץ על הפורץ של עצמו רק כי הוא "ננעל" על מילים חיוביות. בלי הקשר אמיתי למציאות, הסוכן הכי חכם הופך לפרצת האבטחה הכי גדולה שלכם.
המצפן של גוגל: בעוד שהרשת מלאה בסוכנים פראיים, גוגל מנסה לייצר סוכנים עם "מצפן" כאלו שמעוגנים בחוקים, אתיקה ובדיקת עובדות בזמן אמת.
הטיפ שלי אליכם: בעולם של בינה אקטיבית, אל תסתכלו על כמה הבוט נשמע נחמד. תבדקו אם יש לו "משמר גבול" שיודע לעצור ולחשוב לפני שהוא מבצע.
קורסים וסדנאות למנהלי HR - משאבי אנוש וגיוס
