הכלי לזיהוי פנים של פייסבוק והמלחמה בזיופים

פייסבוק מפתחת את הטכנולוגיה לזיהוי פנים (החלה ב 2010) ומכריזה על הכלי לניהול הזהות בפייסבוק שישליט סדר ויתריע בכל פעם שמישהו העלה תמונה שאתם מופיעים בה או עשה שימוש בתמונת הפרופיל שלכם למטרת התחזות – יצירת פרופיל פקטיבי. זוכרים מה קורה אחרי שמעלים תמונה לפייסבוק? מופיע לנו תיחום לפנים לטובת תיוג. בעזרת טכנולוגיית זיהוי פנים, פייסבוק מקווה ליצור עולם בטוח יותר, נוסטלגי ומחבר.

ת'אמת… לא נפלתי אבל זה נתן לי כיוון לכתבה על המלחמה בזיוף, בספאם ובהתחזות, ככה בקטנה…מה עושה פייסבוק ומה עשתה גוגל (ועדיין עושה) שיהיה לכם מושג מהו מסתתר מאחורי המסכה.

הכלי לזיהוי פנים של פייסבוק - מה זה אומר?

שתקבלו הודעה אם מישהו העלה תמונה שאתם נמצאים בה.
שתקבלו הודעה אם מישהו עשה שימוש בתמונת הפרופיל שלכם
שתוכלו להפסיק להיות פרנואידים בלחיצת כפתור

"אנחנו רוצים שאנשים ירגישו בטוחים כשהם מפרסמים תמונות של עצמם בפייסבוק אז בקרוב תפעל טכנולוגיית זיהוי פנים כדי לאפשר לאנשים לדעת מתי מישהו אחר העלה תמונה שלהם כתמונת פרופיל או תמונות שאתם מופיעים בהם ולא תוייגתם" כך פרסמה פייסבוק בבלוג החברה..

טוב, עד כאן מספיק. נמשיכה!

שיתוף ואיסוף המידע האינסופי בפייסבוק

הרשתות החברתיות הביאו לחיינו אינסוף הזדמנויות ובעיקר מעניקות לעסקים, חברות, ארגונים וקהילות שלל כלים ודרכים להרחבת קהל האוהדים. פייסבוק פתחה ערוץ אינסופי ליצירת קשר בין אנשים ועסקים ומציעה מערכת לפרסום ממוקד שעוזרת לה לפרוח בעולם הדיגטלי. אך מעבר לרעיון העסקי ידוע שפייסבוק מגדלת חוות מידע עצומה, אוספת ואוגרת נתונים הרבה יותר מאחרים, ואותן הגדרות פרטיות שהיא מציעה מטעות אותנו וגורמות לנו לשתף יותר מידע.

זו הסיבה שהטכנולוגיה לזיהוי פנים של פייסבוק מוטלת בספק מצד הרשויות. ההבנה כי הכלי לזיהוי פנים הוא הרבה יותר מכלי לתיוג מציגה אותה באור שלילי בקרב מדינות מסוימות כגון קנדה ומדינות האיחוד האירופי שקבעו מדיניות ברורה בנושא פרטיות ואינן מתירות לעת עתה את השימוש בכלי לזיהוי פנים של פייסבוק .

אמאשלה עובדת בפייסבוק

כולנו מרגישים את הנושא של פרופילים מזוייפים בעיקר בכיס וזה מקומם. בעלי דפים עסקיים בפייסבוק יוצרים מסעות פרסום וצפים להם בין הלייקים פרופילים מזוייפים. אז נכון שיש טכניקות להמעיט בהם, אבל נראה כי הם יישארו כאן לתמיד.

בעולם כולו וגם בישראל יש חברות שמוכרות אוהדים מזוייפים, לייקים, תגובות שיתופים ואפילו צפיות בסרטונים (יותר נמוך מים המלח). אז זה מגדיל את האוהדים בדף ומנפח ת האגו, אבל בסופו של דבר זו הטעיה ורמיה. ולצערי הרבה אנשים בוחנים מספרים ולא איכות (חוסר מודעות טוטאלי).

וכן, יש גם חברות (כולל בישראל) שהייעוד שלהן הוא לשנות דעת קהל. לא מדובר רק על משפיענים אלא על חברות שמקימות פרופילים ומפעילות אותם לטובת שיח ברשת. נו, בטח אתם מודעים לזה שלא רק רובוטים מזייפים אלא גם אנשים. לא מעט משרות חמות צצו ברשת והקריאות "בואו לעבוד בפייסבוק" …. או "חיות רשת, מקומכם איתנו" גדלו בשנה האחרונה.

לפני יותר משנה התקשרה אליי תלמידה ותיקה (קורס מדיה חברתית 2013) וסיפרה שאמא שלה עובדת בפייסבוק…. כן…עובדת על פייסבוק. מה רע? הכנסה נוספת בזמנה הפנוי. העבודה מתבססת על הצבעות, שיתופים, צפיות "אמיתיות" לטובת תשלום וגם בירבור בקבוצות, העלאת שאלות ובעיקר מתן תשובות.

אחלה של עבודה!

עוד דוגמה: הגב' הילרי קלינטון שספגה ביקורת על ההתנהלות ברשתות חברתיות כאשר נמצא המידע הבא: רק 44% מהעוקבים הם אמיתיים וכל השאר מזוייפים או לא פעילים (רבותיי יש כלים). במקביל נראתה תנועה מחשידה של אלפי אוהדים ממדינות כמו תאילנד ומיאנמר בדף הפייסבוק.

סופר מביך.

איך נלחמים בספאם, פרופילים מזוייפים וב Fake News?

כידוע, המדיה החברתית כיכבה בזמן הבחירות לנשיאות ארצות הברית ויש שמועות כי היתה התערבות לא רק בפייסבוק, אלא גם בטוויטר וביוטיוב. לאור המצב, פייסבוק, טוויטר וגוגל התחייבו בתחילת נובמבר השנה להפעיל יותר משאבים לטובת המלחמה בפרופילים מזוייפים. די ברור שלא ניתן להסתמך רק על אלגוריתמים ולכל אחת מהן יש צוות אנושי שעובד במקביל ובוחן את התוצאות. לדוגמה לפייסבוק יש טכנולוגיה לזיהוי מצב של פגיעה עצמית בה האלגוריתמים פועלים לטובת זיהוי סימני אזהרה בין התכנים. מרגע זיהוי מצב אובדני הצוות האנושי מפשיל שרוולים ומציע עזרה.

בנוסף במסגרת המלחמה ב Fake News פייסבוק נעזרת ב Machine Learning שמזהה אילו טקסטים הם מטעים, ב Fact Checkers ובדיווח של משתמשים. ברגע שנמצא תוכן לא אמין היא מדרגת אותו נמוך בתוצאות ובעקבות כך החשיפה שלו מצטמצמת משמעותית (ירידה של 80%), ואף מזהירה מפניו.

בגוגל לעומת זאת עלו על הבעיה ממזמן. לפני יותר מ 6 שנים קם צוות ייחודי שמטרתו להילחם באתרי הספאם (קראו עוד בהמשך), כך שבמקביל לסינון האלגורתמי קמה תמיכה אנושית.

לכל אחת מהן יש דרך להגדיר את הפרמטרים לזיהוי בעיה. למשל כדי לזהות פעילות פקטיבית בפייסבוק מצד משתמש ניתן להתייחס להתנהגותו ולפעולות שהוא מבצע, כגון:

הודעות
אוצר מילים מצומצם
אי התמקדות בקריאת פוסטים
יותר הצבעות
יותר שיתופים וכו'….

חייבת להוסיף שהדיווחים לפייסבוק על פרופילים מזוייפים לא ממש תורמים. אז אל תפתחו צפיות.

יש לכם זמן לראות את זה? על טרולים ובוטים רוסיים

הכל התחיל בגוגל המלכה

בשנת 2011 מצאתי מסמך סודי של גוגל המצביע איך גוגל מדרגת אתרים באינדקס החיפוש בעזרת עיניים אמיתיות (לא רובוטים, סטודנטים).

מה אומר ומה אגיד…הייתי המאושרת באדם. כשלימדתי בג'ון ברייס קידום אתרים המסמך הזה חתם את הנלמד. מה הוא כלל? +100 עמודים של הנחיות איך לדרג אתרים בגוגל, עם הסברים וצילומי מסך. למעשה המסמך שימש כחוברת עבודה עבור אותם סטודנטים שפעלו יחדיו לנקות את גוגל מספאם.

המסמך הסודי של גוגל לדירוג אתרי אינטרנט באינדקס החיפוש

סינון אתרי הספאם במסמך הסודי של גוגל התייחס לדפים מקוונים בעלי תוכן ירוד או מטעה או כאלו שלא היה בהם ערך כלל לגולש. עם זאת גוגל קבעה כי לא כל אתר כזה הוא בהכרח בעייתי ויש לבחון מספר פרמטרים לפני שחורצים את גורלו. צוות הטיהור של גוגל פעל לפי 3 מצבים או 3 דגלים (ספאם, לא, אולי) והיה עליו לשים לב לכל אחד מהנושאים הבאים:

האם יש קשר ישיר בין השאלה לתשובה: מראה הדף והתוכן הקיים
האם קיימים קישורים (לינקים) וטקסטים שהוסתרו
האם נמצאו קישורים מטעים (אפשרות להצגת תוכן שונה בין הנייד לאתר או קישורים בעיתיים)
האם זוהו דפים עם התנהגות זדונית, כגון התחזות או התקנת וירוסים, סוסים טרויאניים או תוכנות זדוניות אחרות
האם התוכן נוצר אוטומטי (זה יכול להיות גם תרגום אוטומטי)
האם נראית בדף דחיסת מילות מפתח מוגזמת ללא הקשר
האם התוכן מועתק ומאיפה
מה איכות תוכניות השותפים
האם ישנו ריבוי מודעות פרסום ותוכן דל במקביל
האם הפורום איכותי
האם זוהתה הסוואה ועוד

כך נראה תוכן העניינים במסמך הסודי של גוגל (עדיין יש בגוגל לא מעט אתרי ספאם).

התעייפתי ... סיכום

אז יש לנו תוכנה לזיהוי פנים של פייסבוק שמפרה את הפרטיות ומאידך מגנה עלינו. בדיוק כמו כל השימוש ברשת עצמה… יותר אפשרויות, יותר חשיפה, יותר שיתוף, יותר כסף, יותר פריצות מידע …ויש לנו מליוני אתרים במקביל בגוגל שחלקם הם לא איכותיים, מזוייפים ומטנפים גם כן. ועם כל הכאב תזכרו שפייסבוק היא סוג של אויב. כי המידע שאתם חולקים בה הוא בלתי נתפס ויוצא מפרופורציה ואין לה מערכת בטחון אמיתית למרות ההצהרות החוזרות והנשנות… ונכון, גם גוגל אוספת מידע אודותינו רק שהוא פחות חשוף ופחות מאיים בעיניי.