המדריך לתוכן מבוסס AI: איך לזהות תוכן מטעה? חלק 2

בחלק הראשון של המאמר עשיתי סדר במונחים וכתבתי איך הבינה המלאכותית שינתה את הרשתות החברתיות. הדגשתי שזה לא רק עזר טכני קטן, אלא מערכת שלמה שיודעת לייצר דמויות וירטואליות, קולות וסרטונים שנראים כמו הדבר האמיתי. בחלק הזה, נצלול לעומק של מה שקורה עכשיו בפיד שלנו. נבין מה הפלטפורמות כבר עושות כדי לסמן את התכנים האלו, נראה למה הסימונים האלו לא תמיד מספיקים ונדבר על הסיכונים האמיתיים כמו התחזויות והטעיות. המטרה היא להבין איך אפשר להמשיך לגלוש בביטחון בלי ליפול למלכודות.

נושאים מרכזיים במאמר:

מה הרשתות החברתיות עושות לטובת אבחון תוכן AI
למה התווית שלהם לא מספיקה
מה הקשר בין תוכן מבוסס AI לעדכון האלגוריתם של גוגל – פנדה לפני יותר מעשור
מהם 3 סוגי התוכן הבעיתיים
מונחים מעולם התוכן בנוצר מבינה מלאכותית
על ה- DARK SIDE של תוכן AI: היבטים משפטיים
תביעות בולטות בתחום תוכן שנוצר על ידי בינה מלאכותית
כמה מילים ממני

מה הרשתות החברתיות כבר עושות לגבי תוכן AI?

הרשתות החברתיות כבר מסמנות חלק מתוכן הבינה המלאכותית, בעיקר כשמדובר בתמונה, קול או וידאו שנראים מציאותיים. ביניהן יוטיוב, טיקטוק, פייסבוק, אינסטגרם ות'רדס. הסימון הוא שכבה ראשונה בלבד והוא נועד להודיע למשתמש שהתוכן נוצר או שונה באמצעות בינה מלאכותית. הפער המרכזי הוא ההקשר שחסר. תווית על פוסט לא תמיד מסבירה אם מדובר בעריכה טכנית, יצירה מלאה, דמות וירטואלית, שכפול קול, פרסום, התחזות או פרופיל שמבוסס על בינה מלאכותית.

למה תווית AI לא מספיקה?

תלויה לפעמים בדיווח עצמי של היוצר
לא תמיד בולטת מספיק
לא תמיד מסבירה מה בדיוק נוצר באמצעות הבינה המלאכותית
מתייחסת לפוסט בודד ולא לזהות הכוללת של החשבון
לא תמיד מבחינה בין עריכה קלה לבין יצירה מלאכותית מלאה
לא נותנת למשתמש שליטה בכמות התוצרים המלאכותיים בפיד שלו

סימון אומר למשתמש מה הוא רואה, אבל שליטה מאפשרת לו לבחור כמה מזה יופיע בפיד. אלו שתי שכבות שונות שחייבות לעבוד יחד

נחזור למונחים חשובים בהרחבה

AI Slop: ה"זבל" של עולם הבינה המלאכותית. תוכן זול, מהיר וחוזר על עצמו, שנוצר בעיקר בשביל למשוך קליקים, צפיות או כסף, בלי שום ערך אמיתי או נשמה מאחוריו.
תוכן סינתטי: כל מה שלא צולם או נכתב על ידי בן אדם, אלא הופק על ידי מחשב. זה יכול להיות תמונה, סרטון או קול שנראים אמיתיים, אבל הם בעצם קוד של מכונה.
Deepfake: הטכנולוגיה שמטילה פחד על כולם. סרטון, אודיו או תמונה שמשתמשים בבינה מלאכותית כדי להלביש פנים או קול של אדם אמיתי על גוף אחר, ולגרום לו להגיד או לעשות דברים שהוא בחיים לא עשה.
יוצרים וירטואליים: דמויות שלא קיימות במציאות, פרסונה דיגיטלית מעוצבת. יכולות להיראות אנושיות, לפרסם מוצרים ולדבר עם עוקבים, אבל מאחורי המקלדת אין אדם, יש רק אלגוריתם.
תווית AI: הסימון הקטן שאתם רואים לפעמים ליד פוסטים, שאומר: "היי, אל תתבלבלו, זה נוצר במחשב". הבעיה היא שהיא לא תמיד בולטת, לא תמיד אמיתית ולא תמיד מופיעה.
אוריינות דיגיטלית: היכולת שלכם לעצור רגע לפני הלייק, להבין מה אתם רואים, ולזהות מתי מנסים לעבוד עליכם עם תוכן מלאכותי. זה השריר הכי חשוב שצריך לאמן היום.
זכות לפרסום: הזכות של אדם (במיוחד סלבס או אנשים מוכרים) לשלוט בזהות שלו. בתי המשפט משתמשים בזה היום כדי להילחם במי שגונב את הקול או הפנים של אנשים בשביל לייצר תוכן מזויף.

מה הקשר לעדכון האלגוריתם של גוגל פנדה?

חייבת לחזור לגוגל אהובתי, שהוציאה עדכונים שוטפים לאלגורתמים השונים כדי להילחם בתוכן זבל. בקורס קידום אתרים שלימדתי, אהבתי להציג על הלוח את אלי האינסטלטור… כדי להבין את המצב, אפשר להשוות את מה שקורה היום לעדכון פנדה המפורסם של גוגל מ-2011. אז, גוגל נלחמה באתרים שהציפו את הרשת בתוכן זבל משעמם כדי לקבל דירוג גבוה. היום, אנחנו רואים משהו דומה מאוד בפיד החברתי. הצפה של תוכן בינה מלאכותית שנוצר מהר ובזול כדי למשוך צפיות. אם אז הפנדה ניקתה את הרשת מתוכן דל, היום האלגוריתמים צריכים להילחם בתוכן בינה מלאכותית שנראה אמיתי ומשכנע, אבל נועד רק למשוך אותנו פנימה. ההבדל הוא שהיום המלחמה היא לא רק על איכות התוכן, אלא על האמון שלנו כבני אדם.

3 סוגי סיכון עיקריים בתוכן מבוסס AI:

כדי להבין את הבעיה, כדאי להבחין בין שלושה סוגי סיכון:

סיכון זהות: דמות וירטואלית שנראית כמו אדם אמיתי, פרופיל מזויף שנבנה סביב פנים וסיפור חיים, שכפול קול או פנים ללא הסכמה, או חשבון שמתחזה לאדם, מותג או גורם מקצועי.
סיכון מידע: סרטון שנראה כמו תיעוד אמיתי אבל נוצר במחשב, תוכן רפואי, פיננסי או פוליטי ללא מקור ברור, הפצת מידע שגוי דרך חשבונות שנראים אנושיים או תוכן Deepfake שמציג אדם אומר או עושה דבר שלא קרה.
סיכון מסחרי: פרסום שנראה כמו המלצה אישית, דמות בינה מלאכותית שמקדמת מוצר ללא גילוי ברור, קמפיין שמסתיר את הגורם שעומד מאחוריו או המלצות ללא ניסיון אישי אמיתי.

ה- DARK SIDE של תוכן בינה מלאכותית: היבטים משפטיים

השאלות המשפטיות סביב תוכן בינה מלאכותית נמצאות בשטח אפור שמתפתח במהירות. אין תשובה אחידה למי שייכות זכויות היוצרים על תוכן שנוצר על ידי מכונה ולא ברור מי אחראי משפטית לנזק שנגרם מתוכן שנוצר באופן אוטומטי, האם זה האדם שהפעיל את הכלי, החברה שפיתחה אותו, או הפלטפורמה שהפיצה אותו הלאה.

היכולת לשכפל פנים וקול מאפשרת פגיעה מהירה בשם הטוב, והמערכות המשפטיות כיום מגיבות לאט מדי ביחס למהירות שבה תוכן ויראלי יכול להרוס מוניטין של אדם או של עסק. חסרים מנגנונים שמאפשרים לנפגעים לחסום את הזיופים בזמן אמת ולמנוע את הנזק לפני שהוא מתפשט. מעבר לשאלות החוק, עולה גם שאלה אתית על הגינות כלפי הצרכן כאשר מותגים מציגים המלצות מלאכותיות כאילו היו חוויות אנושיות. הצורך הגדול הוא ביצירת סטנדרטים אחידים שבהם פלטפורמות מחויבות לגלוי מלא, לדיווח מהיר ולנטרול אקטיבי של חשבונות מזויפים.

תביעות בתחום הבינה המלאכותית בעולם...

בתי המשפט ברחבי העולם מתחילים להתמודד עם המציאות הזו דרך תביעות תקדימיות:

סקרלט ג'והנסון תבעה את חברת OpenAI לאחר שהשיקה מודל קולי שנשמע דומה מאוד לקולה, למרות שסירבה להצעה להשתמש בו. המקרה ממחיש את הפגיעה בזכות של אדם לשלוט על השימוש המסחרי בקולו ובדמותו.
במקרה נוסף, מותג הלבשה תחתונה נתבע לאחר שהשתמש בבינה מלאכותית כדי לשנות סרטון של משפיענית ללא אישורה, באופן שהציג אותה בצורה שפגעה במוניטין שלה ובאוטונומיה על גופה. התביעה כללה עילות של הפצת תוכן מזויף ללא הסכמה ודיבה.
תביעות ענק הוגשו נגד סטארטאפים בתחום הבינה המלאכותית על ידי חברות תקליטים, בטענה שהשתמשו ביצירות של אמנים ללא רישיון כדי לאמן מודלים שיוצרים שירים המזייפים את הסגנון של אמנים מוכרים.
במקרים אחרים, המשטרה נדרשה להתערב כאשר דמויות ציבוריות הפכו למטרה של קמפייני השמצה מבוססי אודיו שיוצר בבינה מלאכותית, מה שמוכיח כיצד הטכנולוגיה משמשת להפצת מידע כוזב שדורש חקירה משפטית מורכבת.

אישי ממני אליכם

תשמעו, אני נמצאת באינטרנט מאז שהימים של גוגל היו רק התחלה ב-98. קיבלתי גישה לרשתות החברתיות עוד הרבה לפני שכולם הגיעו לשם, ובינינו? בהתחלה פחדתי לקפוץ למים. לא ידעתי מה יצא מהדבר הזה, אבל עם הזמן זה הפך למקצוע שלי לימדתי ומלמדת את התחום הזה, ואני מתנדבת לא מעט עם ילדים ובני נוער כדי לעזור להם לשמור על עצמם מהסכנות ברשת.

אבל אם תשאלו אותי עם יד על הלב למה אני לא פעילה ברשת כמו פעם, התשובה היא הכי פשוטה שיש: אני פשוט רוויה. אני מסתכלת על הפיד היום, עם כל התוכן המלאכותי והזיופים האלו, ומרגישה שאני כבר תיכף מקיאה מהכל.

כשפעם היו בונים עולמות תוכן מאפס, היום הכל מרגיש לי כמו מכונה משומנת של מניפולציות. אני לא אומרת לכם להפסיק לגלוש, אבל אני כן מבקשת שתפתחו את העיניים. אל תקחו כלום כמובן מאליו. האינטרנט של פעם היה מקום של חיבורים, והיום אנחנו צריכים להילחם כדי להישאר בני אדם בתוך כל המכונה הזאת. אפשר לעשות איתו אחלה של דברים, אבל כל מחיאות הכפיים, הלייקים, המרדף לתגובות הוא חולני בעיניי. תישארו אותנטיים למציאות.