המשטרה רוצה לזהות בינה מלאכותית - 362

LowBattery בלי סוללה

המשטרה פרסמה מכרז לכלים שיאפשרו לזהות זיופים של תמונות ושל סרטונים שנעשו באמצעות אינטלגנציה מלאכותית או דיפ פייק

המשטרה מציינת במכרז מחודש יוני (ותודה לרוני ארזי שהסב את תשומת ליבי לזה), שיש היום סכנות של חוסר היכולת להבחין בין מידע אמיתי ואמין לבין מידע שעבר זיוף עמוק (Deepfake). ולכן היא מבקשת מידע על כלים לזיהוי עריכת סרטונים/תמונות ולזיהוי Deepfake ועריכת סרטונים.

עכשיו, ידוע שהמשטרה משתמשת כבר בכל מיני כלי בינה מלאכותית לזיהוי אנשים וכלי רכב ויש ביקורת על השימוש בכלים האלה. ואני בכוונה רוצה לשים את זה רגע בצד כי לא צריך אותנו לדיון הזה. תגגלו.

אותי מעניין שהמשטרה צועדת קדימה, כמה שהיא יכולה, בשביל לדעת לחקור אם סרט שנמצא בידיים שלה הוא תוצר של AI. כלי כזה, אם הוא קיים, יכול לשמש לחקור סרטון כזה שנגיד זייפו שלך מלקק בואשים שנועד להשמיץ אותך (או דברים גרועים יותר), זה מאפשר לחקור הונאות שיעשו באמצעות AI - נניח וידאו או הודעה קולית שקרוב משפחה שלך שולח ומבקש שתעביר כסף, וזה יכול גם לחקור אם ראיה בוידאו היא אמיתית.

יש פה כל מיני יכולות מעניינות שהמשטרה מבקשת ומקווה שיהיו בכלי כזה. בהן זיהוי מניפולציות מורכבות של החלפת פנים והוספה הסרה של אובייקטים - יכולת עריכה שאדובי הציגה בפרימייר למשל. ויש דגש על מהירות, ממשק נוח ותמיכה בעברית (שזה אמנם טריוויאלי אבל חשוב שיהיה במכרז - צריך שחוקרים לא יסתבכו עם זה) וכמובן פרטיות - שהמידע מהיישומים האלה יישמר ולא ידלוף. וכמובן שמבקשים שהפלט יהיה מסמך עם הסבר שאפשר יהיה להשתמש בו כראיה משפטית.

ויש גם סעיף שנקרא עריכה מטעה. שזו הגדקה קצת רחבה ותכלס עריכה מטעה קיימת מתחילת ימי הקולנוע בסוף המאה ה-19 כמו The Magician של Georges Méliès. אז ספציפית לזה אנחנו באיחור קל של יותר מ-125 שנה.

אבל הכוונות פה טובות, בעיני. השאלות שצריכות להיות בראש שלנו אם תהיה חברה כזו שתזכה במכרז היא כמה הכלים שלה יהיו אמינים, כמה יהיה אפשר לוודא שאין טעויות זיהוי לשני הכיוונים (זיוף יזוהה כאמיתי, אמיתי יזוהה כזיוף). במכרזה מבקשים הדגמה שזה סבבה, אבל אז מגיעה המציאות עם דברים שלא היו בהדגמה. צריך לחשוב גם כמה הכלי יהיה אמין לאורך זמן וידביק קצב כאשר הטכנולוגיות של הזיוף יתקדמו, והאם המשטרה תקנה יותר מכלי אחד כזה כדי לצמצם טעויות או הטיות. אלא לא שאלות שאפשר או צריך לענות עליהן עכשיו, אבל צריך שצריך לחשוב עליהן בזמן שמכניסים כלי כזה לשימוש, כמו כל כלי טכנולוגי שאנחנו סומכים עליו.

לרלרת

נפתח לאחרונה באנדרואידים פיצ'ר חדש שמאפשר להשמיע קולות בזמן שיחת טלפון - נדגים את זה. מצד שני, יש באנדרואידים נקיים בחו"ל אפשרות להקליט שיחות בילט אין (עם איזה צפצוף או אזהרה לפני), בעוד בישראל בחלק מהאנדריאדים גם הבילט אין חסום וגם אפליקציות חיצוניות חסומות, למרות שאין מניעה חוקית בישראל להקליט שיחה. למה? כי גוגל, בגדול.