21 subscribers
Gå frakoblet med Player FM -appen!
Podcaster verdt å lytte til
SPONSET


1 Advancing Cardiology and Heart Surgery Through a History of Collaboration 20:13
המשטרה רוצה לזהות בינה מלאכותית - 362
Manage episode 435488232 series 2491846
המשטרה פרסמה מכרז לכלים שיאפשרו לזהות זיופים של תמונות ושל סרטונים שנעשו באמצעות אינטלגנציה מלאכותית או דיפ פייק
המשטרה מציינת במכרז מחודש יוני (ותודה לרוני ארזי שהסב את תשומת ליבי לזה), שיש היום סכנות של חוסר היכולת להבחין בין מידע אמיתי ואמין לבין מידע שעבר זיוף עמוק (Deepfake). ולכן היא מבקשת מידע על כלים לזיהוי עריכת סרטונים/תמונות ולזיהוי Deepfake ועריכת סרטונים.
עכשיו, ידוע שהמשטרה משתמשת כבר בכל מיני כלי בינה מלאכותית לזיהוי אנשים וכלי רכב ויש ביקורת על השימוש בכלים האלה. ואני בכוונה רוצה לשים את זה רגע בצד כי לא צריך אותנו לדיון הזה. תגגלו.
אותי מעניין שהמשטרה צועדת קדימה, כמה שהיא יכולה, בשביל לדעת לחקור אם סרט שנמצא בידיים שלה הוא תוצר של AI. כלי כזה, אם הוא קיים, יכול לשמש לחקור סרטון כזה שנגיד זייפו שלך מלקק בואשים שנועד להשמיץ אותך (או דברים גרועים יותר), זה מאפשר לחקור הונאות שיעשו באמצעות AI - נניח וידאו או הודעה קולית שקרוב משפחה שלך שולח ומבקש שתעביר כסף, וזה יכול גם לחקור אם ראיה בוידאו היא אמיתית.
יש פה כל מיני יכולות מעניינות שהמשטרה מבקשת ומקווה שיהיו בכלי כזה. בהן זיהוי מניפולציות מורכבות של החלפת פנים והוספה הסרה של אובייקטים - יכולת עריכה שאדובי הציגה בפרימייר למשל. ויש דגש על מהירות, ממשק נוח ותמיכה בעברית (שזה אמנם טריוויאלי אבל חשוב שיהיה במכרז - צריך שחוקרים לא יסתבכו עם זה) וכמובן פרטיות - שהמידע מהיישומים האלה יישמר ולא ידלוף. וכמובן שמבקשים שהפלט יהיה מסמך עם הסבר שאפשר יהיה להשתמש בו כראיה משפטית.
ויש גם סעיף שנקרא עריכה מטעה. שזו הגדקה קצת רחבה ותכלס עריכה מטעה קיימת מתחילת ימי הקולנוע בסוף המאה ה-19 כמו The Magician של Georges Méliès. אז ספציפית לזה אנחנו באיחור קל של יותר מ-125 שנה.
אבל הכוונות פה טובות, בעיני. השאלות שצריכות להיות בראש שלנו אם תהיה חברה כזו שתזכה במכרז היא כמה הכלים שלה יהיו אמינים, כמה יהיה אפשר לוודא שאין טעויות זיהוי לשני הכיוונים (זיוף יזוהה כאמיתי, אמיתי יזוהה כזיוף). במכרזה מבקשים הדגמה שזה סבבה, אבל אז מגיעה המציאות עם דברים שלא היו בהדגמה. צריך לחשוב גם כמה הכלי יהיה אמין לאורך זמן וידביק קצב כאשר הטכנולוגיות של הזיוף יתקדמו, והאם המשטרה תקנה יותר מכלי אחד כזה כדי לצמצם טעויות או הטיות. אלא לא שאלות שאפשר או צריך לענות עליהן עכשיו, אבל צריך שצריך לחשוב עליהן בזמן שמכניסים כלי כזה לשימוש, כמו כל כלי טכנולוגי שאנחנו סומכים עליו.
לרלרת
נפתח לאחרונה באנדרואידים פיצ'ר חדש שמאפשר להשמיע קולות בזמן שיחת טלפון - נדגים את זה. מצד שני, יש באנדרואידים נקיים בחו"ל אפשרות להקליט שיחות בילט אין (עם איזה צפצוף או אזהרה לפני), בעוד בישראל בחלק מהאנדריאדים גם הבילט אין חסום וגם אפליקציות חיצוניות חסומות, למרות שאין מניעה חוקית בישראל להקליט שיחה. למה? כי גוגל, בגדול.
379 episoder
Manage episode 435488232 series 2491846
המשטרה פרסמה מכרז לכלים שיאפשרו לזהות זיופים של תמונות ושל סרטונים שנעשו באמצעות אינטלגנציה מלאכותית או דיפ פייק
המשטרה מציינת במכרז מחודש יוני (ותודה לרוני ארזי שהסב את תשומת ליבי לזה), שיש היום סכנות של חוסר היכולת להבחין בין מידע אמיתי ואמין לבין מידע שעבר זיוף עמוק (Deepfake). ולכן היא מבקשת מידע על כלים לזיהוי עריכת סרטונים/תמונות ולזיהוי Deepfake ועריכת סרטונים.
עכשיו, ידוע שהמשטרה משתמשת כבר בכל מיני כלי בינה מלאכותית לזיהוי אנשים וכלי רכב ויש ביקורת על השימוש בכלים האלה. ואני בכוונה רוצה לשים את זה רגע בצד כי לא צריך אותנו לדיון הזה. תגגלו.
אותי מעניין שהמשטרה צועדת קדימה, כמה שהיא יכולה, בשביל לדעת לחקור אם סרט שנמצא בידיים שלה הוא תוצר של AI. כלי כזה, אם הוא קיים, יכול לשמש לחקור סרטון כזה שנגיד זייפו שלך מלקק בואשים שנועד להשמיץ אותך (או דברים גרועים יותר), זה מאפשר לחקור הונאות שיעשו באמצעות AI - נניח וידאו או הודעה קולית שקרוב משפחה שלך שולח ומבקש שתעביר כסף, וזה יכול גם לחקור אם ראיה בוידאו היא אמיתית.
יש פה כל מיני יכולות מעניינות שהמשטרה מבקשת ומקווה שיהיו בכלי כזה. בהן זיהוי מניפולציות מורכבות של החלפת פנים והוספה הסרה של אובייקטים - יכולת עריכה שאדובי הציגה בפרימייר למשל. ויש דגש על מהירות, ממשק נוח ותמיכה בעברית (שזה אמנם טריוויאלי אבל חשוב שיהיה במכרז - צריך שחוקרים לא יסתבכו עם זה) וכמובן פרטיות - שהמידע מהיישומים האלה יישמר ולא ידלוף. וכמובן שמבקשים שהפלט יהיה מסמך עם הסבר שאפשר יהיה להשתמש בו כראיה משפטית.
ויש גם סעיף שנקרא עריכה מטעה. שזו הגדקה קצת רחבה ותכלס עריכה מטעה קיימת מתחילת ימי הקולנוע בסוף המאה ה-19 כמו The Magician של Georges Méliès. אז ספציפית לזה אנחנו באיחור קל של יותר מ-125 שנה.
אבל הכוונות פה טובות, בעיני. השאלות שצריכות להיות בראש שלנו אם תהיה חברה כזו שתזכה במכרז היא כמה הכלים שלה יהיו אמינים, כמה יהיה אפשר לוודא שאין טעויות זיהוי לשני הכיוונים (זיוף יזוהה כאמיתי, אמיתי יזוהה כזיוף). במכרזה מבקשים הדגמה שזה סבבה, אבל אז מגיעה המציאות עם דברים שלא היו בהדגמה. צריך לחשוב גם כמה הכלי יהיה אמין לאורך זמן וידביק קצב כאשר הטכנולוגיות של הזיוף יתקדמו, והאם המשטרה תקנה יותר מכלי אחד כזה כדי לצמצם טעויות או הטיות. אלא לא שאלות שאפשר או צריך לענות עליהן עכשיו, אבל צריך שצריך לחשוב עליהן בזמן שמכניסים כלי כזה לשימוש, כמו כל כלי טכנולוגי שאנחנו סומכים עליו.
לרלרת
נפתח לאחרונה באנדרואידים פיצ'ר חדש שמאפשר להשמיע קולות בזמן שיחת טלפון - נדגים את זה. מצד שני, יש באנדרואידים נקיים בחו"ל אפשרות להקליט שיחות בילט אין (עם איזה צפצוף או אזהרה לפני), בעוד בישראל בחלק מהאנדריאדים גם הבילט אין חסום וגם אפליקציות חיצוניות חסומות, למרות שאין מניעה חוקית בישראל להקליט שיחה. למה? כי גוגל, בגדול.
379 episoder
Alle episoder
×

1 דיפסיק - החלופה הסינית לכל ה-AIים שעשתה בלאגן 33:19

1 חובב הרטרו שהציל טלוויזית CRT ענקית - 386 29:08

1 ההפקה המורכבת ביותר לסקירה שאיש לא ראה - 385 36:50






1 וואמפ וואמפ וואממפפ: תלמידי התיכון שהמציאו אמוג'י- 379 35:13

1 הרמקול החדש של סונוס והאוזניות החדשות של JBL - פרק 378 28:49

1 מה זה SearchGPT? מה ההבדל בינו לבין גוגל, ומה הקשר לפיצריות בצרפת? - 377 28:30

1 סקיינט בדרך, אבל בינתיים זה עדיין בובות - 376 30:15


1 רשימת ההשמעה של קהילת מישן בסן פרנסיסקו - 374 24:36
Velkommen til Player FM!
Player FM scanner netter for høykvalitets podcaster som du kan nyte nå. Det er den beste podcastappen og fungerer på Android, iPhone og internett. Registrer deg for å synkronisere abonnement på flere enheter.