Терминът DEEP FAKE идва от комбинацията на понятията "задълбочено обучение" и "фалшив", като намеква за фалшиво съдържание, генерирано с помощта на  AI обучение

Това се отнася до техника за подправяне, която използва усъвършенствана техника за изкуствен интелект, която събира данни за физически движения, черти на лицето и дори глас и ги обработва чрез алгоритъм за кодиране на ИИ или генеративна антагонистична мрежа (GAN), за да създаде фалшиво, но хиперреалистично аудиовизуално, графично или гласово съдържание.
С други думи, това е видео, изображение или аудио, създадено с помощта на ИИ, което имитира външния вид и/или гласа на човек (синтетична медия). Сред най-популярните deepfake видеоклипове са тези на потребителя DeepTomCruise в TikTok:

Това не е напълно нова технология. Всъщност тя се използва от години в холивудските филмови студия, но вече е достъпна за много хора чрез търговски приложения, което увеличи обема на такова съдържание, циркулиращо в интернет, въпреки че Facebook забрани Deepfakes през 2020 г.
 

Защо дълбоките фалшификати могат да бъдат заплаха за цифровата и информационната сигурност?

Проблемът не е в DEEPFAKE, който е просто съдържание, генерирано с помощта на изкуствен интелект, а в начина, по който се използва. В неотдавнашен доклад на Европол се предупреждава, че повечето от разпространяваните deepfakes имат злонамерени намерения. Злоупотребите, които тази технология може да улесни, включват:   

• Нарушаване на моралната неприкосновеност на хората 
• Манипулиране на изображения и звуци с цел заобикаляне на биометрични пароли.
• Измами в цифрови платформи
• Разпространяване на фалшиви новини и дезинформация, които биха могли дори да нарушат финансовите пазари и да дестабилизират международните отношения 
• Кражба на самоличност
• Изнудване (заплашване на лицето с разпространение на фалшиво компрометиращо съдържание) 

Още по-тревожно е, че с поевтиняването на технологията броят на извършените престъпления може да се увеличи. Европол очаква това, поради което препоръчва да разбираме deepfake и да бъдем подготвени. 
 

Как да разпознaваме deepfakes?

Това става все по-трудно. Според неотдавнашно проучване, публикувано в Proceedings of the National Academy of Sciences USA, "синтетично генерираните лица са не само фотореалистични, но и почти неразличими от истинските и се считат за по-надеждни". Това обаче не е невъзможно. Все още има детайли, на които трябва да се обърне внимание: 

1. Брой светкавици 

Като обръщаме внимание на мoментите, в които образът във видеоклипа проблясва, можем да разберем дали става дума за истинско лице или за deepfake, тъй като deepfake обикновено прави това по-рядко от хората, често по неестествен начин.

2. Лице и тяло 

Генерирането на фалшификати на цялата личност на даден човек е свързано с доста работа, така че повечето deepfakes се ограничават до подмяна на лицето. 

Eдин от начините за откриване е да се идентифицират несъответствия между пропорциите на тялото и лицето или между израженията на лицето и движенията или позите на тялото.


3. Дължина на видеото 

Качественият фалшификат изисква няколко часа работа и обучение на алгоритъма, така че deepfakes обикновено са дълги само няколко секунди. 

4. Звукът на видеото   

Съществува софтуер за създаване на гласови фалшификати. Бъдете подозрителни ако видеоклипът няма звук или има звук, който не съответства на изображението, особено движението на устните. 

5. Вътрешността на устата

Технологията за генериране на  deepfake не е много добра във вярното възпроизвеждане на езика, зъбите и устната кухина, когато лицето говори. Поради това размазването в устата е показателно за фалшиво изображение. 

6. Други подробности 

Детайлите са слабото място на софтуера за deepfake. Затова можем да ги открием, като се съсредоточим върху малки аспекти, като например тъпи сенки около очите, нереалистично окосмяване по лицето, прекалено гладка или набръчкана кожа, фиктивни бенки и неестествен цвят на устните. 

ВАЖНО! Избягвайте да предоставяте личните си данни на неидентифицирани лица и организации онлайн преди да сте сигурни, че са легитимни!

Бъдете особено внимателни при наличие на думите:

• ГАРАНТИРАНО
• ДОКАЗАНИ РЕЗУЛТАТИ
• БЕЗ РИСК
• ФЕНОМЕНАЛНА ДОХОДНОСТ