Иако deepfakes често се користат креативно или за забава, тие се повеќе се користат во кампањи за дезинформација, за кражба на идентитет и за дискредитација на јавни личности и познати личности.

Deepfakes се тука да останат

Една од најпопуларните светски платформи за социјални медиуми, TikTok, сега е домаќин на постојан прилив на deepfakes видеа. Deepfakes се видеа во кои лицето или телото на субјектот се дигитално изменети за да личат на некој друг – обично позната личност. Еден забележлив пример е сметката @deeptomcriuse TikTok, која објави десетици deepfakes видеа во кои е прикажан deepfake Том Круз и привлече околу 3,6 милиони следбеници. Во друг пример, извршниот директор на Met, Марк Закерберг, се чини дека признава заговорно споделување податоци. Неодамна, имаше голем број на смешни видеа во кои се појавуваат актери како Роберт Патинсон и Кијану Ривс. И додека технологијата потребна за создавање deepfake е софистицирана, таа станува сè подостапна, оставајќи го зад себе софтверот за откривање и регулирање. Едно е сигурно – deepfakes се тука да останат. Значи, што можеме да направиме за нив? Манипулацијата со текст, слики и снимки одамна е основа на интерактивноста. И deepfakes не се исклучок; тие се резултат на длабоко вкоренета желба да се учествува во културата, раскажувањето приказни, уметноста и ремиксирањето. Технологијата се користи нашироко во дигиталната уметност и сатирата. Обезбедува попрефинети (и поевтини) техники за визуелно вметнување, во споредба со зелените екрани и компјутерски генерираните слики. Технологијата Deepfake исто така може да овозможи автентични воскреснувања на починати актери и историски реприза. Тие дури можат да играат улога во помагањето на луѓето да ги оплакуваат своите починати сакани. Но, тие се исто така достапни за злоупотреба – технологијата поставува неколку социјални проблеми како што се:

• Deepfakes се користат како „доказ“ за други лажни вести и дезинформации.
• Deepfakes се користат за дискредитација на познати личности и други чии егзистенција зависи од споделување содржина, додека ја одржуваат нивната репутација.
• Тешкотии во обезбедувањето проверливи снимки за политичка комуникација, здравствени пораки и изборни кампањи.
• Човечки лица се користат во лажна порнографија.

Последната точка е особено вознемирувачка. Во 2019 година, софтверската компанија за откривање на deepfake Deeptrace откри дека 96% од 14.000 deepfake биле порнографски по природа. Бесплатните апликации како што е сега веќе непостоечката DeepNude 2.0 се користеа за облечените жени да се појавуваат голи на видеата, често за одмазднички порно и уцена. Во Австралија, deepfake апликациите дури им дозволија на сторителите да ги заобиколат законите за „одмаздничка порнографија“ – кои се очекува наскоро да станат уште поостри. Дополнително, deepfake се користат и во измами со идентитет и измами, особено во форма на видео пораки од доверливи „колеги“ или „роднини“ кои бараат трансфер на пари. Креаторите на deepfakes го нагласуваат количеството време и напор што се троши за овие видеа да изгледаат реално. Земете го Крис Уме, уметникот за визуелни ефекти и вештачка интелигенција зад сметката @deeptomcruise TikTok. Кога сметката се најде на насловните страници минатата година, Уме рече „не можете само да притиснете копче“. Но, постојат добри докази дека deepfakes станува полесен за правење. Истражувачите од иницијативата на Обединетите нации Глобал пулс покажаа како говорите може реално да се лажираат за само 13 минути. Како што се развиваат повеќе deepfake апликации, можеме да очекуваме дека луѓето со пониски вештини сè повеќе ќе произведуваат deepfake со автентичен изглед. Само размислете колку многу процветало уредувањето фотографии во изминатата деценија. Законодавството, регулативата и софтверот за откривање се борат да држат чекор со технолошкиот напредок. Во 2019 година, Фејсбук беше критикуван затоа што не отстрани лажно видео на американската политичарка Ненси Пелоси.