|
|
Deepfake Detection in Video Samples
Krumpholc, Jan ; Veigend, Petr (referee) ; Lapšanský, Tomáš (advisor)
V posledních letech si můžeme všimnout nárůstu internetových podvodů a podvrhů. Počínaje snadno odhalitelnými případy, jako je phishing a falešné reklamy, přes sociální inženýrství a dezinformační kampaně a konče útoky pomocí umělé inteligence: Syntetická media, a obzvláště deepfakes. Tyto útoky jsou velmi efektivní, protože je obtížné ověřit pravost média pro běžného uživatele, a také díky nárustu dostupnosti a efektivity těchto nástrojů pro veřejnost v posledních letech. Tato bakalářská práce je zaměřena na video deepfakes: Jaké metody se používají k jejich tvorbě, jaké jsou jejich slabé stránky a hlavně, jak tyto slabé stránky najít a rozhodnout, zda je médium deepfake či nikoli. Budeme analyzovat aktuálně nejmodernější metody detekce deepfakes, jaké jsou jejich silné a slabé stránky, a vyvineme možné nové metody detekce. Nakonec porovnáme výsledky s aktuálními řešeními a vyhodnotíme výsledek.
|
|
|
An Application for Analyzing the Resilience of Facial Recognition Algorithms against a Deepfake Image
Kučík, Adam ; Pleško, Filip (referee) ; Goldmann, Tomáš (advisor)
This thesis focuses on creating an application capable of determing whether a given image is deepfake or not. The application is created by using the convolutional neural network vgg-net. Part of the work is to create a Siamese neural network and test if it is suitable for detecting deepfake images. Several configurations of vgg16 and vgg19 networks are created within the thesis. Each configuration contain tables with the success rates of individual models agains our created deepfake dataset. The thesis also includes a section where we discuss deepfake algorithms that are open-source and describe the work with them. The entire application is implemented in Python using the TensorFlow library.
|
|
|
Use of Diffusion Models in Deepfakes
Trúchly, Dominik ; Malinka, Kamil (referee) ; Lapšanský, Tomáš (advisor)
Deepfake je typ syntetického média vytvoreného pomocou sofistikovaných algoritmov strojového učenia, najmä hlbokých neurónových sietí. Ako príklad možno uviesť generatívne adverzné neurónové siete (GAN), ktoré sú schopné generovať obrázky, ktoré sú pre bežných jednotlivcov takmer nemožné odlíšiť od skutočnej reality. V dôsledku toho boli vyvinuté algoritmy detekcie hlbokých falošných správ, ktoré riešia tento rastúci problém. Tieto algoritmy využívajú pokročilé techniky strojového učenia a analyzujú rôzne funkcie v rámci obrázkov a videí, aby identifikovali nezrovnalosti alebo anomálie svedčiace o manipulácii. Táto práca skúma aplikáciu difúznych modelov, bežne používaných v digitálnom spracovaní obrazu na zvýšenie kvality obrazu znížením šumu a rozmazania, pre posilňovanie realizmu deepfakes. Využitím týchto modelov testujeme ich efekt na odhaľovanie deepfakes obrázkov pomocou deepfake detektorov.
|
|
|
Creating Novel Deepfake Speech Dataset
Sztolarik, Maroš ; Homoliak, Ivan (referee) ; Firc, Anton (advisor)
V posledných rokoch deepfake technológia postúpila do bodu kedy je schopná uveriteľne napodobniť ľudský hlas, čím predstavuje významné výzvy v rozslišovaní medzi skutočnými a syntetickými hlasmi. V tejto práci predstavujeme novú dátovú sadu obsahujúcu deepfake reč generovanú pomocou difúznych modelov. Táto dátová sada, vytvorená s pomocou dvoch sofistikovaných nástrojov pre prevod textu na reč, DiffSpeech a ProDiff, mieri poskytnúť náhľad do hrozby tieto nové nástroje predstavujú. Dve ďaľšie dátové sady sú vytvorené s viac vyspelými nástrojmi pre poskytnutie bodu porovnania. Potom sú všetky vygenerované vzorky analyzované dvomi deepfake detektormi pre priame porovnanie akú veľkú hrozbu každý nástroj predstavuje. Výsledky ukazujú, že aj keď nástroje ktoré využívajú difúzne modely predstavujú hrozbu, použitie difúznych modelov neposkytlo týmto nástrojom nijakú významnú výhodu vo vyhýbaní sa detekcii.
|
|
|
Support Tools for Verifying Human Ability to Detect Deepfakes
Potančok, Patrik ; Malinka, Kamil (referee) ; Firc, Anton (advisor)
Cieľom tejto práce je vytvoriť webovú aplikáciu s použitím PHP a MySQL, ktorá bude testovať schopnosť ľudí rozpoznať deepfake nahrávky a pritom zbierať ich údaje ako dátum narodenia, rodný jazyk, znalosti ďalších jazykov, koľkokrát a ako dlho počúvali nahrávku a počet správnych odpovedí. Aplikácia zahŕňa správu nahrávok a používateľov, a možnosť exportu údajov používateľov vo formáte CSV. Aplikácia bola implementovaná s použitím Laravel, Vue.js a MySQL.
|
|
|
Evaluation of Sources of Image Media for Deepfake Creation
Andrýsek, Kryštof ; Malinka, Kamil (referee) ; Firc, Anton (advisor)
In the recent years, artificial intelligence has been on the rise and it is starting to become a normal part of our lives. This thesis focuses on the dangers associated with image deepfakes. Nowadays, it turns out that it does not only concern high-ranking political leaders or Hollywood stars, but can affect lives of any of us. This is due to, besides other things, the increasing number of applications with the help of which even a person without expert knowledge and skills can create a deepfake. The primary goal of this thesis is to evaluate the sources that can be used to obtain image media suitable for creating facial deepfakes, and to propose methods that can be used to evaluate the quality of these sources in terms of their appropriateness for the creation of deepfakes. A further aim is to identify groups of people who are at higher risk in relation to image deepfakes, which may help to improve prevention and general knowledge. The paper offers an analysis of the sources used to create facial deepfakes, proposes methods for evaluating their quality, a detailed evaluation of the sources using these methods, and an analysis of the vulnerability of various groups of people. Finally, a questionnaire survey, focusing primarily on social network sources, examines how many and what kind of photos are most frequently shared by ordinary users, and uses this data to refine information about at-risk groups.
|
|
|
Differential-based deepfake speech detection
Staněk, Vojtěch ; Černocký, Jan (referee) ; Firc, Anton (advisor)
Technologie deepfake řeči umožňuje vytvářet velmi realistické sytnetické nahrávky. Tato možnost představuje významné riziko, neboť hrozí její zneužití v mnoha oblastech, od milionových podvodů po rozporování pravosti důkazních materiálů. Tato diplomová práce představuje inovativní metodu pro detekci takových deepfake nahrávek, a to s využitím reálných nahrávek řečníka. Na rozdíl od ostatních přísupů využívá pravé nahrávky k získání důležité dodatečné informace o mluvčím. Porovnáním opravdových nahrávek s potenciálně upravenými nebo vygenerovanými lze efektivně a spolehlivě určit pravost řeči na nahrávce. Dosavadní výsledky ukazují, že tento inovativní přístup může být hodnotným nástrojem v rozpoznávání deepfake řeči, zejména nahrávek vytvořených s využitím technologie konverze hlasu (voice conversion), čímž nabízí zcela nový způsob obrany proti hrozbě deepfake zločinů.
|
|
|
Applicability of Deepfakes in the Field of Cyber Security
Firc, Anton ; Homoliak, Ivan (referee) ; Malinka, Kamil (advisor)
Deepfake technológia je v poslednej dobe na vzostupe. Vzniká mnoho techník a nástrojov pre tvorbu deepfake médií a začínajú sa používať ako pre nezákonné tak aj pre prospešné činnosti. Nezákonné použitie vedie k výskumu techník pre detekciu deepfake médií a ich neustálemu zlepšovaniu, takisto ako k potrebe vzdelávať širokú verejnosť o nástrahách, ktoré táto technológia prináša. Jedna z málo preskúmaných oblastí škodlivého použitia je používanie deepfake pre oklamanie systémov hlasovej autentifikácie. Názory spoločnosti na vykonateľnosť takýchto útokov sa líšia, no existuje len málo vedeckých dôkazov. Cieľom tejto práce je preskúmať aktuálnu pripravenosť systémov hlasovej biometrie čeliť deepfake nahrávkam. Vykonané experimenty ukazujú, že systémy hlasovej biometrie sú zraniteľné pomocou deepfake nahrávok. Napriek tomu, že skoro všetky verejne dostupné nástroje a modely sú určené pre syntézu anglického jazyka, v tejto práci ukazujem, že syntéza hlasu v akomkoľvek jazyku nie je veľmi náročná. Nakoniec navrhujem riešenie pre zníženie rizika ktoré deepfake nahrávky predstavujú pre systémy hlasovej biometrie, a to používať overenie hlasu závislé na texte, nakoľko som ukázal, že je odolnejšie proti deepfake nahrávkam.
|
|
|
??Implementácia aplikácie pre porovnanie Deepfake modelov vytvorenych v DeepFaceLab
Vaščák, Vladimír
This bachelor's thesis deals with the implementation of an application for comparing deepfake models created in the DeepFaceLab program. The main goal of this work is to design and implement an application that allows users to easily compare different versions of deepfake models or deepfake videos and thus evaluate the success of their creating. And then use the given application in DeepFaceLab. At the same time, it aims to present and familiarize the users with the issue of deepfake and the technology of deepfake. The result of this work is the functional application that allows users to compare the results of different models for a simple evaluation of success. The application was implemented in the Python programming language with the help of the Django framework and it utilizes libraries for working with images. The resulting application provides a quality tool for comparison, and its use makes sense in other areas as well.
|
|
|
Deepfake Detection Framework
Bernard, Jan ; Perešíni, Martin (referee) ; Malinka, Kamil (advisor)
Tvorba deepfake se za poslední dobu velmi zlepšila a tudíž je obávanou hroznou pro společnost. Detekční metody odhalující deepfake také reagovali rozvojem, ale stále není široké veřejnosti dostupné dostatečné množství kvalitních nástrojů. Tato práce se zaměřuje na vytvoření frameworku na detekci deepfake, který bude jednoduše rozšiřitlený dalšími detekčními metodami v budounu a přitom jednoduchý a dostupný široké veřejnosti.
|
guest ::
