Kybernetická bezpečnost umělé inteligence / Artificial Intelligence Cybersecurity
- Authors
- Publication Date
- Jun 14, 2024
- Source
- Digital Library of the Czech Technical University in Prague
- Keywords
- License
- Unknown
Abstract
S rostoucím zájmem o umělou inteligence vznikají obavy o bezpečnost jejího využití, či o bezpečnost umělé inteligence samotné. Tato bakalářská práce se zabývá zmapováním současné situace informační bezpečnosti v oblasti umělé inteligence. K dosažení plnohodnotné analýzy, práce představuje tři odlišné taxonomie. První taxonomie se zabývá zranitelnostmi a hrozbami modelů umělé inteligence. Druhá prezentuje využítí modelů umělé inteligence ke škodlivé činnosti, zatímco třetí představuje využití v rámci obranných prvků informační bezpečnosti. Analýza je obohacena o úvod do základů umělé inteligence, jako je strojové učení, neuronové sítě, či zpracování přirozeného jazyka. Analýza shrnuje momentální stav informační bezpečnosti v umělé inteligenci a identifikuje problematiku, která si zaslouží pozornost v budoucím vývoji umělé inteligence, či nástrojů ji využívající. Vyhodnocení analýzy upozorňuje na problematiku veřejně dostupných předtrénovaných modelů, či generativní modely a jejich schopnost nerozpoznatelně modifikovat data v kritické infrastruktuře. Vyhodnocení také vyzdvihuje schopnost umělé inteligence vykonávat komplexní rozhodnutí v oblasti kyberbezpečnosti na základě velkého množství zanalyzovaných dat. / With the growing interest in AI, concerns are being raised about the safety of its use, or the safety of AI itself. This bachelor thesis deals with the mapping of the current information security situation in the field of artificial intelligence. To achieve a complete analysis, the thesis presents three distinct taxonomies. The first taxonomy addresses the vulnerabilities and threats of AI models. The second presents the use of AI models for malicious activity, while the third presents the use within information security defenses. The analysis is enriched with an introduction to the fundamentals of artificial intelligence, such as machine learning, neural networks, and natural language processing. The analysis summarizes the current state of information security in artificial intelligence and identifies issues that merit attention in the future development of artificial intelligence or tools that use it. The evaluation of the analysis highlights the issue of publicly available pre-trained models, or generative models, and their ability to unrecognizably modify data in critical infrastructure. Evaluation also underscores the ability of AI to make complex cybersecurity decisions based on large amounts of analysed data.