Ризикоорієнтований підхід до впровадження штучного інтелекту в сфері оборони України (концептуальні засади)

Abstract

Анотація У статті розглядаються концептуальні засади ризикоорієнтованого підходу до впровадження штучного інтелекту у сфері оборони України. Актуальність дослідження обумовлена швидким розвитком технологій штучного інтелекту у військовій справі та потребою протистояти ворогу, що переважає. У зв'язку з цим, дана стаття спрямована на виявлення та обґрунтування основних засад ризикоорієнтованого підходу до впровадження штучного інтелекту у військовій сфері України. Провідним методом для дослідження є аналіз, що дозволяє розглянути внутрішні нетехнічні ризики, оскільки вони є менш очевидними та потенційно більш небезпечними, ніж технічні та зовнішні ризики. У статті визначено та класифіковано ключові нетехнічні ризики, що виникають при впровадженні штучного інтелекту у військовій сфері. Зокрема, ідентифіковано ризики, пов'язані з недооцінкою загроз, невизначеністю розвитку штучного інтелекту, негативним впливом на людину (зниженням когнітивних навичок, надмірною довірою), а також проблемами, пов'язаними з автоматичним перекладом та ухваленням рішень. Також розглянуто зовнішні ризики, що виникають при використанні штучного інтелекту противником, такі як посилення ефективності розвідки, кібервійни та пропаганди, а також ризики, пов'язані з “отруєнням” даних. Обґрунтовано доцільність створення реєстру та карти ризиків для подальшого управління ними. Матеріали статті становлять практичну цінність для розробки політики впровадження штучного інтелекту у військовій сфері, створення реєстру та мапи ризиків, а також для подальшої роботи з ними. Abstract The article discusses the conceptual foundations of a risk-oriented approach to introducing artificial intelligence (AI) into Ukraine's defense sector. The study's relevance stems from the rapid development of AI technologies in military affairs and the need to counter the prevailing enemy. Thus, the article aims to identify and substantiate the fundamental principles of a risk-oriented approach to integrating AI into Ukraine's military. The primary method used in this study is analysis, which allows to consider non-technical internal risks, which are less obvious and potentially more dangerous than technical and external risks. The article identifies and categorizes key non-technical risks arising from the introduction of AI in the military. Specifically, it identifies the risks associated with underestimating threats, the uncertainty of AI development, the negative impact on humans (e.g., reduced cognitive skills and excessive trust), and problems related to automatic translation and decision-making. The article also considers external risks arising from the enemy's use of AI, such as increased intelligence effectiveness, cyberwarfare, propaganda, and data poisoning. The authors substantiate the necessity of creating a register and map of these risks for further management. The article's materials are practically valuable for developing an AI policy for the military, creating a risk register and map, and for further work with them.