Certain Security Issues of the Technological Singularity
Copyright (c) 2024 Ollári Viktor
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Abstract
The second decade of the 21st century brought the pre-technological singularity (TS) era when ICT solutions infiltrated all the verticals of our lives offering a plethora of possibilities and posing an unpredictable number of challenges. They have been initiating novel – economy, security etc. – frontlines in interstate competition. The new hardware technologies sped up the research of Artificial Intelligence (AI) and the global penetration of Al-based solutions for a tremendous number of use cases. 2022 brought a breakthrough in R&D and the use of Large Language Models (LLMs). The potential embodied in AI, its fusion with massive real-time data generating technologies (IoT) and ubiquitous ICT eco-system (5G/6G) brought the TS in tangible proximity, making a profound effect on our world’s security. Certain aspects of security issues and the effects of TS are examined in this paper by analysing the relevant literature, illustrating the limitations of the present security/cyber defence approach to TS.
Keywords:
References
ADAMS, Alphonso (2024): Cyberspace in War [pdf]. Maxwell Air Force Base (USA, Alabama): Air University Press. Online: https://www.airuniversity.af.edu/Portals/10/AUPress/Papers/DP_36_Adams_Cyberspace_in_War.pdf
ALANAZI, Mohammad (2024): 5G Security Threat Landscape, AI and Blockchain. Wireless Personal Communications. 2024.02.11., 1467–1482. Online: https://doi.org/10.1007/s11277-023-10821-6
BÁNKUTY-BALOGH Lilla (2022): A mesterséges intelligencia elterjedésének geoökonómiai hatásai és Magyarország. Külgazdaság, 66(7–8), 102–130. Online: https://doi.org/10.47630/KULG.2022.66.7-8.102
BERGER, Federico (2021): The Alliance in the Loop: NATO and Artificial Intelligence. NATO Foundation. Online: https://www.natofoundation.org/wp-content/uploads/2021/12/NDCF-Paper-Berger-NATO-and-Artificial-Intelligence-151121.pdf
BODE, Ingvild (2024): Emergent Normativity: Communities of Practice, Technology, and Lethal Autonomous Weapon Systems. Global Studies Quarterly, (4), 1–11. Online: https://doi.org/10.1093/isagsq/ksad073
BRENNAN, Donald G. (1971): Strategic Alternatives: I. The New York Times, 1971. május 24. 31. Online: https://www.nytimes.com/1971/05/24/archives/strategic-alternatives-i.html
BUZAN, Barry – WÆVER, Ole – WILDE, Jaap De (1998): Security: A New Framework for Analysis. Boulder, Colorado: Lynne Rienner. Online: https://doi.org/10.1515/9781685853808
BUZAN, Barry (2024): A New Cold War? The Case for a General Concept. International Politics, 61, 239–257. Online https://doi.org/10.1057/s41311-024-00559-8
CARUS, W. Seth (2012): Defining Weapons of Mass Destruction. Washington, D.C.: National Defense University Press. Online: https://doi.org/10.21236/ADA577317
CSÁNYI Vilmos (2004): Az emberi természet biológiai gyökerei In Mindentudás Egyeteme 3. Budapest: Kossuth, 295–316. Online: https://real-eod.mtak.hu/1076/1/16%20Cs%C3%A1nyi%20Vilmos.pdf
DEMARISCO, Dominic et al. (2021): Aggression in the Digital Era: Assessing the Validity of the Cyber Motivations for Aggression and Deviance Scale. Assessment, 29(4), 764–781. Online: https://doi.org/10.1177/1073191121990088
Európai Unió (2016): Közös kül- és biztonságpolitika – globális stratégia. Online: https://eur-lex.europa.eu/HU/legal-content/summary/common-foreign-and-security-policy-global-strategy.html
FRIEDMAN, Thomas L. (2005): It’s a Flat World, After All. The New York Times, 2005. április 3. Online: https://www.nytimes.com/2005/04/03/magazine/its-a-flat-world-after-all.html
FANG, Richard et al. (2024): LLM Agents can Autonomously Hack Websites. arXiv:2402.06664. Online: https://doi.org/10.48550/arXiv.2402.06664
FARKAS Tibor (2023): A kommunikációs és információs rendszerek értelmezése napjainkban: Követelmények és kihívások. In TÓTH András (szerk.): Új típusú kihívások az infokommunikációban. Budapest: Ludovika Egyetemi Kiadó, 11–30.
FEHÉR András Tibor (2023): A mesterségesintelligencia-alapú hidegháború etikai háttere. In KOVÁCS Zoltán (szerk.): A mesterséges intelligencia és egyéb felforgató technológiák hatásainak átfogó vizsgálata. Budapest: Katonai Nemzetbiztonsági Szolgálat, 355–392. Online: https://www.knbsz.gov.hu/hu/letoltes/kiadvanyok/01_MI.pdf
Germany: Industrie 4.0. (2017). Online: https://ati.ec.europa.eu/sites/default/files/2020-06/DTM_Industrie%204.0_DE.pdf
GOSDEN, Christine – GARDENER, Derek (2005): Weapons of mass destruction--threats and responses. British Medical Journal, 331(7513), 397–400. Online: https://doi.org/10.1136/bmj.331.7513.397
GOZALO-BRIZUELA, Roberto – GARRIDO-MERCHÁN, Eduardo C. (2023): A Survey of Generative AI Applications. arXiv, 2306.02781 (cs.LG). Online: https://doi.org/10.48550/arXiv.2306.02781
HAIG Zsolt et al. (2014): Elektronikai hadviselés. Budapest: Nemzeti Közszolgálati Egyetem Hadtudományi és Honvédtisztképző Kar.
HAIG Zsolt (2018): Információs műveletek a kibertérben. Budapest: Dialógus Campus.
HAIG Zsolt (2022): Kibertéri kognitív befolyásolás az információs műveletekben. Hadtudományi Szemle, 15(2), 115–130. Online: https://doi.org/10.32563/hsz.2022.2.7
ITM (2020): Magyarország Mesterséges Intelligencia Stratégiája 2020–2030. Online: https://digitalisjoletprogram.hu/files/2f/32/2f32f239878a4559b6541e46277d6e88.pdf
JEONG, Doowon (2020): Artificial Intelligence Security Threat, Crime, and Forensics: Taxonomy and Open Issues. IEEE Access, 8, 184560–184574. Online: https://doi.org/10.1109/ACCESS.2020.3029280
SIPOSNÉ KECSKEMÉTHY Klára (2021): A NATO 2030 jelentés – stratégiai prioritások új megközelítésben. Honvédségi Szemle, 149(4), 3–16. Online: https://doi.org/10.35926/HSZ.2021.4.1
KELEMEN Roland (2023): A kibertér jellemzőinek biztonság központú. vizsgálata. Jog–Állam–Politika, 15(1), 75–90. Online: https://doi.org/10.58528/JAP.2023.15-1.75
KISSINGER, Henry A. – ALLISON, Graham (2023): The Path to AI Arms Control. Foreign Affairs, 2023. október 13. Online: https://www.henryakissinger.com/articles/the-path-to-ai-arms-control/
KISSINGER, Henry A. – SCHMIDT, Eric – HUTTENLOCHER, Daniel (2023): ChatGPT Heralds an Intellectual Revolution. The Wall Street Journal, 2023. február 24. Online: https://www.henryakissinger.com/articles/chatgpt-heralds-an-intellectual-revolution/
KOVÁCS Zoltán – GURÁLY Roland (2023): A mesterséges intelligencia és egyéb felforgató technológiák. In KOVÁCS Zoltán (szerk.): A mesterséges intelligencia és egyéb felforgató technológiák hatásainak átfogó vizsgálata. Budapest: Katonai Nemzetbiztonsági Szolgálat, 355–392. Online: https://www.knbsz.gov.hu/hu/letoltes/kiadvanyok/01_MI.pdf
KOPECKÝ, Kamil – RENÉ, Szotkowski (2017): Specifics of Cyberbullying of Teachers in Czech Schools – A National Research. Informatics in Education, 16(1), 103–119. Online: https://doi.org/10.15388/infedu.2017.06
KRAJNC Zoltán főszerk. (2019): Hadtudományi lexikon. Budapest: Dialóg Campus.
KUEHL, Daniel T. (2009): From Cyberspace to Cyberpower: Defining the Problem. In KRAMER Franklin D. – STARR, Stuart H. – WENTZ, Larry K. (szerk): Cyberpower and National Security. Nebraska, USA: University of Nebraska Press, 24–42. Online: https://doi.org/10.2307/j.ctt1djmhj1.7
KURZWEIL, Ray (2014): The Singularity is Near. In SANDLER, R. L. (szerk.): Ethics and Emerging Technologies. London: Palgrave Macmillan, 393–406. Online: https://doi.org/10.1057/9781137349088_26
LAW, Marcus (2023): Top 10 Military Technology Companies Putting AI into Action. Technology Magazine, 2023. március 7. Online: https://technologymagazine.com/top10/top-10-military-technology-companies-putting-AI-into-action
LIU, Hongshan et al. (2024): Near-Space Communications: the Last Piece of 6G Space-Air-Ground-Sea Integrated Network Puzzle. arXiv:2401.00283 [cs.IT]. Online: https://doi.org/10.34133/space.0176
MADIEGA, Tambiama (2023): General-purpose Artificial Intelligence. Európai Parlament, 2023. március. Online: https://www.europarl.europa.eu/RegData/etudes/ATAG/2023/745708/EPRS_ATA(2023)745708_EN.pdf
MARTON Péter (2019): Biztonsági komplexumok. Budapest: Budapest Corvinus Egyetem.
MASLEJ, Nestor főszerk. et al. (2023): Artificial Intelligence Index Report 2023. Stanford (USA): AI Index Steering Committee, Institute for Human-Centered AI. Online: https://aiindex.stanford.edu/report/
MÉSZÁROS Rezső (2001): A kibertér társadalomföldrajzi megközelítése. Magyar Tudomány, 46(7), 769–779. Online: https://epa.oszk.hu/00700/00775/00032/769-779.html
MOZES, Maximilian et al. (2023): Use of LLMs for Illicit Purposes: Threats, Prevention Measures, and Vulnerabilities. arXiv:2308.12833v1 [cs.CL]. Online: https://doi.org/10.48550/arXiv.2308.12833
NATO (2016): Warsaw Summit Communiqué. 2016. július 9. Online: https://www.nato.int/cps/en/natohq/official_texts_133169.htm
NATO (2023): Emerging and Disruptive Technologies. Online: https://www.nato.int/cps/en/natohq/topics_184303.htm
NIS COOPERATION GROUP (2024): Cybersecurity and Resiliency of Europe’s Communications Infrastructures and Networks. 2024. 02. 21. Online: https://ec.europa.eu/newsroom/dae/redirection/document/102529
OBRUSÁNSZKY, Borbála (2008): Dzsingisz kán: a bölcsesség kulcsa. Hága: Mikes International.
OTTIS, Rain – LORENTS, Peeter (2010): Cyberspace: Definition and Implications. In Proceedings of the 5th International Conference on Information Warfare and Security, Dayton, OH, US, 8–9 April. Academic Publishing Limited, 267–270. Online: https://ccdcoe.org/library/publications/cyberspace-definition-and-implications/
PERRY, Lori (2023): What’s New in Artificial Intelligence from the 2023 Gartner Hype Cycle. Gartner, 2023. augusztus 17. Online: https://www.gartner.com/en/articles/what-s-new-in-artificial-intelligence-from-the-2023-gartner-hype-cycle
PIRISI Gábor – TRÓCSÁNYI András (2019): Fejezetek a társadalomföldrajz világából. Pécs: Publikon.
RAJASEKARAN, Arun Sekar et al. (2024): A Survey on Exploring the Challenges and Applications of Wireless Body Area Networks (WBANs). Cyber Security and Applications, 2024(2). Online: https://doi.org/10.1016/j.csa.2024.100047
REDING, D. F. – EATON, J. (2020): Science & Technology Trends 2020–2040. Brüsszel: NATO Science & Technology Organization. Online: https://www.nato.int/nato_static_fl2014/assets/pdf/2020/4/pdf/190422-ST_Tech_Trends_Report_2020-2040.pdf
REMEK Éva (2014): Mekkora a „biztonságunk árnyéka” globalizált világunkban? In BORDÁS Sándor – GLAVANOVICS Éva (szerk.): Nemzeti és etnikai konfliktusok a Kárpát-medencében. Székesfehérvár: Kodolányi János Főiskola, 67–78. Online: https://www.kodolanyi.hu/jol-let/images/tartalom/File/publikaciok/Nemzeti-es-etnikai-konfliktusok.pdf
RIVERA, Juan-Pablo et al. (2024): Escalation Risks from Language Models in Military and Diplomatic Decision-Making. arXiv:2401.03408. Online: https://doi.org/10.1145/3630106.3658942
SEEWALD, A. K. (2022): A Criticism of the Technological Singularity. In DINGLI, Alexiei et al. (szerk.): Disruptive Technologies in Media, Arts and Design. Springer, 91–119. Online: https://doi.org/10.1007/978-3-030-93780-5_8
SCHMIDT, Eric (2023): Innovation Power: Why Technology Will Define the Future of Geopolitics. Foreign Affairs, 102(2), 38–52. Online: https://heinonline.org/HOL/P?h=hein.journals/fora102&i=256
SCHMITT, N. Michael (2017): Tallin Manual on the International Law Applicable to Cyber Warfare. Cambridge: Cambridge University Press.
TÓTH András (2023a): Az Internet of Things rendszerek biztonsági kihívásai. In TÓTH András (szerk): Új típusú kihívások az infokommunikációban. Budapest: Ludovika, 99–136.
TÓTH András (2023b): Az 5G-technológia jellemzői és a kialakításában rejlő kihívások. In TÓTH András (szerk.): Új típusú kihívások az infokommunikációban. Budapest: Ludovika, 51–98.
ULAM, S. (1958): John von Neumann. Rhode Island (USA): American Mathematical Society.
UNIDIR (2023): The United Nations, Cyberspace and International Peace and Security Responding to Complexity. 2023. május. Online: https://unidir.org/wp-content/uploads/2023/05/the-united-nations-cyberspace-and-international-peace-and-security-en-691.pdf
VAILSHERY, Lionel Sujay (2023): Number of IoT Connected Devices Worldwide 2019–2023, with Forecasts to 2030. Statista, 2023. 07. 27. Online: https://www.statista.com/statistics/1183457/iot-connected-devices-worldwide/
VINGE, Vernon (1993): The Coming Technological Singularity: How to Survive in the Post-Human Era. NASA. Lewis Research Center, Vision 21: Interdisciplinary Science and Engineering in the Era of Cyberspace. Document ID: 19940022856. 1993. 12. 01. Online: https://ntrs.nasa.gov/citations/19940022856
Jogi források
- 1139/2013. (III. 21.) Korm. határozat Magyarország Nemzeti Kiberbiztonsági Stratégiája. Online: https://2010-2014.kormany.hu/download/b/b6/21000/Magyarorszag_Nemzeti_Kiberbiztonsagi_Strategiaja.pdf
- 1163/2020. (IV. 21.) Korm. határozat Magyarország Nemzeti Biztonsági Stratégiájáról. Online: https://net.jogtar.hu/jogszabaly?docid=A20H1163.KOR&txtreferer=00000001.txt
- 2021/0106(COD) 5662/24 2024. Online: https://eur-lex.europa.eu/legal-content/HU/TXT/PDF/?uri=CONSIL:PE_24_2024_REV_1