A technológiai szingularitás egyes biztonsági kihívásai
Copyright (c) 2024 Ollári Viktor
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Absztrakt
A 21. század második évtizedére a mindennapi életünket átszövő infokommunikáció kínálta lehetőségek mellett a vonatkozó kihívások száma is jelentősen megnövekedett, új – gazdasági és a biztonság más szféráit érintő – frontot nyitva az államok közötti versengésekben. A hardvertechnológia fejlődése a 2010-es években új lendületet adott a mesterséges intelligencia (MI) alap- és alkalmazott kutatásoknak, az MI-alkalmazások intenzív terjedésének. 2022 a nagy nyelvi modellek (Large Language Model, LLM) terén hozott figyelemre méltó áttörést. Az MI-potenciál, fuzionálva a nagy tömegű, valós idejű adatokat generáló technológiákkal (például IoT) és az információk továbbítását biztosító, tervezetten „mindenhol jelen lévő” infokommunikáció technológiai IKT-megoldásokkal (5G/6G), kézközelbe hozta a technológiai szingularitást (TS). Jelen tanulmányban a vonatkozó szakirodalom elemzése útján a TS biztonságunkra gyakorolt egyes hatásait vizsgáltam, rámutatva, hogy a TS viszonylatában elégtelen korunk biztonsági/kibervédelmi megközelítése.
Kulcsszavak:
Hivatkozások
ADAMS, Alphonso (2024): Cyberspace in War [pdf]. Maxwell Air Force Base (USA, Alabama): Air University Press. Online: https://www.airuniversity.af.edu/Portals/10/AUPress/Papers/DP_36_Adams_Cyberspace_in_War.pdf
ALANAZI, Mohammad (2024): 5G Security Threat Landscape, AI and Blockchain. Wireless Personal Communications. 2024.02.11., 1467–1482. Online: https://doi.org/10.1007/s11277-023-10821-6
BÁNKUTY-BALOGH Lilla (2022): A mesterséges intelligencia elterjedésének geoökonómiai hatásai és Magyarország. Külgazdaság, 66(7–8), 102–130. Online: https://doi.org/10.47630/KULG.2022.66.7-8.102
BERGER, Federico (2021): The Alliance in the Loop: NATO and Artificial Intelligence. NATO Foundation. Online: https://www.natofoundation.org/wp-content/uploads/2021/12/NDCF-Paper-Berger-NATO-and-Artificial-Intelligence-151121.pdf
BODE, Ingvild (2024): Emergent Normativity: Communities of Practice, Technology, and Lethal Autonomous Weapon Systems. Global Studies Quarterly, (4), 1–11. Online: https://doi.org/10.1093/isagsq/ksad073
BRENNAN, Donald G. (1971): Strategic Alternatives: I. The New York Times, 1971. május 24. 31. Online: https://www.nytimes.com/1971/05/24/archives/strategic-alternatives-i.html
BUZAN, Barry – WÆVER, Ole – WILDE, Jaap De (1998): Security: A New Framework for Analysis. Boulder, Colorado: Lynne Rienner. Online: https://doi.org/10.1515/9781685853808
BUZAN, Barry (2024): A New Cold War? The Case for a General Concept. International Politics, 61, 239–257. Online https://doi.org/10.1057/s41311-024-00559-8
CARUS, W. Seth (2012): Defining Weapons of Mass Destruction. Washington, D.C.: National Defense University Press. Online: https://doi.org/10.21236/ADA577317
CSÁNYI Vilmos (2004): Az emberi természet biológiai gyökerei In Mindentudás Egyeteme 3. Budapest: Kossuth, 295–316. Online: https://real-eod.mtak.hu/1076/1/16%20Cs%C3%A1nyi%20Vilmos.pdf
DEMARISCO, Dominic et al. (2021): Aggression in the Digital Era: Assessing the Validity of the Cyber Motivations for Aggression and Deviance Scale. Assessment, 29(4), 764–781. Online: https://doi.org/10.1177/1073191121990088
Európai Unió (2016): Közös kül- és biztonságpolitika – globális stratégia. Online: https://eur-lex.europa.eu/HU/legal-content/summary/common-foreign-and-security-policy-global-strategy.html
FRIEDMAN, Thomas L. (2005): It’s a Flat World, After All. The New York Times, 2005. április 3. Online: https://www.nytimes.com/2005/04/03/magazine/its-a-flat-world-after-all.html
FANG, Richard et al. (2024): LLM Agents can Autonomously Hack Websites. arXiv:2402.06664. Online: https://doi.org/10.48550/arXiv.2402.06664
FARKAS Tibor (2023): A kommunikációs és információs rendszerek értelmezése napjainkban: Követelmények és kihívások. In TÓTH András (szerk.): Új típusú kihívások az infokommunikációban. Budapest: Ludovika Egyetemi Kiadó, 11–30.
FEHÉR András Tibor (2023): A mesterségesintelligencia-alapú hidegháború etikai háttere. In KOVÁCS Zoltán (szerk.): A mesterséges intelligencia és egyéb felforgató technológiák hatásainak átfogó vizsgálata. Budapest: Katonai Nemzetbiztonsági Szolgálat, 355–392. Online: https://www.knbsz.gov.hu/hu/letoltes/kiadvanyok/01_MI.pdf
Germany: Industrie 4.0. (2017). Online: https://ati.ec.europa.eu/sites/default/files/2020-06/DTM_Industrie%204.0_DE.pdf
GOSDEN, Christine – GARDENER, Derek (2005): Weapons of mass destruction--threats and responses. British Medical Journal, 331(7513), 397–400. Online: https://doi.org/10.1136/bmj.331.7513.397
GOZALO-BRIZUELA, Roberto – GARRIDO-MERCHÁN, Eduardo C. (2023): A Survey of Generative AI Applications. arXiv, 2306.02781 (cs.LG). Online: https://doi.org/10.48550/arXiv.2306.02781
HAIG Zsolt et al. (2014): Elektronikai hadviselés. Budapest: Nemzeti Közszolgálati Egyetem Hadtudományi és Honvédtisztképző Kar.
HAIG Zsolt (2018): Információs műveletek a kibertérben. Budapest: Dialógus Campus.
HAIG Zsolt (2022): Kibertéri kognitív befolyásolás az információs műveletekben. Hadtudományi Szemle, 15(2), 115–130. Online: https://doi.org/10.32563/hsz.2022.2.7
ITM (2020): Magyarország Mesterséges Intelligencia Stratégiája 2020–2030. Online: https://digitalisjoletprogram.hu/files/2f/32/2f32f239878a4559b6541e46277d6e88.pdf
JEONG, Doowon (2020): Artificial Intelligence Security Threat, Crime, and Forensics: Taxonomy and Open Issues. IEEE Access, 8, 184560–184574. Online: https://doi.org/10.1109/ACCESS.2020.3029280
SIPOSNÉ KECSKEMÉTHY Klára (2021): A NATO 2030 jelentés – stratégiai prioritások új megközelítésben. Honvédségi Szemle, 149(4), 3–16. Online: https://doi.org/10.35926/HSZ.2021.4.1
KELEMEN Roland (2023): A kibertér jellemzőinek biztonság központú. vizsgálata. Jog–Állam–Politika, 15(1), 75–90. Online: https://doi.org/10.58528/JAP.2023.15-1.75
KISSINGER, Henry A. – ALLISON, Graham (2023): The Path to AI Arms Control. Foreign Affairs, 2023. október 13. Online: https://www.henryakissinger.com/articles/the-path-to-ai-arms-control/
KISSINGER, Henry A. – SCHMIDT, Eric – HUTTENLOCHER, Daniel (2023): ChatGPT Heralds an Intellectual Revolution. The Wall Street Journal, 2023. február 24. Online: https://www.henryakissinger.com/articles/chatgpt-heralds-an-intellectual-revolution/
KOVÁCS Zoltán – GURÁLY Roland (2023): A mesterséges intelligencia és egyéb felforgató technológiák. In KOVÁCS Zoltán (szerk.): A mesterséges intelligencia és egyéb felforgató technológiák hatásainak átfogó vizsgálata. Budapest: Katonai Nemzetbiztonsági Szolgálat, 355–392. Online: https://www.knbsz.gov.hu/hu/letoltes/kiadvanyok/01_MI.pdf
KOPECKÝ, Kamil – RENÉ, Szotkowski (2017): Specifics of Cyberbullying of Teachers in Czech Schools – A National Research. Informatics in Education, 16(1), 103–119. Online: https://doi.org/10.15388/infedu.2017.06
KRAJNC Zoltán főszerk. (2019): Hadtudományi lexikon. Budapest: Dialóg Campus.
KUEHL, Daniel T. (2009): From Cyberspace to Cyberpower: Defining the Problem. In KRAMER Franklin D. – STARR, Stuart H. – WENTZ, Larry K. (szerk): Cyberpower and National Security. Nebraska, USA: University of Nebraska Press, 24–42. Online: https://doi.org/10.2307/j.ctt1djmhj1.7
KURZWEIL, Ray (2014): The Singularity is Near. In SANDLER, R. L. (szerk.): Ethics and Emerging Technologies. London: Palgrave Macmillan, 393–406. Online: https://doi.org/10.1057/9781137349088_26
LAW, Marcus (2023): Top 10 Military Technology Companies Putting AI into Action. Technology Magazine, 2023. március 7. Online: https://technologymagazine.com/top10/top-10-military-technology-companies-putting-AI-into-action
LIU, Hongshan et al. (2024): Near-Space Communications: the Last Piece of 6G Space-Air-Ground-Sea Integrated Network Puzzle. arXiv:2401.00283 [cs.IT]. Online: https://doi.org/10.34133/space.0176
MADIEGA, Tambiama (2023): General-purpose Artificial Intelligence. Európai Parlament, 2023. március. Online: https://www.europarl.europa.eu/RegData/etudes/ATAG/2023/745708/EPRS_ATA(2023)745708_EN.pdf
MARTON Péter (2019): Biztonsági komplexumok. Budapest: Budapest Corvinus Egyetem.
MASLEJ, Nestor főszerk. et al. (2023): Artificial Intelligence Index Report 2023. Stanford (USA): AI Index Steering Committee, Institute for Human-Centered AI. Online: https://aiindex.stanford.edu/report/
MÉSZÁROS Rezső (2001): A kibertér társadalomföldrajzi megközelítése. Magyar Tudomány, 46(7), 769–779. Online: https://epa.oszk.hu/00700/00775/00032/769-779.html
MOZES, Maximilian et al. (2023): Use of LLMs for Illicit Purposes: Threats, Prevention Measures, and Vulnerabilities. arXiv:2308.12833v1 [cs.CL]. Online: https://doi.org/10.48550/arXiv.2308.12833
NATO (2016): Warsaw Summit Communiqué. 2016. július 9. Online: https://www.nato.int/cps/en/natohq/official_texts_133169.htm
NATO (2023): Emerging and Disruptive Technologies. Online: https://www.nato.int/cps/en/natohq/topics_184303.htm
NIS COOPERATION GROUP (2024): Cybersecurity and Resiliency of Europe’s Communications Infrastructures and Networks. 2024. 02. 21. Online: https://ec.europa.eu/newsroom/dae/redirection/document/102529
OBRUSÁNSZKY, Borbála (2008): Dzsingisz kán: a bölcsesség kulcsa. Hága: Mikes International.
OTTIS, Rain – LORENTS, Peeter (2010): Cyberspace: Definition and Implications. In Proceedings of the 5th International Conference on Information Warfare and Security, Dayton, OH, US, 8–9 April. Academic Publishing Limited, 267–270. Online: https://ccdcoe.org/library/publications/cyberspace-definition-and-implications/
PERRY, Lori (2023): What’s New in Artificial Intelligence from the 2023 Gartner Hype Cycle. Gartner, 2023. augusztus 17. Online: https://www.gartner.com/en/articles/what-s-new-in-artificial-intelligence-from-the-2023-gartner-hype-cycle
PIRISI Gábor – TRÓCSÁNYI András (2019): Fejezetek a társadalomföldrajz világából. Pécs: Publikon.
RAJASEKARAN, Arun Sekar et al. (2024): A Survey on Exploring the Challenges and Applications of Wireless Body Area Networks (WBANs). Cyber Security and Applications, 2024(2). Online: https://doi.org/10.1016/j.csa.2024.100047
REDING, D. F. – EATON, J. (2020): Science & Technology Trends 2020–2040. Brüsszel: NATO Science & Technology Organization. Online: https://www.nato.int/nato_static_fl2014/assets/pdf/2020/4/pdf/190422-ST_Tech_Trends_Report_2020-2040.pdf
REMEK Éva (2014): Mekkora a „biztonságunk árnyéka” globalizált világunkban? In BORDÁS Sándor – GLAVANOVICS Éva (szerk.): Nemzeti és etnikai konfliktusok a Kárpát-medencében. Székesfehérvár: Kodolányi János Főiskola, 67–78. Online: https://www.kodolanyi.hu/jol-let/images/tartalom/File/publikaciok/Nemzeti-es-etnikai-konfliktusok.pdf
RIVERA, Juan-Pablo et al. (2024): Escalation Risks from Language Models in Military and Diplomatic Decision-Making. arXiv:2401.03408. Online: https://doi.org/10.1145/3630106.3658942
SEEWALD, A. K. (2022): A Criticism of the Technological Singularity. In DINGLI, Alexiei et al. (szerk.): Disruptive Technologies in Media, Arts and Design. Springer, 91–119. Online: https://doi.org/10.1007/978-3-030-93780-5_8
SCHMIDT, Eric (2023): Innovation Power: Why Technology Will Define the Future of Geopolitics. Foreign Affairs, 102(2), 38–52. Online: https://heinonline.org/HOL/P?h=hein.journals/fora102&i=256
SCHMITT, N. Michael (2017): Tallin Manual on the International Law Applicable to Cyber Warfare. Cambridge: Cambridge University Press.
TÓTH András (2023a): Az Internet of Things rendszerek biztonsági kihívásai. In TÓTH András (szerk): Új típusú kihívások az infokommunikációban. Budapest: Ludovika, 99–136.
TÓTH András (2023b): Az 5G-technológia jellemzői és a kialakításában rejlő kihívások. In TÓTH András (szerk.): Új típusú kihívások az infokommunikációban. Budapest: Ludovika, 51–98.
ULAM, S. (1958): John von Neumann. Rhode Island (USA): American Mathematical Society.
UNIDIR (2023): The United Nations, Cyberspace and International Peace and Security Responding to Complexity. 2023. május. Online: https://unidir.org/wp-content/uploads/2023/05/the-united-nations-cyberspace-and-international-peace-and-security-en-691.pdf
VAILSHERY, Lionel Sujay (2023): Number of IoT Connected Devices Worldwide 2019–2023, with Forecasts to 2030. Statista, 2023. 07. 27. Online: https://www.statista.com/statistics/1183457/iot-connected-devices-worldwide/
VINGE, Vernon (1993): The Coming Technological Singularity: How to Survive in the Post-Human Era. NASA. Lewis Research Center, Vision 21: Interdisciplinary Science and Engineering in the Era of Cyberspace. Document ID: 19940022856. 1993. 12. 01. Online: https://ntrs.nasa.gov/citations/19940022856
Jogi források
- 1139/2013. (III. 21.) Korm. határozat Magyarország Nemzeti Kiberbiztonsági Stratégiája. Online: https://2010-2014.kormany.hu/download/b/b6/21000/Magyarorszag_Nemzeti_Kiberbiztonsagi_Strategiaja.pdf
- 1163/2020. (IV. 21.) Korm. határozat Magyarország Nemzeti Biztonsági Stratégiájáról. Online: https://net.jogtar.hu/jogszabaly?docid=A20H1163.KOR&txtreferer=00000001.txt
- 2021/0106(COD) 5662/24 2024. Online: https://eur-lex.europa.eu/legal-content/HU/TXT/PDF/?uri=CONSIL:PE_24_2024_REV_1