A mesterségesintelligencia-rendszerek megfelelősége
Copyright (c) 2025 Bederna Zsolt
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Absztrakt
A különféle mesterségesintelligencia- (MI) alapú megoldások terjedése következtében elengedhetetlenné vált az MI-rendszerek által jelentett kockázatok megértése és menedzselése. A tanulmány szisztematikusan vizsgálja az MI által képviselt kockázati profilokat, hangsúlyozva a személyre szabott kockázatkezelési stratégiák és etikai megközelítések jelentőségét.
Az elemzés feltárja a magas kockázatú MI-rendszerek kihívásainak jellegét, amelyek szigorú szabályozási megfelelést tesznek szükségessé a lehetséges káros következmények megakadályozása, illetve mérséklése érdekében, míg a jogalkotó ösztönzi a vonatkozó kötelezettségek teljesítését az alacsonyabb kockázatú MI-rendszerek esetén az átláthatóság és az elszámoltathatóság vonatkozásában.
Jelen tanulmány részletes áttekintést nyújt az MI kockázati tényezőiről, amelyek befolyásolják az adatok integritását, a modellek pontosságát, a folyamatok és eredmények megbízhatóságát, valamint a felhasználói interakciót.
Kulcsszavak:
Hogyan kell idézni
Hivatkozások
Council of the European Union (2024): Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts. Analysis of the Final Compromise Text with a View to Agreement. Online: https://data.consilium.europa.eu/doc/document/ST-5662-2024-INIT/en/pdf
Európai Bizottság (2023): Javaslat az Európai Parlament és a Tanács rendelete a kiberbiztonsági fenyegetések és események észlelése, valamint az azokra való felkészülés és reagálás céljából az Unión belüli szolidaritás és képességek megerősítését célzó intézkedések meghatározásáról.
Európai Parlament (2024): HELYESBÍTÉS az Európai Parlament által 2024. március 13-án a mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról. Online: https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138-FNL-COR01_HU.pdf
Európai Parlament és a Tanács 2016/679 rendelete a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról. Az Európai Parlament és a Tanács (EU) 2016/679 rendelete.
Európai Parlament és a Tanács 2019/881 rendelete az ENISA-ról (az Európai Uniós Kiberbiztonsági Ügynökségről) és az információs és kommunikációs technológiák kiberbiztonsági tanúsításáról. Az Európai Parlament és a Tanács (EU) 2019/881 rendelete.
Európai Parlament és a Tanács 2022/2481 határozata a Digitális évtized 2030 szakpolitikai program létrehozásáról.
Európai Parlament és a Tanács 2022/2555 irányelve az Unió egész területén egységesen magas szintű kiberbiztonságot biztosító intézkedésekről.
Európai Parlament és a Tanács (EU) 2019/790 irányelve (2019. április 17.) a digitális egységes piacon a szerzői és szomszédos jogokról, valamint a 96/9/EK és a 2001/29/EK irányelv módosításáról.
Európai Parlament és a Tanács (EU) 2022/2557 irányelve (2022. december 14.) a kritikus szervezetek rezilienciájáról.
European Commission (2024): AI Act. Online: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
ISO 9001:2015 Quality Management Systems — Requirements.
ISO/IEC 27001:2022 Information Security, Cybersecurity and Privacy Protection. Information Security Management Systems. Requirements.
ISO/IEC 27701:2019 Security Techniques Extension to ISO/IEC 27001 and ISO/IEC 27002 for Privacy Information Management Requirements and Guidelines.
ISO/IEC 42001:2023 Information Technology Artificial intelligence Management System.
ISO/IEC DIS 27701 Information Security, Cybersecurity and Privacy Protection Privacy Information Management Systems Requirements and Guidance.
JIANG, Yuchen et al. (2022): Quo Vadis Artificial Intelligence? Discover Artificial Intelligence, 2(4). Online: https://doi.org/10.1007/s44163-022-00022-8
JUNKLEWITZ, Henrik et al. (2023): Cybersecurity of Artificial Intelligence in the AI Act. Luxembourg: Office of the European Union. Online: https://doi.org/10.2760/271009
MITRE (2024): MITRE ATLAS. Online: https://atlas.mitre.org/
SOLER GARRIDO, Josep et al. (2023): Analysis of the Preliminary AI Standardisation Work Plan in Support of the AI Act. Luxembourg: Office of the European Union. Online: https://doi.org/10.2760/5847
TABASSI, Elham (2023): Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST Trustworthy and Responsible AI, National Institute of Standards and Technology. Gaithersburg. Online: https://doi.org/10.6028/NIST.AI.100-1
Tanács 2008/114/EK irányelve az európai kritikus infrastruktúrák azonosításáról és kijelöléséről, valamint védelmük javítása szükségességének értékeléséről. 2008/114/EK (2008).
ZHANG, Xiaoge et al. (2022): Towards Risk-Aware Artificial Intelligence and Machine Learning Systems: An Overview. Decision Support Systems, 159, 113800. Online: https://doi.org/10.1016/j.dss.2022.113800