Uczenie maszynowe a wiarygodność systemów | Mateusz Krzysztoń o wyzwaniach interpretowalności i wytłumaczalności oraz bezpieczeństwie
W tradycyjnych systemach opartych na wiedzy eksperckiej, źródłem informacji była rzetelna wiedza. Jednak w systemach uczących się, wiedza pochodzi z danych, które cechuje różnorodność jakości, ograniczony poziom bezpieczeństwa, a nawet ukryte uprzedzenia. To wyzwanie wymaga od nas szczególnej wrażliwości na wiarygodność systemów opartych o uczenie maszynowe. Jeśli do wyzwania związanego z wiarygodnością dodamy niskie zaufanie społeczne do sztucznej inteligencji oraz zawrotne tempo rozwoju technologii to ranga problemu jeszcze gwałtowniej rośnie. Jakie są źródła braku wiarygodności systemów opartych o ML i jak temu zaradzić przeczytacie w artykule dr Mateusza Krzysztonia w publikacji NASK „Cyberbezpieczeństwo AI. AI w cyberbezpieczeństwie.”
„Cyberbezpieczeństwo AI. AI w cyberbezpieczeństwie” – to najnowsza publikacja NASK poświęcona sztucznej inteligencji. Powstała w Dziale Strategii i Rozwoju Bezpieczeństwa Cyberprzestrzeni NASK przy współpracy autorów zewnętrznych. Podejmuje szeroko dyskutowany obecnie temat bezpieczeństwa sztucznej inteligencji, która stała się fundamentem rewolucji technologicznej w wielu dziedzinach – medycynie, bankowości, transporcie, obronności, w sferze porządku publicznego czy egzekwowania prawa. Opracowanie, niezwykle aktualne i wręcz niezbędne w dyskursie na temat AI, ujmuje wielostronnie problem cyberbezpieczeństwa AI oraz zastosowania tej technologii w zwalczaniu zagrożeń. Artykuły dotyczą zarówno aspektów technicznych, jak też analiz z obszaru cyberpolicy.
W „Cyberbezpieczeństwo AI. AI w cyberbezpieczeństwie” przeczytasz m.in. o:
- wrogim wykorzystaniu danych treningowych lub trenowanych modeli,
- atakach na algorytmy uczenia maszynowego,
- technicznej weryfikacji wiarygodności systemów,
- cyberbezpieczeństwie medycznej AI,
- wykorzystaniu przez cyberprzestępców sztucznej inteligencji (w tym technologii deepfake) w atakach na klientów rynku finansowego,
- zasadach odpowiedzialnego wykorzystania AI przez NATO,
- polityce UE wobec AI,
- AI Act,
- trudnościach regulatorów w nadążaniu za rozwojem AI i kłopotach w stworzeniu jednolitej definicji sztucznej inteligencji.
Publikacja jest dostępna na stronie https://cyberpolicy.nask.pl/cyberbezpieczenstwo-ai-ai-w-cyberbezpieczenstwie/