Reklama

Nauka

Wojny na algorytmy – nowe wyzwanie dla cyberbezpieczeństwa

Piosenka puszczona w radio może spowodować serię katastrof w ruchu drogowym lub wyciek poufnych danych bankowych. O tym, jak można oszukać asystentów głosowych i wprowadzić w błąd autonomiczne pojazdy, telefony i urządzenia, które same się uczą – pisze w nagrodzonej pracy doktorant Wojskowej Akademii Technicznej.

Bądź na bieżąco!

Zapisz się do newslettera

Od sztucznej inteligencji może zależeć nasze życie, jeśli jest zastosowana w medycynie, albo w autonomicznych pojazdach. A jednak łatwo da się oszukać maszyny – dowodzi Łukasz Tymoszuk. Drogą do “złośliwej” ingerencji jest budowanie systemów-hakerów, które same szukają sobie niewidocznych uchylonych drzwi.

Jego praca magisterska pt. „Antagonistyczne uczenie maszynowe jako zapowiedź wojen na algorytmy” otrzymała nagrodę główną (ex aequo) i nagrodę specjalną tegorocznego „Forum Młodych Informatyków”. Równorzędna nagrodę główną odebrał Paweł Tarsała za pracę pt. „Algorytmy głębokiego uczenia maszynowego w obszarze widzenia komputerowego”. Obydwaj laureaci pracowali pod opieką naukową dr. inż. Rafała Kasprzyka z Wydziału Cybernetyki WAT.

Pomóż w rozwoju naszego portalu

Wspieram

Łukasz Tymoszuk podaje przykład ataku dokonanego poprzez... piosenkę. Atak polega na puszczeniu w radio zainfekowanej piosenki, transmitowanej w milionach odbiorników równocześnie.

„Człowiek nie usłyszy nic nadzwyczajnego, po prostu piosenkę. Natomiast systemy sztucznej inteligencji odbiorą komendę, która może spowodować serię katastrof w pojazdach autonomicznych, albo wyciek danych na ogromną skalę. Te systemy to asystenci głosowi, których wykorzystujemy do przekazywania poleceń w domach, samochodach czy telefonach komórkowych z dostępem do e-maili i poufnych danych” – tłumaczy doktorant.

Jak wyjaśnia dr Kasprzyk, algorytm bardzo zaawansowanej sztucznej inteligencji jest łatwo oszukać poprzez inny algorytm – to właśnie wojna na algorytmy. Choć nawet najbardziej inteligentny człowiek nie rozumie do końca reguł działania złożonego systemu, to przecież potrafi go „wytrenować”. A skoro tak – to przestępca lub naukowiec zaangażowany w działania wojenne potrafi zbudować przeciwstawny algorytm, który nauczy się wszystkiego o tym pierwszym. Złośliwy algorytm będzie umiał wyszukać lukę i spreparować taki „szum”, żeby nasz pierwszy, poprawny algorytm się pomylił.

Reklama

Wojny na algorytmy dzieją się od dziesiątek lat w obszarze kryptologii – tu chodzi o zapewnienie poufności danych. Obszarów takiej walki jest coraz więcej w codziennym życiu, a tym bardziej w wojsku. Cyberbezpieczeństwo dotąd obejmowało sprzęt, czyli hardware, i nadający ducha temu „ciału” software, czyli oprogramowanie. Obecnie obszar cyberbezpieczeństwa, powiększył się o usuwanie luk w modelach budowanych przez same maszyny w oparciu o Big Data. Przez te luki, zwane podatnościami, mogą wślizgnąć się „maszynowi hakerzy”.

Złośliwe systemy preparowania danych wejściowych mogą być wykorzystane w wojnach przyszłości, nawet między państwami – tak w ataku, jak w obronie. Zatem nie tylko przestępcy, ale i specjaliści od spraw wojskowych pracują nad zaawansowanymi systemami przeciwstawnego uczenia się maszyn. Aby opracować zabezpieczenia, naukowcy muszą odnaleźć luki w aktualnych modelach uczenia maszynowego – i zrozumieć, jak je chronić.

2020-12-17 20:25

Ocena: +2 0

Reklama

Wybrane dla Ciebie

Sztuczna inteligencja tematem Światowego Dnia Środków Społecznego Przekazu

[ TEMATY ]

sztuczna inteligencja

Adobe Stock

„Sztuczna inteligencja i mądrość serca: dla w pełni ludzkiej komunikacji” – to temat 58. Światowego Dnia Środków Społecznego Przekazu w 2024 r., który wybrał Papież Franciszek. „Ważne jest, aby kierować sztuczną inteligencją i algorytmami, aby w każdym człowieku istniała odpowiedzialna świadomość wykorzystania i rozwoju tych różnych form” – podkreśla Biuro Prasowe Stolicy Apostolskiej.

W komunikacie zaznaczono, że ewolucja systemów sztucznej inteligencji sprawia, iż komunikowanie się za pośrednictwem maszyn i z maszynami staje się coraz bardziej naturalne. Dodano, że coraz trudniej jest odróżnić treści wytworzone przez technologię od tych, które tworzy człowiek. Wskazano też, że podobnie, jak wszystkie rewolucje, również ta oparta na sztucznej inteligencji stwarza nowe wyzwania, aby maszyny nie przyczyniały się do zakrojonego na szeroką skalę systemu dezinformacji.

CZYTAJ DALEJ

Czy kobiety w ciąży muszą w Środę Popielcową i Wielki Piątek zachowywać post ścisły?

[ TEMATY ]

post

bp Adam Bałabuch

tasha/pixabay.com

Czy kobiety w ciąży muszą w Środę Popielcową i Wielki Piątek zachowywać post ścisły? Czy stan błogosławiony, w którym kobieta powinna szczególnie dbać o siebie i swoje dziecko, zwalnia ją z tego obowiązku? - Matka sama musi podjąć decyzję o przestrzeganiu postu ścisłego - tłumaczy KAI bp Adam Bałabuch, przewodniczący Komisji ds. Kultu Bożego i Dyscypliny Sakramentów KEP.

Zarówno Kodeks Prawa Kanonicznego jak i inne przepisy Episkopatu Polski nie wyjaśniają jednoznacznie kwestii dyspensy od postu ścisłego dla kobiet w ciąży i karmiących piersią. Zdania duchownych na ten temat bywają podzielone. Niektórzy tłumaczą, że "ciąża to nie choroba", tylko stan błogosławiony, dlatego należy pościć, chyba, że lekarz zaleci inaczej. Inni podkreślają, że z postu zwolnione są osoby poniżej 14 roku życia, a więc i nienarodzone dzieci, którym pożywienia dostarczają matki.

CZYTAJ DALEJ

Fenomen kalwarii – przegląd polskich Golgot

2024-03-29 13:00

[ TEMATY ]

kalwaria

Wojciech Dudkiewicz

Kalwaria Pacławska. Tu ładuje się akumulatory

Kalwaria Pacławska. Tu ładuje się akumulatory

- Jeśli widzimy jakiś spadek wiernych w kościołach, to przy kalwariach go nie ma - o fenomenie polskich kalwarii, mówi KAI gwardian, o. Jonasz Pyka. Dzięki takim miejscom, ludzie, którzy nie mogą nawiedzić Ziemi Świętej, korzystają z łaski duchowego uczestnictwa w Męce Jezusa Chrystusa i przeżywania w ten sposób tajemnicy odkupienia rodzaju ludzkiego. - To złota nić, która łączy wszystkie kalwarie w Polsce - podkreśla profesor Wydziału Teologicznego UMK w Toruniu, o. Mieczysław Celestyn Paczkowski. Wielki Piątek, to drugi dzień Triduum Paschalnego, podczas którego w Kościele katolickim odprawiana jest liturgia Męki Pańskiej, upamiętniająca cierpienia i śmierć Chrystusa na krzyżu. Jest to jedyny dzień w roku, w którym nie jest sprawowana Eucharystia.

Kalwaria - Golgota

CZYTAJ DALEJ

Reklama

Najczęściej czytane

W związku z tym, iż od dnia 25 maja 2018 roku obowiązuje Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia Dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) uprzejmie Państwa informujemy, iż nasza organizacja, mając szczególnie na względzie bezpieczeństwo danych osobowych, które przetwarza, wdrożyła System Zarządzania Bezpieczeństwem Informacji w rozumieniu odpowiednich polityk ochrony danych (zgodnie z art. 24 ust. 2 przedmiotowego rozporządzenia ogólnego). W celu dochowania należytej staranności w kontekście ochrony danych osobowych, Zarząd Instytutu NIEDZIELA wyznaczył w organizacji Inspektora Ochrony Danych.
Więcej o polityce prywatności czytaj TUTAJ.

Akceptuję