Bezpieczeństwo uczenia maszynowego. Czy Twój (lub wytrenowany przez Ciebie) odkurzacz może Cię zabić? | Instytut PWN
WARSZTAT - PWNing Online Security & Code 2020

Bezpieczeństwo uczenia maszynowego. Czy Twój (lub wytrenowany przez Ciebie) odkurzacz może Cię zabić?

Nie jest dużym nadużyciem stwierdzenie, że rozwiązania oparte o uczenie maszynowe
(sztuczną inteligencję) od pewnego czasu zajmują ważne miejsce
w życiu przeciętnego Kowalskiego, mimo że on nawet o tym nie wie!

Fake newsy, internetowy trolling, oprogramowanie zabezpieczające
oraz inteligentne urządzenia takie jak drony, odkurzacze, a nawet seks zabawki.
To tylko wycinek tego, gdzie można umieścić sztuczną inteligencję.

Istnieje duża szansa, że będziesz tworzył, lub już tworzysz, rozwiązania
uczące się zachowań klientów lub przetwarzające dane.
Moda na uczenie maszynowe powoduje, że oprogramowanie implementujące je
traktujemy nieco inaczej niż klasyczny software, a to niestety dalej ten sam rodzaj
oprogramowania, który wciąż boryka się z od dawna znanymi podatnościami.
Dlatego poruszymy również problematykę
automatycznych testów bezpieczeństwa frameworków ML.

To szkolenie nauczy Cię…

  • podstaw obszaru bezpieczeństwa w rozwiązaniach uczenia maszynowego
  • jakie są najczęściej popełniane błędy w obszarze bezpiecznego przetwarzania danych i jak ich uniknąć
  • testować automatycznie wyuczone modele
  • technik automatycznego testowania zależności frameworków służących do uczenia maszynowego

Program

25 listopada
09:00
Wprowadzenie do obszaru bezpieczeństwa rozwiązań uczenia maszynowego
  • Domeny bezpieczeństwa AI w skali makro
  • Warstwy rozwiązań ML
    • Aplikacje “uczące się”
    • Frameworki ML
    • Zależności (biblioteki numeryczne, etc..)
    • Zależności zależności (np. biblioteki systemowe)
    • System operacyjny
    • Sprzęt
  • Rodzaje słabości “sztucznej inteligencji”
    • Warstwa sprzętowa i programowa
    • Adversarial examples
    • Backdoory
    • Kradzież modelu
    • Odpornośc modelu na zmiany
    • Ataki na sprzęt na przykładzie Deep Hammer
    • Prywatność danych
  • Problemy z nieinteligentnymi oprogramowaniem rzutujące na całość
Główne problemy rozwiązań tworzonych w oparciu o frameworki ML
  • Błędy numeryczne lub braku precyzji obliczeń,
  • Złe wykorzystanie API dostarczanego przez platformę programistyczną,
  • Niedostosowanie API do aktualnej wersji,
  • Niska jakość klasyfikacji przez wyuczony model,
  • Złe parametry modelu,
  • Brak zrozumienia działania platformy i jej funkcjonalności.
Rozwiązania do testowania modeli
  • CleverHans
  • GenAttack
  • Adversarial Robustness Toolbox (ART)
-17:00
Ataki na biblioteki z wykorzystaniem automatycznych metod testowania oprogramowania
  • Ataki na bibliotekę OpenCV

EKSPERT

Kamil Frankowicz foto

KAMIL FRANKOWICZ

fan fuzzingu oraz nowych metod powodowania awarii programów. Na co dzień broni bezpieczeństwa polskiego Internetu, pracując jako Senior Security Engineer w CERT Polska.

Do jego specjalności należy psucie – często nieintencjonalne. Odkrywca ponad 130 podatności bezpieczeństwa i 500+ błędów w oprogramowaniu.

W czasie wolnym lata dronem, fotografuje i nieregularnie opisuje swoje znaleziska na blogu związanym z bughuntingiem.

Uczestnicy

-Kto powinien wziąć udział w szkoleniu?

  • specjaliści bezpieczeństwa IT w firmach tworzących / wykorzystujących rozwiązania uczenia maszynowego
  • badacze bezpieczeństwa IT
  • specjaliści ds. uczenia maszynowego
  • pasjonaci bezpieczeństwa teleinformatycznego
  • wszyscy, którzy planują karierę w obszarze badania bezpieczeństwa aplikacji lub uczenia maszynowego.

 


 -Wymagania:

  • Podstawy programowania w C/C++ lub Python
  • Podstawy obsługi systemów operacyjnych z rodziny GNULinux i Windows
  • Własny komputer:
    • 64-bitowy system operacyjny Windows lub GNU/Linux (preferowane pochodne Debiana, np. Ubuntu)
    • zainstalowane oprogramowanie VirtualBox
    • minimum 8 GB RAM, sugerowane 16+ GB
    • minimum 2-rdzeniowy procesor
    • minimum 50GB wolnego miejsca na dysku

Miejsce i termin

25 LISTOPADA, ONLINE
virtual meeting
transmisjeonline.pl

Pozostałe warsztaty

270x270_WARSZTATY_Frankowicz_online