Bezpieczeństwo uczenia maszynowego. Czy Twój (lub wytrenowany przez Ciebie) odkurzacz może Cię zabić? | Instytut PWN
WARSZTAT - PWNing Online Security & Code 2020

Bezpieczeństwo uczenia maszynowego. Czy Twój (lub wytrenowany przez Ciebie) odkurzacz może Cię zabić?

Do konferencji zostało jeszcze:
20
dni
20
godziny
22
minuty
21
sekundy

Nie jest dużym nadużyciem stwierdzenie, że rozwiązania oparte o uczenie maszynowe
(sztuczną inteligencję) od pewnego czasu zajmują ważne miejsce
w życiu przeciętnego Kowalskiego, mimo że on nawet o tym nie wie!

Fake newsy, internetowy trolling, oprogramowanie zabezpieczające
oraz inteligentne urządzenia takie jak drony, odkurzacze, a nawet seks zabawki.
To tylko wycinek tego, gdzie można umieścić sztuczną inteligencję.

Istnieje duża szansa, że będziesz tworzył, lub już tworzysz, rozwiązania
uczące się zachowań klientów lub przetwarzające dane.
Moda na uczenie maszynowe powoduje, że oprogramowanie implementujące je
traktujemy nieco inaczej niż klasyczny software, a to niestety dalej ten sam rodzaj
oprogramowania, który wciąż boryka się z od dawna znanymi podatnościami.
Dlatego poruszymy również problematykę
automatycznych testów bezpieczeństwa frameworków ML.

To szkolenie nauczy Cię…

  • podstaw obszaru bezpieczeństwa w rozwiązaniach uczenia maszynowego
  • jakie są najczęściej popełniane błędy w obszarze bezpiecznego przetwarzania danych i jak ich uniknąć
  • testować automatycznie wyuczone modele
  • technik automatycznego testowania zależności frameworków służących do uczenia maszynowego

Program

25 listopada
09:00
Wprowadzenie do obszaru bezpieczeństwa rozwiązań uczenia maszynowego
  • Domeny bezpieczeństwa AI w skali makro
  • Warstwy rozwiązań ML
    • Aplikacje “uczące się”
    • Frameworki ML
    • Zależności (biblioteki numeryczne, etc..)
    • Zależności zależności (np. biblioteki systemowe)
    • System operacyjny
    • Sprzęt
  • Rodzaje słabości “sztucznej inteligencji”
    • Warstwa sprzętowa i programowa
    • Adversarial examples
    • Backdoory
    • Kradzież modelu
    • Odpornośc modelu na zmiany
    • Ataki na sprzęt na przykładzie Deep Hammer
    • Prywatność danych
  • Problemy z nieinteligentnymi oprogramowaniem rzutujące na całość
Główne problemy rozwiązań tworzonych w oparciu o frameworki ML
  • Błędy numeryczne lub braku precyzji obliczeń,
  • Złe wykorzystanie API dostarczanego przez platformę programistyczną,
  • Niedostosowanie API do aktualnej wersji,
  • Niska jakość klasyfikacji przez wyuczony model,
  • Złe parametry modelu,
  • Brak zrozumienia działania platformy i jej funkcjonalności.
Rozwiązania do testowania modeli
  • CleverHans
  • GenAttack
  • Adversarial Robustness Toolbox (ART)
-17:00
Ataki na biblioteki z wykorzystaniem automatycznych metod testowania oprogramowania
  • Ataki na bibliotekę OpenCV

EKSPERT

Kamil Frankowicz foto

KAMIL FRANKOWICZ

fan fuzzingu oraz nowych metod powodowania awarii programów. Na co dzień broni bezpieczeństwa polskiego Internetu, pracując jako Senior Security Engineer w CERT Polska.

Do jego specjalności należy psucie – często nieintencjonalne. Odkrywca ponad 130 podatności bezpieczeństwa i 500+ błędów w oprogramowaniu.

W czasie wolnym lata dronem, fotografuje i nieregularnie opisuje swoje znaleziska na blogu związanym z bughuntingiem.

Uczestnicy

-Kto powinien wziąć udział w szkoleniu?

  • specjaliści bezpieczeństwa IT w firmach tworzących / wykorzystujących rozwiązania uczenia maszynowego
  • badacze bezpieczeństwa IT
  • specjaliści ds. uczenia maszynowego
  • pasjonaci bezpieczeństwa teleinformatycznego
  • wszyscy, którzy planują karierę w obszarze badania bezpieczeństwa aplikacji lub uczenia maszynowego.

 


 -Wymagania:

  • Podstawy programowania w C/C++ lub Python
  • Podstawy obsługi systemów operacyjnych z rodziny GNULinux i Windows
  • Własny komputer:
    • 64-bitowy system operacyjny Windows lub GNU/Linux (preferowane pochodne Debiana, np. Ubuntu)
    • zainstalowane oprogramowanie VirtualBox
    • minimum 8 GB RAM, sugerowane 16+ GB
    • minimum 2-rdzeniowy procesor
    • minimum 50GB wolnego miejsca na dysku

Miejsce i termin

25 LISTOPADA, ONLINE
virtual meeting
transmisjeonline.pl

Podobne wydarzenia:

Konferencja
PWNing Online Security & Code 2020
Warsztaty
Od zera do pierwszego 0-daya! Warsztaty automatycznego wyszukiwania podatności i ich analizy

Formularz rejestracyjny

Warunki uczestnictwa

Warunkiem udziału w warsztacie jest wypełnienie poniższego formularza zgłoszeniowego oraz akceptacja regulaminu.

Podstawą do uiszczenia należności jest faktura pro forma, która zostanie przesłana w postaci PDF na adres mailowy podany w zgłoszeniu.

Nieuregulowanie faktury pro forma nie jest równoznaczne z rezygnacją z udziału w warsztacie.

Zasady składania rezygnacji zostały określone w regulaminie.

W przypadku złożenia rezygnacji w terminie późniejszym niż 14 dni kalendarzowych przed terminem wydarzenia, organizator zastrzega sobie prawo, zgodnie z regulaminem, do obciążenia zamawiającego pełnymi kosztami udziału w konferencji.

——————————————————————–

Warsztaty odbędą się w formule online za pośrednictwem platformy Transmisje Online

Termin

25 LISTOPADA 2020, ONLINE

Cennik/kod

przedsprzedaż do 24 listopada 2020
999 PLN
netto + Vat 23%
(do zapłaty: 1228.77 PLN)

Dane do wystawienia faktury VAT

Firma/Instytucja
Osoba fizyczna

Warunki zwolnienia z VAT

Tak - oświadczam, że udział w szkoleniu finansowany jest ze środków publicznych
Nie - udział w szkoleniu nie jest finansowy ze środków publicznych

Typ płatności

Przelew po otrzymaniu faktury PRO FORMA
Pay-U