DV2607 - Säkerhet i AI-system - Blekinge Tekniska Högskola

1. Beslut

Denna kurs är inrättad av dekan 2022-03-01. Kursplanen är fastställd av prefekten vid institutionen för datavetenskap 2022-03-01 och gäller från 2022-03-01.

2. Förkunskapskrav

För tillträde till kursen krävs avklarad kurs Maskininlärning, 6 hp eller avklarad kurs Signalbehandling med introduktion till maskininlärning, 6 hp.

3. Syfte och innehåll

3.1 Syfte

Kursen syftar till att ge studenterna kunskap om riskerna relaterade till beslutsamma aktörer som aktivt påverkar AI-system negativt genom olika attacker, såsom data poisoning. Kursen ger översiktlig kunskap om olika typer av attacker mot lärande AI-system såväl som olika möjliga skyddsåtgärder.

3.2 Innehåll

Kursinnehållet inkluderar dels en kort genomgång av säkerhetskonceptet men fokuserar därefter på en genomgång av de existerande typerna av attacker mot AI-system. Dessutom förklarar kursen de existerande skyddsmekanismer mot sådana AI-attacker. Utöver genomgången av existerande attacker och skyddsmekanismer inkluderar kursen även möjliga framtida attack-scenarier baserat på aktuella forskningsartiklar inom fältet. Det senare involverar även den etiska dimensionen kring attacker mot AI-system.

4. Lärandemål

Följande lärandemål examineras i kursen:

4.1. Kunskap och förståelse

Efter genomförd kurs ska studenten kunna:

övergripande beskriva vad säkerhet är
redogöra för de olika typer av attacker mot AI-system som existerar, samt hur dessa fungerar
redogöra för de olika skyddsmekanismer mot AI-attacker som existerar, samt hur dessa fungerar
redogöra för olika etiska effekter som AI-attacker har på såväl individ- som på samhällsnivå

4.2. Färdighet och förmåga

Efter genomförd kurs ska studenten kunna:

analysera existerande AI-system för att identifiera dess sårbarhet mot AI-attacker
identifiera lämpliga skyddsmekanismer till sårbara AI-system
aktivt delta i diskussioner kring attacker mot AI-system samt dess etiska effekter
summera och muntligt presentera huvuddragen i aktuella forskningsartiklar inom fältet

4.3. Värderingsförmåga och förhållningssätt

Efter genomförd kurs ska studenten kunna:

självständigt och kritiskt kunna analysera effekter och risker från AI-attacker på såväl individuell som samhällsnivå

5. Läraktiviteter

Kursen inkluderar följande läraktiviteter: föreläsningar, inlämningsuppgifter, projektuppgift, diskussionsseminarium och muntliga presentationer. Kursen utnyttjar BTH:s lärplattform för att distribuera kursinnehåll, t.ex. uppgifter, samt för att samla in inlämningar. Utöver detta kan även andra mjukvaruhjälpmedel användas i kursen. Examinationen i kursen kan utföras både skriftligt och muntligt.

6. Bedömning och examination

Examinationsmoment för kursen

Kod	Benämning	Omf.	Betyg
2210	Seminarier	1,5 hp	GU
2220	Inlämningsuppgift	1,5 hp	AF
2230	Projektuppgift	3 hp	AF

Kursen bedöms med betygen A Utmärkt, B Mycket bra, C Bra, D Tillfredställande, E Tillräckligt, FX Underkänd, något mer arbete krävs, F Underkänd.

I kurstillfällets information inför kursstart framgår i vilka examinationsmoment som kursens lärandemål examineras samt gällande bedömningsgrunder.

Examinator kan, efter samråd med högskolans FUNKA-samordnare, fatta beslut om anpassad examinationsform för att en student med varaktig funktionsvariation ska ges en likvärdig examination jämfört med en student utan funktionsvariation.

7. Kursvärdering

Kursvärdering ska göras i enlighet med BTH:s beslut om frågeställning i kursvärderingar och beslut om process för hantering och uppföljning av kursvärderingar.

8. Begränsningar i examen

Kursen kan ingå i examen men inte tillsammans med annan kurs vars innehåll, helt eller delvis, överensstämmer med innehållet i denna kurs.

9. Kurslitteratur och övriga lärresurser

Läsmaterial sammanställs av kursansvarig.