Doktorand i datavetenskap med fokus på sekretessbevarande neurala modeller

Ämnesbeskrivning

Trots GDPR-påståenden om pseudonymisering som en viktig integritetsskyddsmetod, finns det inte tillräckligt med bevis från forskning för att vi kan lita på pseudonymisering som en skottsäker metod för skydd av personlig identitet. Detta doktorandprojekt kommer att experimentellt undersöka effektiviteten av pseudonymiseringstekniker för att skydda skribentens identitet över olika naturliga språkbehandlingsapplikationer, vna uppsatser till interaktioner med robotar eller AI.

Forskningsutmaningarna fokuserar på den grundläggande frågan: Fungerar pseudonymisering som vi förväntar oss? Detta projekt kommer systematiskt att utvärdera olika pseudonymiseringsstrategier genom rigorösa omidentifieringsattacker för att fastställa deras verkliga effektivitet för att bevara integriteten.

Forskningen är uppbyggd kring två sammankopplade teman:

Pseudonymiserings effektivitetsanalys: Systematiskt utvärdera hur olika identifierare, deras antal och kombinationer påverkar integritetsskyddsnivåerna i textdata. Projektet kommer att bedöma vilka pseudonymiseringstekniker som ger tillräckligt skydd och under vilka omständigheter de kan misslyckas.

Avancerade metoder för återidentifieringsattack: Utveckla och använda traditionella attacker (omvändning av anonymisering, informationsaggregation), nyare tekniker (graf-/nodsattacker) och nya attackmetoder för att omfattande testa pseudonymiseringens robusthet i både statisk text (uppsatser, dokument) och interaktiva system (konversations-AI, robotik).

Du kommer att använda ett metodologiskt tillvägagångssätt som omfattar tre typer av omidentifieringsstudier, var och en fokuserar på olika kategorier för pseudonymisering, deras antal och deras kombination - i förhållande till de tillhandahållna skyddsnivåerna. Du kommer att genomföra motiverade inkräktartester för att bedöma sannolikheten för återidentifikationsrisker i olika sammanhang, med särskild uppmärksamhet på skrivna uppsatser och scenarier för interaktion mellan människa och robot där personlig information kan exponeras.

Detta tvärvetenskapliga tillvägagångssätt gör att du kan utvärdera pseudonymiseringseffektiviteten över olika modaliteter och interaktionstyper, vilket skapar ett omfattande ramverk för integritetsskydd i AI-system.

Beskrivning av arbetsplatsen

Anställningen är vid Lunds universitets institution för datavetenskap inom forskningsavdelningen Robotik och semantiska system (RSS). RSS fokuserar på forskning och undervisning inom AI, maskininlärning, robotik och robot lärande, människo-robotinteraktion och naturlig språkbehandling. Tillsammans med institutionen för reglerteknik driver divisionen RobotLab LTH som ger tillgång till många typer av robotar.

Du kommer att arbeta i ett team med andra doktorander och forskare vid RSS, inom VR Projekt och WARA ML, som bildar ett tvärvetenskapligt team som arbetar i skärningspunkten mellan maskininlärning, säkerhet och robotik. Tjänsten ger möjligheter till internationellt samarbete med ledande forskningsinstitut och teknikföretag i framkant av AI-utveckling.

Mer information om Institutionen för datavetenskap(cs.lth.se)
Mer information om RSS (rss.cs.lth.se)
Mer information om RobotLab LTH (robotics.lth.se)
Mer information om VR Projekt (mormor-karl.github.io)
Mer information om WARA ML (waraml.org)

Arbetsuppgifter

Huvuduppgiften för en doktorand är att ägna sig åt sin forskarutbildning vilket innefattar såväl deltagande i forskningsprojekt som forskarutbildningskurser. I arbetsuppgifterna ingår det även medverkan i undervisning och annat institutionsarbete, dock max 20 % av arbetstiden.

Arbetsuppgifterna innefattar även:

• Att genomföra forskning om integritetsbevarande tekniker för stora språkmodeller (LLM) i robotapplikationer
• Att utveckla och utvärdera metoder för att upptäcka och mildra återidentifieringsrisker
• Att delta i regelbundna forskningsseminarier, workshoppar och internationella konferenser
• Att samarbeta med industriella partners i verkliga tillämpningar och fallstudier

Behörighet

Grundläggande behörighet till utbildning på forskarnivå har den som har

• avlagt examen på avancerad nivå eller
• fullgjort kursfordringar om minst 240 högskolepoäng, varav minst 60 högskolepoäng på avancerad nivå eller
• på något annat sätt inom eller utom landet förvärvat i huvudsak motsvarande kunskaper.

Kraven på särskild behörighet för datavetenskap uppfyller den som har:

• minst 60 högskolepoäng på avancerad nivå med relevans för forskningsämnet, eller
• en civilingenjörsexamen i datavetenskap, datateknik, elektroteknik, informations- och kommunikationsteknik, teknisk fysik eller teknisk matematik.

Övriga krav:

• Mycket goda kunskaper i engelska, i tal och skrift.
• Erfarenhet av maskininlärning och djupinlärning, speciellt transformerarkitekturer
• Kunskaper om integritetsbevarande tekniker (differentiell integritet, federerad inlärning, etc.)
• Programmeringserfarenhet i Python och relevanta ML-ramverk (PyTorch, TensorFlow)
• Erfarenhet av robotplattformar och ramverk (ROS, etc.)
• Förståelse för integritets- och säkerhetsprinciper i AI-system

Bedömningsgrunder

Urval till utbildning på forskarnivå sker efter bedömd förmåga att tillgodogöra sig forskarutbildningen. Bedömningen av förmågan sker främst utifrån studieresultaten på grundnivå och avancerad nivå. Följande beaktas:

1. Kunskaper och färdigheter relevanta för avhandlingsarbetet och utbildningsämnet.
2. Bedömd förmåga till självständigt arbete och förmåga att formulera och angripa vetenskapliga problem.
3. Förmåga till skriftlig och muntlig kommunikation.
4. Övriga erfarenheter relevanta för utbildningen på forskarnivå, t ex yrkeserfarenhet.

Hänsyn kommer också att tas till god samarbetsförmåga, driv och självständighet samt hur den sökande genom sin erfarenhet och kompetens bedöms ha den förmåga som behövs för att klara forskarutbildningen.

Vi erbjuder

Lunds universitet är en statlig myndighet vilket innebär att du får särskilda förmåner, generös semester och en förmånlig tjänstepension. Läs mer på universitets webbplats om att Jobba hos oss.

Övrigt

Endast den som är antagen till forskarutbildning får anställas som doktorand. Forskarutbildningen är fyra år vid heltidsstudier. Vid undervisning och annat institutionsarbete förlängs anställningen i motsvarande grad, dock längst till 5 år (dvs. max 20 %). Bestämmelser gällande anställning som doktorand finns i Högskoleförordningen (1993:100), 5 kap 1-7 §§.

Så här söker du

Ansökan ska skrivas på engelska och innehålla:

• Personligt brev med motivering till varför du är intresserad av anställningen och på vilket sätt forskningsprojektet matchar dina intressen och din utbildningsbakgrund.
• CV
• Examensbevis eller motsvarande
• Ett kort forskningsuttalande som beskriver dina idéer om integritetsbevarande LLM för naturliga texter och robotik/AI-interaktioner (max 2 sidor),
• Kontaktuppgifter till minst två referenser
• Relevanta publikationer eller skrivprov (om tillgängligt).

Välkommen med din ansökan!