Doktorand i AI-säkerhet

Vi har kraften från över 50 000 studenter och medarbetare. Studenter som ger framtidshopp. Medarbetare som varje dag bidrar till att Linköpings universitet tar sig an samtidens utmaningar. Vår värdegrund vilar på trovärdighet, tillit och trygghet. Genom att vara modiga, tänka fritt och göra nytt skapar vi tillsammans, med stora och små handlingar, en bättre framtid. Välkommen att söka jobb hos oss!   Dina arbetsuppgifter Vi söker en doktorand till en forskningsmiljö med fokus på AI‑säkerhet, särskilt informations­teoretiska aspekter av minnesförgiftning. Projektet, finansierat av Vetenskapsrådet (VR), syftar till att utveckla en fördjupad förståelse för hur skadlig information som tillförs en AI‑agents minne kan påverka dess resonemang och beslutsfattande. Moderna AI‑system utvecklas snabbt från enstaka interaktioner i form av chattbotar till autonoma agenter. Dessa agenter använder externa verktyg, hämtar information från databaser och internet, lagrar minnen över flera interaktioner samt samverkar med användare eller andra agenter. Detta gör dem kraftfulla men innebär också nya risker för säkerhet och integritet. Om en angripare exempelvis kan manipulera vad en agent lagrar eller hämtar information om, kan agenten senare fatta partiska, osäkra eller strategiskt manipulerade beslut. Hur mycket manipulerad information krävs för att påverka en agents beteende? Vilka är de grundläggande begränsningarna för att upptäcka förgiftade minnen? Hur kan agenter uppdatera, hämta och kommunicera minnen på ett säkert sätt under fientliga förhållanden? För att skapa en grundläggande förståelse för minnesförgiftning kombinerar projektet verktyg från informationsteori, statistisk inlärning, kommunikationsteori samt AI‑relaterad integritet och säkerhet. Projektet passar dig som är intresserad av att utveckla teoretiska grunder samtidigt som du validerar idéer genom utvalda proof‑of‑concept‑attacker, försvar och experiment med LLM‑baserade agenter. Som doktorand ägnar du dig åt din forskarutbildning och forskningsprojekt där du ingår. I ditt arbete kan även ingå att undervisa eller att delta i andra institutionsuppdrag, upp till 20 procent av heltid.   Dina kvalifikationer Du har avlagt examen på avancerad nivå inom datavetenskap, elektroteknik eller tillämpad matematik med minst 240 högskolepoäng, varav minst 60 hp på avancerad nivå inom något av dessa områden. Alternativt har du förvärvat motsvarande kunskaper på annat sätt. Examenskravet måste vara uppfyllt senast vid beslut om anställning, vilket sker när anställningsavtalet undertecknas. Du ska kunna uppvisa stark matematisk mognad, goda programmeringskunskaper samt mycket god förmåga att kommunicera på engelska, både muntligt och skriftligt. Vidare bör du kunna arbeta självständigt, vara målinriktad, uttrycka dig tydligt samt samarbeta väl med andra. Tidigare erfarenhet av AI‑säkerhet, integritet eller LLM:er är meriterande men inget krav. Vi välkomnar särskilt sökande med bakgrund inom exempelvis informationsteori, kommunikationsteori, signalbehandling, optimering och inlärning, tillämpad sannolikhetslära och statistik, cybersäkerhet samt distribuerade system.   Din arbetsplats Du kommer att vara verksam vid Avdelningen för Kommunikationssystem (KS) vid Institutionen för Systemteknik (ISY), Linköpings universitet. Avdelningen bedriver forskning samt grund- och forskarutbildning inom kommunikationsteknik, statistisk signalbehandling, nätverksteori och decentraliserad maskininlärning. Läs mer om oss här: https://liu.se/en/organisation/liu/isy/ks. För mer information om att arbeta vid ISY, gå in på: https://liu.se/en/article/open-positions-at-isy. Du blir en viktig del av ett dynamiskt och ambitiöst forskningsteam med samarbeten mellan Linköpings universitet (biträdande universitetslektor Khac‑Hoang Ngo), Chalmers tekniska högskola (professor Alexandre Graell i Amat) och Recorded Future (Dr Johan Östman). Gruppen består för närvarande av fem doktorander och två postdoktorer. Forskningsbesök vid Chalmers och Recorded Future kommer att genomföras under doktorandtiden. Samarbetet med Recorded Future ger inblick i verkliga tillämpningar inom cybersäkerhet, samtidigt som doktorandutbildningen har ett tydligt fokus på högkvalitativ vetenskaplig forskning och publicering.   Enligt Vinnovas rapport om strategiska teknologier i Sverige är Linköpings universitet rankat som nummer 43 globalt inom AI‑forskning och nummer 12 i Europa, samt utpekat som ledande i Sverige inom området. Dessutom har Linköping utsetts till ”Årets studentstad” i Sverige tre gånger.   Om anställningen I samband med tillträde till anställningen kommer du att antas till forskarutbildningen. Läs mer om respektive fakultets forskarutbildning https://liu.se/forskning/forskarutbildning Anställningen är tidsbegränsad till normalt fyra år heltid. Förlängning av anställning upp till fem år sker utifrån grad av undervisnings- och institutionsuppdrag. Vid särskilda skäl kan ytterligare förlängning ske. Du anställs till en början på ett år, och därefter förnyas anställningen med högst två år i taget, utifrån uppnådd studieplan. Kontakta gärna isyphdcouncil@groups.liu.se om du har frågor kring att arbeta som doktorand på ISY. Tillträde enligt överenskommelse, dock senast den 23 december, 2026. Säkerhetskontroll kan komma att genomföras innan beslut om anställning fattas.   Lön och förmåner Doktorandlönen regleras utifrån en lokalt avtalad lönestege. Ingångslönen är cirka 36 400 SEK per månad. Anställningen omfattar även olika personalförmåner, inklusive tjänstepension. Läs mer om förmåner för anställda https://liu.se/jobba-pa-liu/formaner.   Fackliga kontaktpersoner Information om fackliga kontaktpersoner, se https://liu.se/jobba-pa-liu/hjalp-for-sokande.   Ansökan Du söker denna anställning genom att klicka på knappen ”Ansök” nedan. Din ansökan ska vara Linköpings universitet tillhanda senast den 19 juni, 2026. Ansökan som inkommer efter sista ansökningsdag beaktas inte.   Vi välkomnar sökande med olika bakgrund, erfarenheter och perspektiv, det berikar och utvecklar vår verksamhet. För oss är det självklart att värna om allas lika värde, rättigheter och möjligheter. Läs om vårt arbete med https://liu.se/artikel/lika-villkor/.   Välkommen med din ansökan!   Linköpings universitet har upphandlade avtal och undanber oss direktkontakt från bemannings- och rekryteringsföretag samt försäljare av platsannonser.