Utveckla mjukvara med AI: 7 säkerhetsrisker

Med att utveckla mjukvara med AI går snabbt och är produktivt – men AI-assistenter skriver inte automatiskt säker kod. I Veracodes benchmark (2026) klarade AI-genererad kod säkerhetstesterna i genomsnitt bara i cirka 56 % av fallen. De största riskerna: oprövad kod, påhittade mjukvarupaket, inloggningsuppgifter i koden, saknad behörighetskontroll, ofiltrerade indata, konfidentiella data i molnassistenter och AI-agenter med för många rättigheter.

Detta gäller sedan länge inte bara mjukvaruföretag. Med AI bygger även avdelningar, grundare och byråer i dag egna verktyg, kundportaler eller automatiseringar – ofta utan en utvecklare som förstår koden. Det är just där luckorna uppstår.

1. Kod som ingen har granskat

AI levererar kod som fungerar, och det verkar övertygande. Om den är säker visar inte det första intrycket. Veracode fann 2025 att modeller i 45 % av testuppgifterna valde den osäkra i stället för den säkra varianten; särskilt svaga var de vid Cross-Site-Scripting och Log-Injection. Den franska myndigheten ANSSI och BSI rekommenderar därför uttryckligen att AI-genererad kod granskas av människor.

2. Påhittade mjukvarupaket

AI-modeller föreslår ibland bibliotek som inte ens finns. I en studie vid konferensen USENIX Security 2025 innehöll omkring 19,7 % av de genererade kodexemplen minst ett påhittat paketnamn. Angripare registrerar sådana namn och fyller dem med skadlig kod („Slopsquatting“). Den som installerar förslaget utan att kontrollera det tar själv in skadlig programvara.

3. Inloggningsuppgifter i koden

API-nycklar, databaslösenord eller tokens hamnar snabbt direkt i koden – och därmed i repositoryt eller till och med i användarnas webbläsare. Inloggningsuppgifter hör hemma i en säker konfiguration, aldrig i källkoden.

4. Saknad behörighetskontroll

Ett typiskt mönster: gränssnittet döljer funktioner för vanliga användare, men gränssnittet bakom kontrollerar inte vem som begär något. Den som känner till adressen kan hämta andra kunders data. AI bygger bara in sådana kontroller om man uttryckligen begär det.

5. Ofiltrerade indata

Formulärinmatningar, filuppladdningar och URL-parametrar måste kontrolleras och hanteras säkert. Om detta saknas hotar klassiker som SQL-injektion eller cross-site scripting – just de fel där AI-kod i Veracode-testet särskilt ofta misslyckades.

6. Konfidentiella data i molnassistenten

Den som kopierar kunddata, affärshemligheter eller inloggningsuppgifter till en molnassistent lämnar dem till en tredje part. ANSSI och BSI avråder från att lämna känsliga data till molnbaserade programmeringsassistenter och rekommenderar att en riskanalys görs före användning. Vad som är tillåtet i företagssammanhang regleras bäst av en AI-policy.

7. AI-agenter med för många rättigheter

Programmeringsagenter kan köra kommandon, ändra filer och installera programvara. Med alltför långtgående rättigheter – till exempel åtkomst till produktionsdata eller servrar – kan ett fel eller en manipulerad instruktion orsaka stor skada. Mer om detta i Prompt Injection.

Så utvecklar ni säkrare med AI

Risk	Motåtgärd
Ogranskad kod	Mänsklig granskning före varje driftsättning
Uppfunna paket	Kontrollera varje ny beroende: Finns det, vem underhåller det?
Inloggningsuppgifter i koden	Hemlighetsförvaltning, automatisk granskning i repositoryt
Saknad behörighetskontroll	Kontrollera behörigheter på serversidan, testa med andra konton
Ofiltrerade indata	Nämn säkerhetskrav i prompten, statisk analys
Känsliga data i molnet	Riktlinje, godkända verktyg, ev. lokala modeller
Agenter med för många rättigheter	Minimala rättigheter, inga produktionsdata, godkännanden för kommandon

Ni utvecklar programvara med AI-stöd – själva, med ert team eller med en leverantör? Vi granskar det. En mänsklig granskning av kod, beroenden, åtkomsträttigheter och konfiguration, innan er applikation går live eller behandlar kunddata. Kontakta oss.

Vanliga frågor

Är AI-genererad kod osäker?

Inte nödvändigtvis, men ofta. I Veracodes benchmark klarade AI-kod säkerhetstesterna i genomsnitt bara i cirka 56 % av fallen. Det avgörande är om koden granskas innan den går i produktion.

Vad är slopsquatting?

Angripare registrerar mjukvarupaket under namn som AI-modeller ofta hittar på och fyller dem med skadlig kod. Den som installerar ett sådant förslag utan att kontrollera det tar in skadlig programvara i projektet.

Får jag ange företagsdata i en AI-programmeringsassistent?

Konfidentiella data, kunddata och inloggningsuppgifter bör inte hamna i molnbaserade assistenter. ANSSI och BSI rekommenderar en riskanalys före användning. Tydliga regler fastställs i en AI-policy.

Status: oktober 2026. Källor: Veracode GenAI Code Security Report 2025 och 2026, Spracklen et al. (USENIX Security 2025), ANSSI/BSI: AI Coding Assistants.