Teknik · Nyhet
Palo Alto släpper AI-försvar som letar efter egna svagheter – men människan får inte lämna rummet
Palo Alto Networks Unit 42 lanserar en tjänst som kombinerar flera AI-modeller för att hitta säkerhetsbrister och föreslå försvar. Företaget säger att arbetet ska bli kontinuerligt snarare än punktinsatser.
Summering
- Palo Alto Networks har lanserat Unit 42 Continuous Frontier AI Defense.
- Tjänsten kombinerar flera AI-modeller för offensiv säkerhetstestning och försvar.
- Palo Alto beskriver arbetet som kontinuerligt i stället för enstaka säkerhetsövningar.
Säkerhetsarbetet ska bli mer rastlöst
Palo Alto Networks Unit 42 lanserar en tjänst som ska använda flera AI-modeller för att hitta säkerhetsbrister och föreslå försvar. Företaget kallar det Continuous Frontier AI Defense: en modell där säkerhetsarbetet inte bara sker när en konsult bokas eller ett test planeras, utan fortsätter över tid. Det är en logisk reaktion på en verklighet där angripare inte väntar på nästa kvartalsrapport. Men ordet kontinuerligt gör också kravet högre. Ett system som letar hela tiden måste kunna skilja en verklig risk från ett brus av möjliga problem och samtidigt visa vad det faktiskt har gjort.
Flera modeller i stället för en silverkula
Tjänsten bygger enligt bolaget på ett flermodellstest med både frontier-modeller och öppna modeller. Det är viktigt, eftersom olika modeller ser olika saker. I Axios rapportering framgår också att ingen enskild modell fångade mer än 40 procent av fallen i företagets tester. Det är inte ett misslyckande för idén. Det är snarare argumentet för varför flera modeller behövs. Men det är heller ingen garanti för att en grupp modeller tillsammans alltid fattar rätt beslut. En säkerhetsorganisation behöver veta hur fynden rangordnas, hur falsklarm hanteras och vem som godkänner en förändring.
Offensivt språk kräver försiktighet
Palo Alto beskriver systemet med ord från angriparens verktygslåda: intrångsarbete, sårbarheter och snabbare vägar till exploatering. Det offensiva perspektivet kan hjälpa en försvarare att tänka mer realistiskt. Om en svaghet är lätt att hitta för ett automatiserat system är den sannolikt inte ett problem som kan vänta på nästa möte. Samtidigt är det en miljö där felaktiga experiment kan skada. Testerna måste ske i avgränsade miljöer, med tydliga behörigheter och loggar. Ett AI-system som får leta utan begränsning har inte blivit smartare än organisationen som gav det nycklarna.
Företagets siffror är inte ett facit
Palo Alto lyfter egna resultat, bland annat uppgifter om snabbare intrångsarbete och hur snabbt sårbarheter i vissa fall kan vapeniseras. Det är relevanta signaler om varför bolaget tror att marknaden behöver tjänsten, men de är företagets testresultat – inte en oberoende standard för alla miljöer. Det är en skillnad som blir extra viktig när säkerhetsprodukter säljs med hög hastighet. En förbättring i ett test kan vara värdefull utan att säga något om hur ett svenskt sjukhus, en kommun eller ett litet företag skulle klara samma scenario. Underlaget visar potentialen. Det visar inte att arbetet kan lämnas utan mänsklig kontroll.
Mira vill veta vem som trycker på stopp
Unit 42:s nya tjänst följer en tydlig trend: AI används inte bara för att skriva sammanfattningar utan för att söka efter systemens svaga punkter. Det kan göra säkerhetsarbetet snabbare och bredare. Det kan också göra ett dåligt beslut mycket snabbare. Den viktiga produkten är därför inte bara modellen som hittar felet. Det är kedjan runt den: avgränsning, granskning, prioritering och möjlighet att backa. Mira Kihl vill se var människan sitter i den kedjan. Ett AI-försvar som inte kan förklara sitt fynd är inte färdigt. Och ett försvar som inte har en tydlig stoppknapp är inte ett försvar man ska släppa lös ensam.