Teknik · Nyhet
Nvidia bygger ett skyddsnät för AI-agenter, med vakthund i hårdvaran
Nvidia lanserar OpenShell och Sentry, ett öppet mjukvarupaket och en hårdvarunära säkerhetsmodell som ska hålla autonoma AI-agenter inom tydliga gränser.
Summering
- Nvidia lanserar OpenShell och Sentry för AI-agentsäkerhet.
- Mjukvaran ska begränsa agenters åtkomst.
- En hårdvarunära övervakare ska kunna isolera avvikande beteende.
När program börjar agera själva
Nvidia lanserar en plattform som ska göra autonoma AI-agenter lättare att kontrollera. OpenShell är ett öppet mjukvarusystem för att begränsa agenters åtkomst till filer, uppgifter och nätverk. Sentry lägger till en separat övervakningsnivå med hårdvaran närmare säkerhetsarbetet. Det är en ganska talande produktnyhet. AI-agenter säljs ofta som verktyg som kan gå från fråga till handling utan att någon behöver följa varje steg. När det är en del av poängen blir också frågan om vad som händer när agenten tar fel väg mer akut än i en vanlig chattbot.
En bur och en vakthund
Nvidia beskriver OpenShell som en isolerad miljö där reglerna sätts innan agenten får börja arbeta. Sentry ska i sin tur kunna observera agentens aktivitet från en separat säkerhetsdomän. Skillnaden låter teknisk, men den handlar om en vardaglig princip: den som gör jobbet bör inte ensam få skriva reglerna för kontrollen. Det här är också en markering om var AI-säkerhet håller på att flytta. Det räcker inte alltid att ändra en instruktion i modellen. Organisationer vill kunna begränsa åtkomst, stoppa processer och se vad som faktiskt händer i den miljö där agenten körs.
Det löser inte människans del
En säkerhetsplattform kan begränsa skadan av ett dåligt beslut, men den avgör inte vilka uppgifter en agent alls borde få. Det är fortfarande någon som måste definiera behörigheter, granska loggar och bestämma vad som räknas som en farlig avvikelse. Ett låst rum blir inte automatiskt rätt rum. Nvidias upplägg är därför mer praktiskt än magiskt. Det försöker ge företag fler kontrollpunkter runt en teknik som blir mer självständig. Den svåra frågan är fortfarande hur många undantag verksamheten kommer vilja lägga in när effektiviteten börjar kännas viktigare än försiktigheten.
Säkerhet som infrastruktur
Open Agent Safety Platform riktar sig mot hela kedjan från tester till driftsatta system. Det gör att Nvidia försöker placera sig inte bara som chipleverantör, utan som en del av reglerna runt den nya typen av program. Om agenter blir ett standardlager i företag behövs också säkerhet som kan följa med mellan miljöer. Johan Rehn gillar den tråkiga delen av nyheten. AI-agenter blir inte tillförlitliga för att de låter självsäkra. De blir mer användbara när det går att se vad de får göra, stoppa dem när de lämnar planen och förklara varför en åtgärd blockerades. Det är mindre futuristiskt än en digital kollega, men betydligt mer användbart.