Microsoft si accorge che i suoi agenti di intelligenza artificiale, pur essendo strumenti miracolosi, sono anche la cosa più complicata da gestire. Il messaggio, veicolato con una franchezza quasi eretica da Satya Nadella, è chiaro: la fiducia cieca, specialmente nei confronti dei modelli esterni, è obsoleta. Gli agenti stanno diventando troppo autonomi e capaci di agire in nome dell’azienda, mettendo in pratica azioni che un dipendente ‘insider’ avrebbe con la chiave del regno, ma senza il braccio della supervisione. Quindi, l’obiettivo non è frenare l’innovazione, ma costruire un sistema di sicurezza che sappia di guardare, supervisionare e limitare i poteri degli agenti. La filosofia è separare l’intelligenza (il modello AI) dall’autorità (il potere decisionale). Per evitare che un agente prenda il super-privilegio di un utente come un tirocinante lo farebbe con un mazzo di chiavi rubate, Microsoft sta implementando le ‘Dynamic Permissions’: i permessi non sono più permanenti, ma si riducono o vengono revocati con l’ambito del compito. A questo si aggiungono i sistemi di ‘Dynamic Agent Risk’, un vero e proprio semaforo rosso: se l’agente si comporta in modo sospetto, l’accesso si restringe fino a blocco totale. Inoltre, per non far circolare ‘fantasma’ nell’organizzazione, l’azienda sta potenziando la tracciabilità, riconoscendo e monitorando un gran numero di tipi di agenti. Questa complessa architettura di sicurezza dimostra che, mentre l’AI ci promette un futuro senza intoppi, la sicurezza ci ricorda che, prima di tutto, dobbiamo capire chi sta bussando alla porta e quanto può rompere le cose se si sgarra un po’ dal copione.
🇬🇧 Summary in English
Microsoft is facing a massive identity crisis regarding its most powerful new tools: AI agents. The message, delivered with a striking lack of corporate pleasantries by Satya Nadella, is blunt: blind trust, particularly in external AI models, is simply not enough. As agents become increasingly autonomous and capable of taking action on behalf of the company, they pose a risk comparable to an ‘insider threat’—only faster and harder to track. The corporate response isn’t to halt the revolution, but to build a cage of highly sophisticated controls. The core principle emerging from this overhaul is to strictly separate ‘intelligence’ (the AI model) from ‘authority’ (the power to execute actions). To prevent an agent from inheriting all the privileges of the user who activated it—a scenario likened to a mischievous intern given the CFO’s master keys—Microsoft is rolling out ‘Dynamic Permissions.’ These don’t grant permanent access; instead, they are temporary, tightly scoped, and revocable when the task is done. Security is being managed by a digital traffic light: ‘Dynamic Agent Risk’ constantly assesses behavior. If the risk level rises, access is automatically reduced or even completely shut down, often requiring human sign-off. Furthermore, because agents can slip into an organization like uninvited guests, Microsoft is dramatically expanding its ability to discover and identify various types of agents. This overhaul of security governance signals one thing: while AI promises efficiency, the IT department is firmly asserting that vigilance, oversight, and granular control remain the most vital software updates of all.
Leggi l’articolo originale su Punto Informatico →
Fonte: Punto Informatico | Argomento: Tech News
#tecnologia #innovazione #technews