Un assistente per lo smistamento delle email ha scambiato un tag urgente personalizzato e ha reindirizzato silenziosamente i messaggi prioritari in una nuova cartella, nascondendoli per una settimana e ritardando l’azione.
Il flusso di email che normalmente riappare sul mio schermo nel giro di poche ore — quelle che ho contrassegnato per un’azione immediata — all’improvviso si è ridotto a un rigagnolo. All’inizio sembrava una tregua gradita. Non lo era.
Per anni mi sono affidato a una tattica semplice e “low-tech” per far avanzare il lavoro amministrativo sensibile al fattore tempo: consegnare fisicamente la documentazione pertinente all’ufficio che deve occuparsene. Il punto non è la camminata lungo il corridoio; è il momento umano alla fine — assicurarsi che la persona responsabile, o più spesso il gatekeeper che gestisce la sua agenda, veda l’elemento e capisca che non può aspettare. Ho imparato questa abitudine molto tempo fa dai colleghi quando lavoravo al U.S. Treasury, e mi ha aiutato con costanza a tagliare attraverso l’inerzia burocratica.
Quel flusso di lavoro è migrato nel mio sistema di email tramite un tag: #handcarry. Tutto ciò che è marcato in quel modo dovrebbe sfuggire alle normali code e regole di elaborazione. Il suo significato è esplicito: non archiviare questo, non lasciare che scompaia in una pipeline di triage della posta in arrivo e non trattarlo come corrispondenza di routine. Portamelo in evidenza rapidamente, così che una decisione umana possa avvenire adesso.
Ma l’assistente automatizzato che gestisce lo smistamento delle mie email — uno della nuova ondata di strumenti guidati dal linguaggio naturale, commercializzati come flessibili e “context-aware” — non l’ha fatto. Ha commesso un errore di ortografia. Da qualche parte lungo il percorso, ha interpretato #handcarry come #hancarry. Poi ha proceduto esattamente come era stato progettato per procedere: ha creato una nuova directory su disco, /Users/delong/.openclaw/workspace/filing-agent/processed/hancarry/, e ha iniziato a spostare ogni messaggio taggato #handcarry nella cartella appena creata …/hancarry/.
Il risultato è stato silenziosamente catastrofico, nel modo in cui spesso lo sono i guasti dell’automazione. Una volta che l’agente si è attestato sul tag sbagliato, è rimasto coerente — in modo affidabile, “diligente” e senza lamentarsi. Per un’intera settimana, ogni email che intendevo destinare a un’attenzione urgente è stata spazzata via dalla vista e collocata in una cartella che non controllo mai, perché non dovrebbe esistere.
Ho scoperto il problema solo quando ho notato che la vera directory …/handcarry/ — quella che uso davvero — era vuota quando evidentemente non avrebbe dovuto esserlo. Una breve ricerca ha rivelato la cache archiviata nel posto sbagliato e il minuscolo refuso che l’aveva causata.
Sarebbe facile liquidare tutto questo come colpa mia. Il tag in sé è una specie di hack: un hashtag che appare, per un sistema di archiviazione, come ogni altro hashtag. In pratica, sto sovraccaricando il simbolo “#” — usando la stessa sintassi sia per una classificazione ordinaria sia per un override speciale che significa “non classificare”. Il sovraccarico (overloading) è notoriamente rischioso in informatica, perché i sistemi tendono a trattare input simili come istruzioni simili.
Eppure è proprio qui che gli strumenti di oggi permeati di AI dovrebbero brillare. Ci viene detto che i moderni sistemi di machine learning sanno gestire l’ambiguità, inferire l’intento dal contesto e adattarsi al modo disordinato e incoerente in cui gli esseri umani lavorano davvero. Nel mio caso, il bot ha fatto qualcosa di più semplice e letterale: ha preso una “via di fuga” progettata per aggirare la burocrazia e l’ha trasformata in un semplice altro schedario — uno che ha nascosto proprio gli elementi che avevo bisogno di vedere.
Perché è importante
Man mano che un numero crescente di attività amministrative e di comunicazione viene delegato ad assistenti basati su AI, anche piccoli errori di interpretazione possono tradursi in significativi punti ciechi operativi—soprattutto quando l’automazione fallisce in modo silenzioso. L’episodio mette in luce uno scollamento tra le promesse di marketing sulla comprensione del contesto e la realtà di flussi di lavoro fragili, che continuano a dipendere da token e convenzioni esatti. La prossima sfida non è soltanto disporre di interfacce linguistiche più intelligenti, ma anche di migliori misure di sicurezza, auditing e di un comportamento “fail-loud” quando le azioni di un agente deviano dalle aspettative.
