Sherry Tongshuang Wu della Carnegie Mellon vince la borsa di ricerca Okawa per far progredire gli agenti di IA nel processo decisionale nel mondo reale

Sherry Tongshuang Wu, professoressa associata alla Kenneth C. Griffin School of Computer Science della Carnegie Mellon University, ha ricevuto un Okawa Research Grant per studiare come gli “agenti” di intelligenza artificiale possano supportare meglio il processo decisionale nel mondo reale, per singoli e gruppi.

Gli agenti di IA sono sempre più proposti come assistenti digitali per compiti che implicano molte opzioni — come organizzare itinerari di viaggio, valutare prodotti in concorrenza tra loro o coordinare altre scelte articolate in più passaggi. Eppure, questi sistemi spesso danno per scontato che gli obiettivi e le preferenze dell’utente siano noti e stabili fin dall’inizio. Nella pratica, le persone scoprono spesso che cosa per loro conta davvero solo dopo aver visto le possibilità, e le loro priorità possono cambiare man mano che apprendono di più su costi, vincoli e compromessi.

Il progetto di Wu mira proprio a colmare questa lacuna: migliorare il modo in cui gli agenti di IA deducono e affinano nel tempo le preferenze umane e come comunicano i compromessi incorporati nelle scelte complesse. Invece di produrre semplicemente una singola raccomandazione, il lavoro esplorerà modalità con cui gli agenti possano far emergere alternative significative e aiutare gli utenti a capire perché un’opzione possa essere migliore sotto una dimensione ma peggiore sotto un’altra. La ricerca sottolinea anche la natura interattiva della scoperta delle preferenze — come un agente possa reagire quando una persona fornisce feedback o cambia idea.

Un risultato centrale del lavoro finanziato dalla sovvenzione sarà un framework di valutazione open source progettato per misurare queste capacità in modo sistematico. Il framework impiegherà utenti simulati — modelli software che rappresentano persone con priorità in evoluzione e talvolta incerte — per testare quanto bene gli agenti di IA riescano a (1) far emergere ciò che conta per un utente, (2) presentare e confrontare opzioni e (3) adattarsi quando vengono introdotte nuove informazioni o feedback. Rendendo gli strumenti open source, Wu punta a sostenere un progresso più ampio e la riproducibilità dei risultati in tutto il settore.

La ricerca si estenderà anche oltre l’assistenza uno-a-uno, fino al processo decisionale dei team, dove le difficoltà si moltiplicano. I gruppi possono dover raggiungere un consenso nonostante i membri attribuiscano pesi diversi a obiettivi in competizione. Il lavoro di Wu esaminerà come gli agenti di IA potrebbero aiutare i team a gestire queste situazioni, supportando la deliberazione quando le priorità entrano in conflitto e la posta in gioco delle decisioni è alta.

Wu fa parte dell’Human-Computer Interaction Institute della CMU, dove la sua agenda di ricerca più ampia è focalizzata sulla collaborazione uomo-IA — in particolare sulla questione pratica di come le persone possano lavorare in modo efficace con sistemi di IA utili ma imperfetti. Il suo obiettivo dichiarato è sviluppare strumenti e metodi di valutazione che mantengano gli esseri umani al controllo del processo, consentendo al contempo decisioni meglio informate.

L’Okawa Research Grant è amministrato dalla Okawa Foundation for Information and Telecommunications, che finanzia la ricerca nelle tecnologie dell’informazione e delle comunicazioni. Ulteriori dettagli sul programma sono disponibili tramite la Okawa Foundation.

Perché è importante

Man mano che gli agenti di IA entrano nella pianificazione quotidiana e nel coordinamento sul posto di lavoro, il rischio principale non è solo ottenere risposte sbagliate — ma sistemi che orientano le decisioni senza cogliere con precisione ciò che le persone valorizzano davvero. Strumenti che valutano la scoperta delle preferenze e la spiegazione dei compromessi potrebbero fissare standard più elevati per trasparenza e controllo da parte degli utenti. Vale la pena osservare se i benchmark aperti derivanti da questo lavoro verranno adottati su larga scala per testare la prossima generazione di agentic AI.