SEATTLE – In un'epoca in cui l'intelligenza artificiale avanza a passi da gigante, ci sono figure come Ece Kamar, che hanno il compito di vigilare su questa evoluzione. Kamar è alla guida dell'AI Frontiers Lab di Microsoft Research, uno dei centri di ricerca più rinomati a livello mondiale nel campo dell’IA.

"Quando ho iniziato a lavorare in Microsoft Research, circa 14 anni fa, ci occupavamo di una varietà di progetti di IA, ma ci volevano anni perché diventassero realtà concrete,” racconta Kamar durante un nostro incontro nel quartier generale di Microsoft a Redmond. “Oggi, invece, l’IA evolve rapidamente, cambiando non solo ciò che possiamo fare con queste tecnologie, ma anche i rischi associati."

Questa accelerazione ha portato, un anno fa, a una riorganizzazione significativa all'interno di Microsoft Research, con la creazione di un team dedicato, sotto la guida di Kamar, per anticipare il futuro.

Con oltre due decenni di esperienza in questo settore e un focus particolare sull’IA responsabile, Kamar è un punto di riferimento nell’intersezione tra innovazione tecnologica ed etica. La sua missione è garantire che l'IA si sviluppi in direzioni corrette.

Ma "direzioni corrette" per chi? Kamar spiega che la sfida principale riguarda il cosiddetto “giudizio di valore”: quale sia la cosa giusta per un sistema. È una questione complessa, poiché coinvolge molteplici parti interessate, spesso assenti quando vengono prese decisioni cruciali. In Microsoft, hanno collaborato con diversi stakeholder, anche esterni, per comprendere le esigenze e i potenziali danni delle tecnologie. "Le domande che affrontiamo non sono semplicemente tecniche e non possono essere risolte con più dati: si tratta di questioni umane reali.”

Il suo laboratorio ha un impatto diretto sulla strategia aziendale di Microsoft, specialmente in questo periodo cruciale per l'IA. Un esempio è il lavoro su modelli di linguaggio ridotti. Kamar e il suo team hanno avuto accesso anticipato a GPT-4 per valutare i rischi e scoprire che non sono necessari modelli così grandi per comprendere il linguaggio. "Basta un modello di poche milioni di parametri per arrivare a una comprensione basilare del linguaggio”, afferma.

In questo modo, sono emersi progetti interni a Microsoft dedicati ai “piccoli modelli di linguaggio,” che possono addirittura funzionare su dispositivi personali.

Kamar afferma che stiamo esplorando anche un'altra dimensione innovativa, quella degli “agenti.” Questi modelli non si limitano a interagire attraverso linguaggio, ma possono eseguire azioni nel mondo reale, come cliccare su bottoni o completare moduli. Questa evoluzione potrebbe cambiare profondamente come interagiamo con l'IA nei nostri processi quotidiani.

Tuttavia, la strada è in salita. Kamar avverte: “L’IA ha storicamente vissuto cicli di grandi aspettative seguiti da delusioni. Dobbiamo essere cauti nel creare sistemi multifunzione.” Nonostante l’ottimismo per il futuro, la sua volontà di garantire un approccio rispettoso e consapevole verso l'IA rimane fondamentale.

Guardando avanti, Kamar sogna un futuro dove l'IA possa affiancarla nella gestione delle incombenze quotidiane, in modo da permetterle di concentrarsi su ciò che conta davvero. La ricerca continua sul miglioramento della memoria degli agenti IA e sulle loro capacità reattive alle esperienze concrete è un passo importante.

"La nostra esperienza ci insegna che gli agenti IA devono poter apprendere dalle interazioni, proprio come facciamo noi,” conclude Kamar. “Dobbiamo costruire sistemi che non solo assistano, ma anche che comprendano il contesto umano."

Alla domanda se le macchine potranno mai sostituire totalmente l'interazione umana, Kamar ribatte con forza: "La nostra missione è potenziare le persone, non sostituirle. La responsabilità e l'autonomia umana sono irrinunciabili.” In un mondo in rapida evoluzione, il suo impegno nell’IA responsabile ci offre un barlume di speranza e responsabilità, mentre ci avventuriamo verso il futuro.