Interazione uomo-ai spiegabile - Una prospettiva di pianificazione

Titolo originale:

Explainable Human-AI Interaction - A Planning Perspective

Contenuto del libro:

Fin dalla sua nascita, l'intelligenza artificiale (IA) ha avuto un rapporto piuttosto ambivalente con l'uomo, oscillando tra il suo potenziamento e la sua sostituzione. Oggi, con l'ingresso delle tecnologie di IA nella nostra vita quotidiana a un ritmo sempre maggiore, è sempre più necessario che i sistemi di IA lavorino in modo sinergico con gli esseri umani.

Un requisito fondamentale per questa interazione sinergica tra uomo e IA è che il comportamento dei sistemi di IA sia spiegabile agli esseri umani. Per farlo in modo efficace, gli agenti di IA devono andare oltre la pianificazione con i propri modelli del mondo e prendere in considerazione il modello mentale dell'uomo nel loop. Come minimo, gli agenti di IA hanno bisogno di approssimazioni dei modelli di compiti e obiettivi dell'uomo, nonché del modello umano dei modelli di compiti e obiettivi dell'agente di IA.

I primi guideranno l'agente ad anticipare e gestire i bisogni, i desideri e l'attenzione degli umani nel loop, mentre i secondi gli permetteranno di agire in modi interpretabili dagli umani (conformandosi ai loro modelli mentali) e di essere pronto a fornire spiegazioni personalizzate quando necessario. Gli autori attingono a diversi anni di ricerca nel loro laboratorio per discutere di come un agente di intelligenza artificiale possa utilizzare questi modelli mentali per conformarsi alle aspettative umane o per modificarle attraverso la comunicazione esplicativa.

Pur concentrandosi sugli scenari cooperativi, il libro tratta anche di come gli stessi modelli mentali possano essere utilizzati per l'offuscamento e l'inganno. Il libro descrive anche diversi sistemi applicativi reali per il processo decisionale collaborativo, basati sul quadro e sulle tecniche qui sviluppate.

Sebbene la ricerca degli autori in queste aree sia il punto di partenza principale, ogni capitolo fornisce ampi collegamenti con la ricerca più ampia della letteratura. Gli argomenti tecnici trattati nel libro sono autosufficienti e accessibili a lettori con un background di base in IA.