Identità e responsabilità dei professionisti nell’era della Intelligenza Artificiale

I media si interrogano regolarmente sulle minacce proposte dalla progressione dell’Intelligenza Artificiale: si tratta di un tema controverso, di cui è difficile dire senza cognizione di causa. Quello che è certo, ma spesso sottovalutato nel settore dell’ambiente costruito, è che la diffusione dei sistemi agentici metta, peraltro, in discussione l’identità e la responsabilità dei professionisti, la natura della firma e della copertura assicurativa connessa alla prestazione. Prima di tutto, come rilevato in altre occasioni, l’incrementale, ma rapida, disponibilità di funzionalità artificiali in tutti i dispositivi di produzione del dato o dell’informazione condurrà a un dialogo conversazionale con l’utente sempre più accentuato, senza la mediazione di specialisti cosiddetti BIM.

Che, poi, la natura inferenziale e probabilistica di tali sistemi richieda il ricorso a fondamenti dichiarativi e deterministici tipici della digitalizzazione canonica è certo indubitabile, ma occorre domandarsi sino a quando.

Sotto questo punto di vista, a meno che non ci si ponga la questione in maniera assai tempestiva, l’argomento della riserva da parte del soggetto umano rischia di risultare piuttosto velleitario.

Disponiamo, infatti, attualmente di competenze sufficienti a fornire ai sistemi agentici istruttorie adeguate a che questi ultimi non travisino le intenzioni originarie?

Possiamo avvalerci di saperi sufficienti a validare gli esiti?

È il caso di rinunciare all’apprendistato umano per sostituirne l’azione con quella di orchestre artificiali?

Non pare che questi quesiti siano adeguatamente considerati.

Il professionista potrebbe, invero, progressivamente smettere di essere il principale produttore dell’informazione e della decisione per assumere il ruolo di istruttore, di supervisore e di validatore di sistemi capaci di generare autonomamente parti crescenti dell’attività professionale.

La riserva umana, in tale scenario, avrebbe significato solo nella misura in cui il soggetto umano conservasse una effettiva capacità di comprensione, di contestazione e di falsificazione dei risultati artificiali.

Al contempo, per le attività elementari (almeno per ora) sussisterebbe la possibilità di introdurre sistemi agentici in luogo del reclutamento o dell’apprendistato di neodiplomati e di neolaureati quali tirocinanti con un guadagno immediato di produttività, ma al tempo stesso eliminando una parte del percorso esperienziale attraverso cui si formano i futuri esperti.

Che accadrà, poi, quando Agentic AI diverrà Physical AI?

Con la Physical AI il sistema artificiale non produrrà solo informazione, inferenze o raccomandazioni, bensì agirà direttamente nel e sul mondo fisico.

Errori nei modelli informativi, nei sensori, nelle ontologie, nelle regole o nei sistemi di orchestrazione potrebbero tradursi direttamente in movimentazioni, lavorazioni, modifiche impiantistiche o configurazioni operative nel cantiere o altrove.

Certamente oggi il professionista esperto potrebbe potenziare le proprie prestazioni ottenendo in tempi celeri supporti non immaginabili nel contesto precedente, ma egli o ella deterrebbe davvero le capacità di valutarne la affidabilità e di comprenderne i nessi causali, dovendo, comunque, conservare ogni responsabilità sul risultato?

Di conseguenza, come cambierebbero, ad esempio, le coperture assicurative?

Che significherebbe il concetto di responsabilità civile?

Il professionista potrebbe validare un esito proposto dal sistema agentico senza poter ricostruire integralmente le dinamiche del sistema medesimo, quali fonti abbia privilegiato, quali assunzioni abbia introdotto, quali alternative abbia considerato, dandosi una palese asimmetria fra causalità e imputabilità.

Le stesse coperture assicurative potrebbero muovere dalla sola qualificazione del professionista alla valutazione dell’intero sistema sociotecnico entro cui la prestazione viene prodotta.

La responsabilità civile dipenderebbe dalla ragionevolezza del processo cognitivo e organizzativo adottato per giungervi.

La firma non attesterebbe soltanto l’assunzione di responsabilità sull’esito, ma implicitamente anche l’esistenza di condizioni idonee a ritenerlo attendibile.

In ogni caso, chi si renderebbe garante del processo fondativo di apprendimento del sistema agentico?

Chi, ad esempio, garantirebbe che questi abbia ricevuto una formazione adeguata sulle ontologie?

Si originerebbe probabilmente una catena di garanzie distribuite, articolata secondo il fornitore del modello, il curatore della conoscenza di dominio, il soggetto che definisce o mantiene le ontologie, il validatore indipendente e l’organizzazione professionale che decide il contesto d’uso.

Si renderebbe, pertanto, necessaria una forma di certificazione della competenza artificiale.

D’altra parte, come si è detto altrove, la possibilità di interrogare sinergicamente qualsiasi contenitore informativo sovverte le capacità del soggetto umano in un processo decisionale e rende ogni testo, ogni azione, intelleggibile nelle sue logiche comportamentali.

L’oggetto computabile non sarebbe più soltanto il contenitore informativo, ma progressivamente la storia decisionale della prestazione professionale, oltreché il comportamento medesimo delle organizzazioni e degli individui.

Il sistema agentico potrebbe inferire chi sapesse che cosa, quando lo sapesse, quali alternative fossero disponibili, come siano mutate le posizioni degli attori e quali conseguenze siano derivate dalle decisioni assunte o omesse.

Chi governerebbe, dunque, realmente le prestazioni professionali?

La sensazione è che il settore non abbia sufficiente maturità per discernere le conseguenze di fenomeni che accoglie acriticamente.

Servirà probabilmente una moratoria?

Oppure si giungerà all’accadimento secondo cui il professionista continuerà a rispondere di ciò che il sistema artificiale fa, pur non essendo più realmente in grado di ricostruire, di comprendere o di contestare il processo attraverso cui il sistema è giunto ad agire?