Tempo di scuola, di nomine e di trasferimenti per i docenti. Una volta tanto non sono gli studenti sotto esame ma gli algoritmi e l’intelligenza artificiale che decidono le nomine ed i trasferimenti dei docenti.
Già la Sesta Sezione del Consiglio di Stato, con la sentenza n.8472 del 13 dicembre 2019, era stata chiamata a decidere ( in sede di appello, proposto dal Ministero dell’Istruzione) il caso relativo alla contestazione dell’esito di una procedura amministrativa la quale, svolta sulla base di un algoritmo non conosciuto e che non avrebbe correttamente funzionato, ha disposto i trasferimenti di diversi docenti ( immessi in ruolo nella c.d. “fase C” del piano straordinario assunzionale di cui alla legge n.107 del 2015) senza tener conto delle preferenze espresse, pur in presenza di posti disponibili nelle province indicate, addirittura alcuni docenti sarebbero stati trasferiti in province più lontane da quella di propria residenza o quella comunque scelta con priorità in sede di partecipazione alla procedura, benché in tali province di elezione fossero disponibili svariati posti.
Nella sentenza qui richiamata, il giudice evidenziava come le procedure informatizzate non possano essere motivo di elusione dei principi che stanno alla base del nostro ordinamento democratico e che regolano il corretto svolgersi dell’attività pubblica amministrativa.
Più precisamente, il ricorso al cd “algoritmo”, va correttamente inquadrato in termini di modulo organizzativo e cioè una sorta di strumento procedimentale ed istruttorio soggetto, pertanto, alle verifiche tipiche di ogni procedimento amministrativo, il quale resta il modus operandi della scelta autoritativa, da svolgersi sulla scorta della legislazione attributiva del potere e delle finalità dalla stessa attribuite all’organo pubblico che è titolare del potere, un potere necessario al perseguimento del pubblico interesse.
Premessa la generale ammissibilità delle procedure informatizzate e, pertanto, degli stessi algoritmi, il giudice amministrativo riporta l’attenzione su due aspetti preminenti, peraltro di rilievo sovranazionale, intesi come elementi di minima garanzia per ogni ipotesi di utilizzo di algoritmi in sede decisoria pubblica: a) in prima battuta, occorre garantire la piena conoscibilità a monte del modulo utilizzato e dei criteri applicati; b) in secondo luogo è necessaria l’imputabilità della decisione all’organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti affidati all’algoritmo.
Il Consiglio di Stato, nella sentenza qui in esame, sotto il profilo della piena conoscibilità dei criteri applicati dalla procedura informatizzata, mette in risalto il generale, quanto fondamentale, principio della trasparenza che va intesa sia per quanto concerne la pubblica amministrazione titolare del potere per il cui esercizio viene previsto il ricorso allo strumento dell’algoritmo, sia per i soggetti incisi e coinvolti da detto potere; il giudice amministrativo osserva come il meccanismo attraverso il quale si concretizza la decisione robotizzata (ovvero l’algoritmo) debba essere conoscibile, secondo una declinazione rafforzata del principio di trasparenza, che implica anche quello della piena conoscibilità di una regola espressa in un linguaggio differente da quello giuridico.
Questa conoscibilità dell’algoritmo, deve essere garantita in tutti i suoi molteplici aspetti, quali i suoi autori, il procedimento usato per la sua elaborazione, il meccanismo di decisione, le priorità assegnate nella procedura valutativa e decisionale nonché i dati effettivamente selezionati come rilevanti e determinanti; l’obiettivo è quello di verificare che i criteri, i presupposti e gli esiti del procedimento robotizzato siano effettivamente conformi alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione a monte di tale procedimento e affinché siano chiare – e quindi anche sindacabili – le modalità e le regole in base alle quali esso è stato impostato.
I giudici del Consiglio di Stato fanno riferimento a quella che è stata definita la “caratterizzazione multidisciplinare” dell’algoritmo in quanto questo ultimo è una costruzione che non richiede solo competenze giuridiche ma tecniche, informatiche, statistiche e amministrative e alla necessità che la “formula tecnica” che di fatto rappresenta l’algoritmo, sia corredata da opportune spiegazioni che la traducano nella “regola giuridica” ad essa sottesa e che la rendano agevolmente leggibile e comprensibile e, conseguentemente, conoscibile e sindacabile dai soggetti interessati.
Occorre precisare che la conoscibilità e la sindacabilità dell’algoritmo e più in generale il principio della necessarietà della trasparenza della procedura amministrativa, prevalgono sulla riservatezza eventualmente invocata dalle imprese produttrici dei meccanismi informatici utilizzati.
Il principio di conoscibilità si basa sul fatto che ognuno ha diritto a conoscere l’esistenza di processi decisionali automatizzati che lo riguardino, oltre al diritto di ricevere precise informazioni sulla logica utilizzata; detto principio è applicabile sia a decisioni prese da soggetti pubblici che da soggetti privati.
In riferimento alla fattispecie qui esaminata e relativa ad una decisione presa da una pubblica amministrazione, la norma del Regolamento, come osserva il giudice amministrativo, costituisce diretta applicazione specifica dell’art.42 della Carta Europea dei Diritti Fondamentali (“Right to a good administration”), laddove afferma che quando la Pubblica Amministrazione intende adottare una decisione che può avere effetti avversi (a tal proposito si veda la cd etica delle conseguenze che spesso viene richiamata negli studi e nelle ricerche sull’intelligenza artificiale) su di una persona, essa ha l’obbligo di sentirla prima di agire, di consentirle l’accesso ai suoi archivi e documenti ed, infine, ha l’obbligo di comunicare le ragioni della propria decisione.
La pubblica amministrazione che tratta i dati in maniera automatizzata, ha il dovere di porre l’interessato a conoscenza anche dei meccanismi che sono in grado di decifrare la logica dell’algoritmo utilizzato, quindi il principio di conoscibilità deve essere integrato dal principio di comprensibilità e cioè del diritto a ricevere informazioni significative sulla logica utilizzata.
L’impossibilità di comprendere le effettive modalità con le quali, attraverso l’algoritmo qui contestato, siano stati assegnati i posti disponibili per i docenti ammessi in graduatoria, costituisce di per sé un vizio tale da inficiare l’intera procedura amministrativa in quanto il metodo utilizzato deve ritenersi carente sotto il profilo della trasparenza dello stesso, con conseguente illegittima disattesa delle aspettative dei docenti: come dire, l’algoritmo (e più in generale l’AI, alias intelligenza artificiale), non ha superato l’esame!