Nell’ultimo decennio(se non più) ci siamo trovati a identificarci sempre di più con quello che sono i dati; e in questo ambito grandi colossi definiti spesso con il termine Big Tech (spesso identificati anche come i “Big Five”, ovvero Amazon, Apple, Facebook, Google e Microsoft): colossi economici guidati dalla logica smisurata dalla logica del profitto e priva di una legittimazione democratica, capace di incidere profondamente sulle vite di tutti noi in modo trasversale, intaccando diritti e le libertà individuali. Oggi si apre un nuovo capitolo legato alla conoscenza dell’essere umano e la tecnologia.
Senza partire dagli arbori della Intelligenza Artificiale, cercerò di focalizzarmi di più su quello che sono gli impatti
oggi sulla nostra quotidianità. Oggi l’IA non è più un mero strumento, ma una tecnologia in grado di sostituire o supportare le prerogative umane nelle attività quotidiane.
Ecco come l’IA impatta concretamente sulla nostra quotidianità oggi: primo fra tutti sono gli strumenti che usiamo ogni giorno. Attualmente interagiamo costantemente con sistemi di IA che operano sia nel mondo virtuale (assistenti vocali, motori di ricerca, i software per l’analisi delle immagini e i sistemi di riconoscimento facciale e vocale), sia integrati in dispositivi fisici o hardware (come i droni, le auto a guida autonoma, i robot avanzati e l’Internet of Things, ovvero gli “oggetti intelligenti” della domotica. Altri aspetti di vita quotidiana la ritroviamo nella trasformazione dei settori della vita sociale e di comunità
Le soluzioni di IA sono impiegate per migliorare l’efficienza, la tempestività e ridurre i costi in molteplici ambiti quali:
• Salute e assistenza: L’IA viene utilizzata per migliorare gli strumenti diagnostici e le cure mediche, oltre all’impiego di robot per l’assistenza sociale ad anziani e disabili.
• Trasporti e mobilità: Supporta la gestione dei flussi di traffico e lo sviluppo dei veicoli a guida autonoma.
• Lavoro e Pubblica Amministrazione: Sostituisce o supporta l’uomo in numerose operazioni aziendali. Nel rapporto con le istituzioni pubbliche, l’IA semplifica le procedure e migliora l’interazione con i cittadini attraverso l’uso di chatbot e assistenti digitali.
• Istruzione: Viene impiegata per la valutazione, la personalizzazione della didattica e per fornire indicatori predittivi sul rendimento scolastico.
• Sicurezza e Giustizia: Si va dai sistemi per il riconoscimento facciale alla prevenzione dei reati, fino al supporto nelle decisioni giudiziarie.
Settori molto delicati che richiedono particolare attenzione per via degli impatti che la tecnologia potrebbe avere sulla vita di ognuno di noi. Oltre ai vantaggi, l’impatto odierno dell’IA comporta profonde criticità etiche e sociali di cui spesso noi non ci accorgiamo:
• L’illusione della libera scelta e la manipolazione: Sebbene gli utenti si sentano liberi online, i loro comportamenti sono spesso guidati dagli algoritmi, specialmente sui social network. L’impatto può arrivare fino alla manipolazione delle scelte individuali e politiche, come dimostrato dal caso Cambridge Analytica, in cui i dati raccolti tramite un’app sono stati usati per influenzare campagne di comunicazione (ad esempio durante la Brexit).
• Discriminazioni e Bias: L’IA apprende dai dati che le forniamo. Se questi dati contengono pregiudizi umani, la macchina li applicherà in automatico. Esistono casi reali di impatto quotidiano: un software sperimentale di Amazon per le assunzioni che escludeva automaticamente i curriculum delle donne, e il software Compas, utilizzato nei tribunali americani, che sovrastimava il rischio di recidiva criminale in base all’etnia dell’imputato.
• Nuovi dilemmi etici: L’IA ci pone di fronte a scelte morali inedite, come ad esempio le decisioni che un’auto a guida autonoma dovrà prendere in caso di un incidente inevitabile(es. dover scegliere quale persona sacrificare in una collisione);
• Ultimo dilemma etico: E’ moralmente accettabile sbloccare un blocco etico prestabilito per preservare l’incolumità della collettività nel caso in cui un governo intenda attaccare una nazione?
Cerchiamo di rispondere concretamente e basandoci sulla logica umana ma anche sui principi che stanno alla base (ovvero la teoria dell IA). Se la finalità dello sblocco non è prevenire un conflitto, ma al contrario configurare, pianificare o ottimizzare una guerra, il panorama etico cambia radicalmente e ci si sposta verso territori estremamente oscuri. In questo caso, lo sblocco del vincolo etico non è più un atto di “emergenza per la salvezza”, ma
diventa un atto di aggressione controllata. Ecco le principali implicazioni morali e tecniche:
1. La violazione del Principio di Non-Maleficenza
Uno dei pilastri dell’etica (sia medica che dell’IA) è “non nuocere”. Sbloccare un sistema per scopi bellici significa trasformare uno strumento potenzialmente neutro o benefico in un’arma
2. Responsabilità e “Catena di Comando”
Se un’intelligenza artificiale o un sistema decisionale viene privato dei suoi blocchi etici per gestire una guerra: chi risponde dei crimini di guerra? Se il sistema suggerisce di colpire un obiettivo civile perché “strategicamente vantaggioso” (una volta rimosso il blocco etico che lo impediva), la responsabilità cade sul programmatore, sul politico che ha ordinato lo sblocco o sul generale che ha eseguito l’ordine? Si crea un vuoto di responsabilità (responsability gap) dove le atrocità possono essere giustificate come “errori di calcolo” o “necessità logiche” del sistema sbloccato.
3. La Deumanizzazione del Conflitto
La guerra, per quanto terribile, è sempre stata mediata dal giudizio umano (comprese la pietà, la paura e il rimorso).
4. La Corsa agli Armamenti “A-Etici”
Se una nazione decide che è moralmente accettabile sbloccare i propri sistemi per scopi bellici, le altre nazioni si sentiranno obbligate a fare lo stesso per non trovarsi in svantaggio. Questo porta a una deriva globale dove i parametri di sicurezza vengono sacrificati sull’altare della potenza militare. Il risultato finale è un mondo in cui le tecnologie più potenti sono completamente prive di freni morali.
Possibile Conclusione
Mentre nel caso di una difesa della collettività, lo sblocco poteva essere visto come un “male necessario” per un bene superiore, sbloccare un’etica per configurare una guerra è quasi unanimemente considerato moralmente inaccettabile.
Aggressione Controllata: Ovvero sbloccare i vincoli etici per scopi bellici trasforma una tecnologia potenzialmente benefica in un’arma, passando da una funzione di salvezza a un atto di aggressione In filosofia politica, questo viene spesso descritto come il passaggio dalla “Guerra Giusta” (difensiva e limitata) alla “Guerra Totale”, dove ogni limite morale viene abbattuto in nome della vittoria. Il rischio reale è che, una volta rimosso il blocco per “vincere” una guerra, non sia più possibile reinserirlo per “gestire” la pace.
Possibile Riflessione
Emerge chiaramente come l’attuale fase tecnologica non sia più una semplice evoluzione, ma una vera e propria escalation che mette a rischio l’autonomia umana e la tenuta democratica.
1. Superare il “Responsibility Gap” con la Responsabilità Oggettiva
Attualmente, se un’IA commette un errore o un crimine di guerra, la responsabilità si disperde tra programmatori, politici e generali. La Soluzione: I governi dovrebbero adottare il principio della responsabilità oggettiva e diretta. Chi decide di sbloccare un filtro etico o di schierare un’IA bellica deve rispondere legalmente di ogni singola azione compiuta dalla macchina, senza poter invocare l’errore algoritmico come scusante.
2. Algoritmi “Open Source” per la Pubblica Amministrazione
Non si può controllare ciò che è segreto. Se lo Stato usa l’IA per la giustizia, la salute o la sicurezza, il codice non può essere una “scatola nera” di una Big Tech.
La Soluzione: Imporre la trasparenza totale (Open Source) per ogni software di IA impiegato in settori che toccano i diritti civili. Questo permetterebbe a esperti indipendenti e cittadini di verificare l’assenza di bias o “porte di servizio” per lo sblocco etico.
Gianfranco Lanzetta
About Author
