Ne sentiamo parlare tutti i giorni ma cos’è veramente l’intelligenza artificiale? Jordi Iparraguirre, Innovation Manager di EURid, ha condiviso con noi le sue opinioni sui limiti e vulnerabilità legati alle reti neurali artificiali per mostrare anche il rovescio della medaglia dell’evoluzione tecnologica.
Indice dei contenuti:
L’intelligenza artificiale fa ormai parte della nostra quotidianità, ne parliamo tutti. Ma cos’è davvero l’intelligenza artificiale?
L’intelligenza artificiale (IA) è l’abilità di una macchina di mostrare capacità umane quali il ragionamento, l’apprendimento, la pianificazione e la creatività. Ad esempio il riconoscimento di immagini e testi, il raggruppamento di elementi in classi, il riconoscimento vocale, l’identificazione di schemi complessi in base a migliaia di parametri, ecc.
Il modello di programmazione utilizzato nei sistemi di intelligenza artificiale è diverso da quello utilizzato nei sistemi tradizionali. Nei sistemi tradizionali si riceve un input, si scrive un insieme di regole sequenziali per elaborare quell’input e si ottiene un output. Ad esempio, per calcolare l’IVA per un determinato prodotto, si introduce il prezzo del prodotto come input, si moltiplica quel valore per l’imposta da applicare (%), e si ottiene l’importo dell’imposta (€) da applicare a quel prodotto specifico. Inserendo un prezzo diverso, otterremo l’imposta da applicare ad un prodotto diverso.
Le tecniche di intelligenza artificiale funzionano invece in modo differente. Inizialmente il sistema viene “istruito” tramite l’inserimento sia dei dati di input che dell’output desiderato. Ad esempio, al sistema vengono mostrate delle immagini e si insegna al sistema che queste immagini mostrano delle mele, altre immagini mostrano arance e via dicendo. Al sistema di intelligenza artificiale viene poi chiesto di sviluppare, da solo, un insieme di regole che gli consentano di classificare correttamente una nuova immagine. Se però alla macchina viene mostrato un tipo di frutto diverso da quello mostrato al sistema inizialmente, oppure un frutto già inserito nella macchina ma in un contesto o con caratteristiche diverse da quelle mostrate durante la fase di “addestramento” della macchina (ad esempio una mela blu, invece che verde), il sistema potrebbe non essere in grado di classificarlo.
Le tecniche di intelligenza artificiale hanno diversi rami di studio e sviluppo. Alcuni anni fa venivano definite “sistemi esperti” e utilizzavano un insieme specifico di algoritmi e linguaggi. Oggi le reti neurali e l’apprendimento automatico (“Machine Learning”) hanno preso il sopravvento utilizzando nuovi algoritmi che sono possibili grazie alla potenza di calcolo sempre crescente e alle enormi quantità di dati offerti da una società digitalizzata.
Si parla sempre dei vantaggi legati alle reti neurali artificiali, quali sono invece i principali limiti e come vengono affrontati?
Le reti neurali sono un potente strumento per gestire dati non strutturati, ad esempio immagini o suoni. I loro aspetti teorici non sono nuovi. Il primo modello computazionale è stato sviluppato nel 1943 con ulteriori sviluppi a partire dagli anni settanta con i primi computer nei centri di ricerca. Ma i limiti di velocità e di memoria dei computer dell’epoca ostacolavano fortemente il loro utilizzo e la loro adozione. È stato solo all’inizio del nuovo millennio (anche se sarebbe meglio parlare di “secolo”, per essere meno drammatici) che i processori e i dispositivi di memoria hanno acquisito capacità tali da poter gestire le enormi quantità di dati necessarie per offrire soluzioni pratiche al di là degli studi teorici.
Oggi le reti neurali sono alla base del funzionamento di applicazioni e soluzioni che utilizziamo quotidianamente e che si trovano persino nei nostri telefoni cellulari. Tuttavia, nonostante riescano a svolgere la loro funzione, spesso risulta difficile comprendere la ragione che spiega il perché di un certo risultato.
Siamo in grado di comprendere la matematica che governa l’intero processo, cominciamo a capire i meccanismi di azione dei diversi livelli di neuroni artificiali, ma non è ancora chiaro, ad esempio, quale sia il numero di livelli effettivamente necessario per rendere il risultato ottimale. In alcuni casi si procede per tentativi ed errori, secondo un percorso che ricorda più l’arte che l’ingegneria. Nonostante questo le applicazioni commerciali delle reti neurali muovono milioni di euro e ci sono gruppi di esperti che lavorano su metodi che ci aiuteranno a capirle e ottenere un’intelligenza artificiale spiegabile, dove sia possibile conoscere il motivo di un certo risultato.
Stiamo assistendo ad un crescente utilizzo dell’AI e dei sistemi intelligenti applicati a diversi ambiti. Come gli attaccanti sfruttano le vulnerabilità e i punti deboli? Ci sono degli esempi di rilievo da condividere?
Esistono diverse tecniche denominate “Adversarial”.
Se si conoscono il tipo e la qualità dei dati utilizzati per istruire il sistema di intelligenza artificiale, è possibile sviluppare contromisure per “confondere” il sistema.
Un esempio interessante può essere quello delle magliette con immagini e colori che possono ingannare un sistema di intelligenza artificiale per l’identificazione delle persone. Un altro esempio è quello degli adesivi incollati sui segnali stradali, utilizzati per ingannare le telecamere delle auto che leggono i segnali stradali. Esistono anche sistemi per sabotare i filtri anti-spam e quindi fare arrivare messaggi indesiderati nella nostra casella di posta elettronica.
Un aspetto importante da considerare nell’intelligenza artificiale è quello dei cosiddetti “pregiudizi” o “bias” (può accadere che alcuni sistemi siano discriminanti, come quelli, ad esempio, che non sono in grado di identificare le persone con la pelle più scura). Molte volte questo è dovuto a una progettazione e a un addestramento non corretti del sistema di intelligenza artificiale. I sistemi di intelligenza artificiale devono essere nuovamente “istruiti” ed essere in grado di accettare feedback da utenti o fonti affidabili per adattarsi ai cambiamenti dell’ambiente e ai dati che essi stessi elaborano.
In fin dei conti l’aspetto più importante è rappresentato dalla qualità dei dati utilizzati per addestrare il sistema di intelligenza artificiale. Ad esempio può accadere che il numero di esempi inserito nella macchina non sia sufficiente, che siano inseriti esempi la cui interpretazione è facilmente oggetto di distorsione, oppure che la macchina sia stata istruita con dati di scarsa qualità. Una frase spesso utilizzata nel campo dell’informatica è “Garbage In, Garbage Out” (GIGO), cioè un risultato di scarso valore (garbage out) deriva da un insieme di dati in entrata di scarso livello qualitativo (garbage in).
Come viene applicata l’intelligenza artificiale in EURid?
EURid utilizza sistemi basati sull’intelligenza artificiale a vari livelli. Uno, e forse il più noto, è il pluripremiato sistema APEWS (Abuse Prevention and Early Warning System) che analizza le probabilità che un nome a dominio sia utilizzato per scopi illeciti. In tal caso il nome a dominio viene comunque registrato, ma non delegato. Il nostro ufficio legale avvia una procedura per verificare l’identità del titolare. Se il titolare non risponde o non è in grado di provare la propria identità, il dominio viene sospeso.
Un’altra area in cui EURid applica l’intelligenza artificiale è la classificazione automatica dei siti web associati a nomi a dominio .eu. Ad esempio, sapere come i titolari dei nomi a dominio .eu li utilizzano, ci permette di sviluppare al meglio future campagne di marketing.
