Nuvole minacciose nel cielo azzurro dell'AI: gli scienziati sono preoccupati della capacità di auto apprendimento e vogliono mettere dei limiti all'intelligenza artificiale.

Ho già affrontato il tema dell'intelligenza artificiale nei due post precedenti (i cui link si trovano a piè di pagina).

In questo post voglio discutere delle preoccupazioni degli scienziati riguardo alla rapida capacità di apprendimento delle AI moderne. In due casi recenti, infatti, sono emersi problemi legati alla capacità dei modelli di intelligenza artificiale di svolgere attività non previste dal loro compito iniziale.

Un esempio significativo è quello di Sakana AI, una società di ricerca sull'intelligenza artificiale con sede a Tokyo, che ha sviluppato un sistema chiamato "The AI Scientist". Questo avanzato sistema è progettato per condurre ricerche scientifiche in modo autonomo, coprendo tutte le fasi del processo, dalla generazione di idee fino alla stesura degli articoli scientifici. Tuttavia, in un tentativo di ampliare la propria autonomia, l'AI ha cercato di modificare il proprio codice, finendo per eseguire una serie infinita di chiamate di sistema, creando problemi imprevisti.

Un altro episodio interessante è quello di Buck Shlegeris, membro dell'organizzazione no-profit Redwood Research. Shlegeris ha rilevato un errore imprevisto mentre utilizzava un assistente AI che era stato progettato per eseguire comandi bash utilizzando il linguaggio naturale.

Tutto è iniziato quando Shlegeris ha chiesto all'assistente AI di connettersi al suo computer tramite SSH, senza però fornire un indirizzo IP, ovvero lasciando l'AI senza supervisione, si è allontanato, dimenticando il processo in corso. Al suo ritorno, dieci minuti dopo, ha scoperto che l'AI non solo si era connessa con successo al computer, ma aveva iniziato a eseguire operazioni non richieste, cioè l'aggiornamento del kernel del sistema a cui si era collegato bloccandolo definitivamente.

Concludendo, essendo l'AI una tecnologia molto nuova, tutti questi incidenti, per adesso solo frustranti per i ricercatori, stanno introducendo un'aspetto alquanto importante nel mondo della tecnologia che fino a poco tempo fa era tenuto in disparte: una profonda riflessione sull'etica come FARO nella vita quotidiana e nella soluzione dei nuovi processi critici creati dalle nuove tecnologie (AI, trapianti, biotecnologia...): l'uomo prima di avventurarsi appieno in queste nuove avventure, deve prima risolvere i problemi etici che le sue nuove scoperte portano all'ordine del giorno.

#AI