Traverso (Fbk): «L’intelligenza artificiale non va fermata, ma servono sistemi per evitare che sia fuori controllo»

«È una questione di marketing, non credo si rallenterà», spiega Paolo Traverso, direttore della pianificazione strategica della Fondazione Bruno Kessler (Fbk). L’intelligenza artificiale (AI) divide. È uno strumento potenzialmente utilissimo, ma spaventa. E queste consapevolezze hanno raggiunto gli stessi sviluppatori della tecnologia, con i colossi mondiali del settore che hanno iniziato a lanciare allarmi. Ultimo, l’amministratore delegato di Anthropic, che invita a rallentare. E Mask che gli dà ragione. Mosse principalmente di «marketing», per Traverso.
Nel dibattito attuale gli stessi sviluppatori di AI adesso invitano a rallentare. Lei cosa ne pensa?
«A me sembra una manovra di marketing, non credo si rallenterà. Mi fa ridere che siano loro ad invitarci a rallentare, perché chiaramente hanno un puro obiettivo di business, e va bene così. Dicono che vada fermata perché l’umanità altrimenti si estingue? Io invece sono più preoccupato del fatto che queste aziende dettino legge. Cosa dev’essere fatto e cosa non dev’essere fatto, perché il loro bene non è necessariamente quello delle persone».
E Trump sostiene che non vada regolamentata invece…
«Certo che va regolamentata, e vanno creati sistemi che soddisfino queste regole, ma le regole non devono essere imposte da loro».
Questi toni allarmistici che impatto possono avere?
«Penso proprio abbiano un effetto negativo perché favoriscono il rigetto verso l’AI. Già tante persone ne hanno paura. Lanciare queste affermazioni non fa altro che aumentare lo scetticismo».
Non va dunque rallentata o fermata questa tecnologia?
«Fermare o rallentare non so se abbia molto senso, anche perché ci sarà sempre qualcuno che troverà il modo di utilizzarla. Bisogna lavorare per sviluppare una tecnologia capace di essere autonoma in alcune situazioni, ma in altre ben controllata. Quello che fa paura adesso sono gli agenti AI che prendono decisioni in maniera autonoma, ma decisioni in modo autonomo possono essere prese per salvare vite. Servono sistemi per evitare che vada fuori controllo, non rallentare o fermarla».
Ci può fare un esempio?
«Si possono imporre dei vincoli per cui quando si addestra il sistema, non riesce ad eliminare questi vincoli. Nella pratica vuol dire che gli agenti AI non possono prendere una decisione autonoma quando non devono, ad esempio. Sembra scontato ma se ponessimo questi vincoli prenderebbero le decisioni autonomamente solo quando è consentito».
Quindi le regole da sole non bastano…
«No, servono dei sistemi che riescono a verificarle e misurare quanto siano affidabili. Avere solo le regole, non è sufficiente. Bisogna avere sistemi che le soddisfino».
E in termini di legislazione in materia come sia messi in Unione Europea?
«Le regole le abbiamo, poi magari vanno affinate e portate alla velocità della AI. E in questo dobbiamo essere tutti bravi a lavorare in maniera multidisciplinare, non solo tecnica».
È innegabile però che sia una tecnologia che presenta dei rischi. Quali possono essere?
«È una tecnologia potentissima che può essere usata per fare armi sempre più micidiali banalmente. Se faccio un sistema autonomo e questo va in giro sulla rete, può diventare una minaccia alla nostra sicurezza. In generale direi che l’AI si sta dimostrando molto più potente rispetto a quello che ci si immaginava pochi anni fa. Ma non si deve fermare perché la tecnologia non può essere fermata. Il rischio c’è, bisogna esserne consapevoli, ma allo stesso tempo può essere uno strumento utilissimo».
In Trentino abbiamo strumenti per intervenire?
«In Trentino abbiamo realtà come Fbk, ma anche l’Università di Trento, che stanno andando nella direzione giusta. Non c’è nulla di specifico riguardo a quello di cui abbiamo parlato ma ci sono progetti molto validi».
Le aziende del territorio, anche quelle più piccole, riescono a sfruttare il potenziale dell’AI?
«C’è molto interesse ma le aziende piccole sono un po’ spaesate. Lavorare assieme a loro può aiutare».
In che modo?
«In generale, per affrontare questo tema, si invita spesso a fare formazione alle aziende per prepararle all’utilizzo dell’AI, ma noi lavoriamo in modo un po’ diverso. Quello che stiamo facendo è rovesciare il paradigma. Prima capire i bisogni di una azienda, poi capire se e quale AI può essere utilizzata, e infine fare dei laboratori congiunti dove assieme, ricercatori e imprese, lavorano. In questo modo facciamo innovazione assieme».
Questo sistema porta beneficio anche al ricercatore?
«I ricercatori sono contentissimi perché hanno una nuova sfida davanti. Naturalmente non è detto che succeda sempre, alcune volte si tratta solo di applicare tecnologie che conosciamo, ma altre volta ci si trova davanti a sfide interessanti e stimolanti per i ricercatori».