Metodo e dispositivo per comprimere una rete neurale
Informazioni sul brevetto
Numero di priorità
Data di priorità
Stato del brevetto
Licenza
TRL
Necessità di finanziamento
Parole chiave
Machine Learning, Edge Computing, Intelligenza Artificiale, Machine Vision, IoT
Team di ricerca | Inventori
Accediper visualizzare i dati
Accediper scaricare il PDF
Enhanced Edge Computing | Sensori
Ad oggi la maggior parte dei dispositivi elettronici usati in applicazioni critiche per la sicurezza eseguono applicazioni che sfruttano l'intelligenza artificiale (AI) e in particolare le reti convoluzionali (CNN). Tuttavia, le versioni più recenti delle CNN possono richiedere da MB a GB di memoria per i parametri necessari. Per affrontare tali problemi, molti ricercatori hanno fornito tecniche di potatura della rete per rimuovere neuroni ridondanti o pesi da modelli neurali sovraparametrizzati.
Il titolare di questo brevetto è attualmente in cerca di:
Questa invenzione si basa sulla legge della capacità di Shannon-Hartley (SHC) che in teoria dell'informazione definisce la velocità massima di trasmissione dell'informazione su un canale di comunicazione. Ispirandosi a questo, l'invenzione propone una formula per misurare la capacità di una sinapsi in una CNN, così da migliorare i calcoli edge e eseguire una strategia di potatura dei pesi più intelligente. L'invenzione mostra che rimuovere pesi la cui grandezza è prossima allo zero può essere pericoloso dal punto di vista dell'affidabilità e anche che la rimozione di pochissimi pesi critici può ridurne drasticamente la precisione. Come mostrado dai risultati sperimentali, la rimozione di un singolo peso avente il valore SHC più alto in una CNN ResNet-20 può produrre un calo di precisione di c.a. 26%, e la rimozione di soli cinque pesi analoghi può ridurre la CNN a un classificatore casuale.