WiMi lancia QB-Net: Il Deep Learning ibrido riduce i parametri di 30 volte

WiMi Hologram Cloud Inc. ha presentato QB-Net (Quantum Bottleneck Network), un'architettura ibrida quantistico-classica che inserisce un modulo quantistico nel bottleneck di una U-Net.

Secondo i risultati riportati dall'azienda, il modulo può ridurre il numero di parametri del bottleneck layer fino a 30 volte, con prestazioni comparabili a una baseline classica nel test considerato. Il dato non implica una riduzione equivalente dei costi complessivi: encoding, esecuzione del circuito, misurazioni e comunicazione con la parte classica restano parte della pipeline.

Limiti dell'hardware attuale

Il vantaggio teorico del quantum computing risiede nella capacità di gestire informazioni ad alta dimensione attraverso la sovrapposizione dei qubits. Questo permette operazioni lineari in spazi vettoriali esponenzialmente più vasti rispetto alle architetture classiche.

Tuttavia, l'hardware quantistico attuale non è ancora maturo per supportare Neural Networks quantistiche su larga scala o per costruire interamente un Transformer quantistico.

WiMi ha aggirato questo ostacolo con un approccio pragmatico: invece di quantizzare l'intero modello, ha sviluppato moduli di potenziamento quantistico specifici. L'idea è rendere il calcolo quantistico una parte preziosa, ma mirata, dell'intero sistema.

Quantum Bottleneck: come funziona

QB-Net parte dall'idea di intervenire sul bottleneck layer, il punto della rete in cui le rappresentazioni hanno un'elevata densità di feature.

Mentre una rete classica può usare matrici dense per mappare queste caratteristiche, un circuito quantistico rappresenta lo stato in uno spazio di dimensione esponenziale rispetto al numero di qubits. Questa proprietà non equivale però a una compressione gratuita: preparazione dello stato, numero di misurazioni e rumore hardware possono annullare il vantaggio teorico.

Il processo di QB-Net si articola in tre fasi principali:

• Encoding: le feature classiche vengono mappate in stati quantistici.
• Quantum Processing: Trasformazione tramite circuiti quantistici ottimizzati.
• Decoding: Lo stato quantistico viene misurato e ricostruito in un tensor classico tramite un modulo di integrazione e correzione, per poi essere reimmesso nel percorso di decoding della U-Net.

Un modulo integrabile nella U-Net

Uno degli aspetti interessanti per i ricercatori è la separazione del modulo quantistico dal resto della U-Net.

QB-Net mantiene la struttura complessiva della U-Net, inclusi encoder, percorso di upsampling e skip connection. L'integrazione richiede comunque adattamenti alle interfacce, al simulatore o alla QPU e al processo di addestramento: non è automaticamente plug-and-play in ogni implementazione.

Limiti e prospettive

QB-Net è una proposta per valutare il calcolo quantistico in una parte circoscritta di una rete neurale. I risultati disponibili non bastano da soli a dimostrare un vantaggio pratico generale rispetto a U-Net classiche.

Per capire se il metodo sia utile servono confronti riproducibili su dataset diversi, costi di esecuzione completi e test su hardware quantistico reale. Solo dopo queste verifiche sarà possibile stabilire se il modulo offra un vantaggio rispetto a una compressione o a una riduzione classica dei parametri.

Approfondimento: la matematica del quantum encoding

Per comprendere come QB-Net riesca a ridurre i parametri di 30 volte nel bottleneck, dobbiamo guardare a come i dati vengono rappresentati. Nel deep learning classico, le informazioni sono memorizzate come numeri reali in vettori o tensori. Nel quantum computing, operiamo in uno spazio di Hilbert complesso.

Il vantaggio teorico riguarda la dimensionalità. Uno spazio di stati quantistici di $n$ qubit ha dimensione $2^n$. L'amplitude encoding consente di rappresentare un vettore in uno spazio compatto, ma la preparazione dello stato può essere costosa e non è automaticamente efficiente in una pipeline completa.

1. Dal tensore al qubit: encoding

Consideriamo un vettore di feature classico $x$ nel bottleneck, con $N$ elementi. In una semplice trasformazione densa classica servirebbe una matrice di pesi $N \times N$.

In un modulo quantistico, possiamo mappare questo vettore $x$ nell'ampiezza di uno stato quantistico $|\psi\rangle$ utilizzando solo $n = \log_2 N$ qubits.

Formalmente, se il vettore classico è normalizzato tale che $\sum |x_i|^2 = 1$, lo stato quantistico può essere rappresentato come:

Dove $|i\rangle$ sono gli stati della base computazionale, per esempio $|00...0\rangle$ e $|00...1\rangle$. In questa rappresentazione, un vettore di 1024 feature può essere codificato con 10 qubit; il costo della preparazione dello stato resta però da considerare.

2. Il circuito variazionale: processing

Una volta che i dati sono nello stato quantistico, il "processing" avviene tramite un Parameterized Quantum Circuit (PQC), che agisce come l'equivalente quantistico di un layer di rete neurale.

Il PQC applica una trasformazione unitaria $U(\theta)$, dove $\theta$ sono i parametri addestrabili (gli angoli di rotazione delle porte quantistiche). L'operazione è lineare nello spazio degli stati, ma può modellare correlazioni complesse grazie all'entanglement.

L'evoluzione dello stato è descritta da:

A differenza di una rete classica dove i parametri scalano con il quadrato dell'input ($N^2$), in un circuito quantistico ben progettato il numero di parametri $\theta$ può scalare polinomialmente o linearmente con il numero di qubits $n$, portando al drastico risparmio di memoria citato da WiMi.

3. La misura: decoding

Per reinserire l'informazione nella U-Net classica (il decoder), dobbiamo estrarre informazioni classiche dallo stato quantistico. Questo avviene calcolando il valore atteso di un operatore osservabile, solitamente l'operatore di Pauli $Z$ su vari qubits.

L'output $y_k$ per il $k$-esimo qubit sarà:

Questo valore scalare viene poi passato attraverso una funzione di attivazione o un layer lineare classico per riadattare le dimensioni al tensore richiesto dalla U-Net. Il collo di bottiglia non è solo una compressione dati, ma una proiezione in uno spazio dove le operazioni di convoluzione vengono sostituite da rotazioni unitarie in uno spazio di Hilbert ad alta dimensionalità.