Dalla ricerca IBM arriva una potenziale rivoluzione nel campo della tecnologia delle comunicazioni ottiche che potrebbe migliorare notevolmente il modo in cui i data center addestrano ed eseguono i modelli di AI generativa.

Nel dettaglio, i ricercatori di Big Blue hanno sperimentato un nuovo processo per l'ottica co-packaged (CPO), la tecnologia ottica di prossima generazione, che permetterà di connettere i data center alla velocità della luce tramite componenti ottici a complemento degli attuali cavi elettrici a corto raggio. Avendo progettato e assemblato il primo esempio funzionante di guida d'onda ottica in polimero (PWG), i ricercatori IBM hanno dimostrato come la tecnologia CPO ridefinirà il modo in cui vengono trasmessi i dati tra chip, schede di circuiti e server con un'elevata larghezza di banda.

Attualmente, la tecnologia in fibra ottica trasporta i dati ad alta velocità su lunghe distanze, gestendo quasi tutto il traffico commerciale e delle comunicazioni del mondo tramite luce anziché elettricità. Sebbene i data center utilizzino la fibra ottica per le loro reti di comunicazione esterne, i rack continuano a utilizzare principalmente cavi elettrici in rame per le comunicazioni interne. Questi cavi collegano gli acceleratori di GPU, i quali possono rimanere inattivi per più della metà del loro ciclo di vita in attesa di ricevere i dati durante l’addestramento dei modelli distribuito su larga scala, comportando spese e consumi di energia significativi.

I ricercatori IBM presso i laboratori di Albany nello stato di New York e di Bromont nel Quebec hanno dimostrato un modo per portare la velocità e la capacità dell'ottica all'interno dei data center. In un articolo scientifico, appena pubblicato in versione preliminare su arXiv, IBM presenta un nuovo prototipo di un modulo CPO in grado di abilitare la connettività ottica ad alta velocità. Questa tecnologia potrebbe aumentare in modo significativo la larghezza di banda delle comunicazioni dei data center, riducendo al minimo i tempi di inattività delle GPU e accelerando notevolmente i processi di AI.

Come descritto nell’articolo, questa innovazione consentirebbe di ridurre i costi per scalare l'AI generativa, grazie a una diminuzione del consumo energetico di oltre 5 volte rispetto alle interconnessioni elettriche di fascia media, estendendo al contempo la lunghezza dei cavi di interconnessione dei data center da un metro a centinaia di metri; addestrare più rapidamente i modelli di AI, consentendo agli sviluppatori di creare un Large Language Model (LLM) fino a cinque volte più velocemente; aumentare notevolmente l'efficienza energetica dei data center, con un risparmio energetico equivalente al consumo annuo di 5.000 abitazioni per ogni modello di AI addestrato.

“Poiché l'AI generativa richiede più energia e potenza di elaborazione, il data center deve evolversi e l'ottica co-packaged può rendere questi data center adatti alle esigenze future. Con questa innovazione, i chip di domani comunicheranno come i cavi in fibra ottica che trasportano i dati all'interno e all'esterno dei data center, inaugurando una nuova era di comunicazioni più veloci e sostenibili in grado di gestire i carichi di lavoro dell'AI del futuro”, commenta Dario Gil, SVP e Direttore della Ricerca di IBM.