Sembra che, finora, le schede GeForce di Nvidia – i pilastri del gaming, ma anche del crescente ecosistema AI domestico – abbiano un segreto che non piace agli appassionati di calcolo ad alta intensità. Un limite hardware insostituibile è che determinati tipi di calcolo AI, in particolare quelli che si basano sull’accumulo a precisione doppia (FP32), vengono eseguiti a metà velocità. Questa limitazione è ben nota nella comunità e spinge i costruttori di sistemi AI a cercare soluzioni alternative. Tuttavia, la creatività open-source ha trovato una falla nel sistema. Progetti come ‘gpu-unlock’ si sono messi al lavoro per aggirare questo ‘collo di bottiglia’. Funzionando come un modulo del kernel Linux, questi strumenti riprogrammano i registri di selezione velocità della GPU prima che il driver ufficiale di Nvidia carichi, bypassando di fatto la restrizione di velocità e ripristinando la piena potenza di calcolo prevista. L’effetto è sbalorditivo: su schede di fascia alta, si è riscontrato un netto aumento nelle prestazioni di throughput, con alcuni benchmark che mostrano un quasi raddoppio del tasso di calcolo. Naturalmente, ci sono delle sfumature tecniche da considerare. Sebbene l’aumento della ‘velocità di emissione’ dei comandi sia enorme, i guadagni reali sui carichi di lavoro complessi e mattonati dal mondo reale (come l’addestramento di modelli sofisticati) sono più contenuti, ma comunque significativi. Per chi si dedica alla generazione di immagini o al fine-tuning di modelli linguistici, questi ‘sblocchi’ rappresentano un vero e proprio salvavita per chi non vuole sprecare fortune in workstation dedicate. L’implementazione, per ora, è più matura su Linux, lasciando i puristi del Windows a un’attesa (e a un pizzico di frustrazione) ulteriore.

🇬🇧 Summary in English

Turns out that Nvidia’s GeForce cards – the gaming workhorses that have become the go-to for home AI projects – might have a silent speed limit. The catch? Certain types of demanding AI calculations, especially those relying on high-precision accumulation (FP32), are inexplicably running at half speed, according to industry watchers. It’s a bottleneck that has frustrated the compute community for ages. But fear not, the open-source spirit has found a workaround. Projects like ‘gpu-unlock’ have emerged, acting like digital locksmiths to bypass this internal speed restriction. These tools function as Linux kernel modules that intercept the process *before* the official Nvidia driver loads. They essentially rewrite the GPU’s speed-select registers, restoring the full, intended computational power. The results are genuinely jaw-dropping, showing massive jumps in TFLOPS throughput across various benchmarks. Of course, technology never comes without caveats. While the raw ‘issue rate’ gains are staggering—with some card performance effectively doubling—real-world performance on complex, production-level workloads sees slightly smaller, though still massive, percentage improvements. For the end-user focusing on image generation or model fine-tuning, these ‘unlocks’ are nothing short of a game-changer, offering immense value to the budget-conscious builder. Currently, while the modding magic is largely stable on Linux, Windows users are still left waiting for their turn in the queue. It’s a thrilling moment in the DIY compute world, proving that sometimes, a clever piece of code is the best hardware upgrade.

Leggi l’articolo originale su Reddit →

Fonte: Reddit | Argomento: Hardware & Chip

#tecnologia #innovazione #technews