માટે માળખાગત સુવિધાઓની માંગ મોટા પાયે કૃત્રિમ બુદ્ધિ આજના ડેટા સેન્ટરોને મુશ્કેલીમાં મુકી દીધા છે. જગ્યા, શક્તિ અને ઠંડક તેમની મર્યાદામાં હોવાથી, ફક્ત ઇમારતની અંદર વિકાસ કરવો હવે પૂરતો નથી. આ સંદર્ભમાં, Nvidia રજૂ કરે છે સ્પેક્ટ્રમ-XGS ઇથરનેટ, એક એવી ટેકનોલોજી જે દૂરસ્થ સુવિધાઓને જોડે છે જેથી તેઓ એક તરીકે કાર્ય કરે.
આ દરખાસ્ત AI માટે ત્રીજો સ્કેલિંગ અભિગમ રજૂ કરે છે: આ ઉપરાંત સ્કેલ-અપ (સિસ્ટમનો વિસ્તાર કરો) અને સ્કેલ-આઉટ (વધુ ગાંઠો ઉમેરો), ઉમેરો સમગ્ર ક્ષેત્રમાં ભૌગોલિક રીતે અલગ થયેલા ડેટા સેન્ટરોને જોડવા માટે. ધ્યેય બહુવિધ સાઇટ્સને સાચામાં રૂપાંતરિત કરવાનો છે એઆઈ "સુપરફેક્ટરીઓ" અનુમાનિત કામગીરી અને સ્થાનો વચ્ચે ઓછી વિલંબતા સાથે.
સ્પેક્ટ્રમ-XGS ઈથરનેટ શું છે અને તે કઈ સમસ્યાનું નિરાકરણ લાવે છે?
જ્યારે ડેટા સેન્ટર તેની ક્ષમતા મર્યાદા સુધી પહોંચે છે શક્તિ, ઘનતા અને ઠંડક, વધુ સ્કેલિંગ જટિલ બને છે. વધુ રેક્સ જમાવવાની પણ ભૌતિક મર્યાદાઓ છે. હજારો પ્રોસેસરોને રિમોટલી સિંક્રનાઇઝ કરવા માટે પણ નેટવર્કની જરૂર પડે છે સ્થિર વિલંબતા અને ખૂબ જ સૂક્ષ્મ ભીડ નિયંત્રણ, જે સામાન્ય ઇથરનેટ ગેરંટી આપતું નથી. આ તે જગ્યા છે જ્યાં સ્પેક્ટ્રમ-XGS ઇથરનેટ આવે છે.
તે ઇકોસિસ્ટમનો ઉત્ક્રાંતિ છે એનવીડિયા સ્પેક્ટ્રમ-એક્સ ઇથરનેટ જે તેના પ્રદર્શનને એક જ સુવિધાથી આગળ વધારે છે. વિચાર એ છે કે વિવિધ સ્થળોએ AI ચિપ્સ એક જ "સુપરચિપ" તરીકે કાર્ય કરે છે, જે ખડકલો અને સ્થાનો વચ્ચે સુસંગત પ્રતિભાવ સમય પ્રદાન કરે છે.
તે કેવી રીતે કાર્ય કરે છે: અંતર-આધારિત ભીડ નિયંત્રણ અને એન્ડ-ટુ-એન્ડ ટેલિમેટ્રી
ચાવી એલ્ગોરિધમ્સમાં છે જે નેટવર્કને અનુસાર ગોઠવે છે કેન્દ્રો વચ્ચેનું અંતર, ઓટોમેટિક કન્જેશન કંટ્રોલ, ચોક્કસ લેટન્સી મેનેજમેન્ટ લાગુ કરવું અને એન્ડ-ટુ-એન્ડ ટેલિમેટ્રીઆ ત્રણેય તકનીકો તાલીમ અથવા અનુમાન પ્રદર્શનને દંડિત કર્યા વિના, લોડ સ્પાઇક્સ વિના, દૂરસ્થ ક્લસ્ટરો વચ્ચે ટ્રાફિકનું સંકલન કરવાની મંજૂરી આપે છે.
આ ક્ષમતાઓ સાથે, Nvidia દાવો કરે છે કે સ્પેક્ટ્રમ-XGS ઇથરનેટ તેની લાઇબ્રેરી સાથે પરીક્ષણમાં સિદ્ધિઓ મેળવે છે એનસીસીએલ લગભગ કામગીરીમાં વધારો 1,9x ડેટા સેન્ટરો વચ્ચેના લાક્ષણિક ઇથરનેટ નેટવર્ક્સની તુલનામાં. વ્યવહારમાં, તે સંદેશાવ્યવહાર માટે અસરકારક ગતિ કરતાં "લગભગ બમણી" છે. મલ્ટી-GPU અને મલ્ટી-નોડ જ્યારે લોડને સ્થાનો વચ્ચે વહેંચવામાં આવે છે.
માપી શકાય તેવું પ્રદર્શન અને પ્લેટફોર્મ મેટ્રિક્સ
NCCL માં ઉછાળા ઉપરાંત, પ્લેટફોર્મ પોતે સ્પેક્ટ્રમ-એક્સ ઇથરનેટ જેમાં XGS સંકલિત છે તે લગભગ બેન્ડવિડ્થ ઘનતા પ્રદાન કરે છે ૪.૩ ગણું વધારે પ્રમાણભૂત ઇથરનેટ સોલ્યુશન્સ માટે. આ સંયોજનનો હેતુ નેટવર્ક ફેબ્રિકને ફીડ કરવા સક્ષમ બનાવવાનો છે GPU ફાર્મ્સ બહુ-ભાડૂત અને હાઇપરસ્કેલ પરિસ્થિતિઓમાં પણ, ઓછા અવરોધો સાથે સ્કેલ પર.
પરિણામ એ છે કે બહુવિધ ડેટા સેન્ટરો એક તરીકે કાર્ય કરો, લાંબા અંતર પર વધુ અનુમાનિત વર્તન સાથે. આ વિવિધ પ્રદેશોમાં ફેલાયેલા વિશાળ મોડેલોને તાલીમ આપવાથી લઈને ક્ષમતા વિસ્તરણ સુધીની દરેક બાબતને સરળ બનાવે છે. વિદ્યુત અથવા થર્મલ સ્થાપત્ય દરેક મુખ્યાલયના.
ટેકનિકલ આધાર: સ્પેક્ટ્રમ-એક્સ સ્વિચ અને કનેક્ટએક્સ-8 સુપરએનઆઈસી
સ્પેક્ટ્રમ-XGS ઇથરનેટ Nvidia ના નેટવર્ક પ્લેટફોર્મમાં સંકલિત થાય છે અને તેના પર આધાર રાખે છે સ્પેક્ટ્રમ-એક્સ સ્વીચો અને માં કનેક્ટએક્સ-8 સુપરએનઆઈસીઇથરનેટની પસંદગી આકસ્મિક નથી: જોકે Nvidia ઉચ્ચ-પ્રદર્શન વાતાવરણમાં InfiniBand ને આગળ ધપાવી રહી છે, ઇથરનેટ માનક સર્વવ્યાપી છે અને પહેલાથી જ તૈનાત માળખામાં દત્તક લેવાની સુવિધા આપે છે.
સમાંતર રીતે, Nvidia આગળ વધવાનું ચાલુ રાખે છે સિલિકોન ફોટોનિક્સ સાથે સ્વિચિંગ તેના સ્પેક્ટ્રમ-એક્સ અને ક્વોન્ટમ-એક્સ પરિવારમાં, એક એવો માર્ગ જેનો ઉદ્દેશ લાખો લોકોને જોડવાનો છે સ્થળો વચ્ચેના GPU ઓછા વીજ વપરાશ અને સંચાલન ખર્ચ સાથે. આ ભાગો સ્પેક્ટ્રમ-XGS દ્વારા સક્ષમ "સ્કેલ-એક્રોસ" અભિગમ સાથે બંધબેસે છે.
ઉપયોગના કેસ અને પ્રથમ જમાવટ
નવી માળખાગત સુવિધા સ્વીકારનારા સૌપ્રથમ લોકોમાંનો એક છે કોરવેવ, ક્લાઉડ AI ક્ષમતાઓમાં નિષ્ણાત પ્રદાતા. તેના CTO, પીટર સાલંકી, નોંધે છે કે તેના કેન્દ્રોને એકમાં જોડવાથી યુનિફાઇડ સુપર કોમ્પ્યુટર AI પ્રોજેક્ટ્સને એવા સ્કેલ પર ઓફર કરવાની મંજૂરી આપશે જે અત્યાર સુધી પ્રાપ્ત કરવું મુશ્કેલ હતું.
"એઆઈ ફેક્ટરી તરીકે ડેટા સેન્ટર" મોડેલ ખાસ કરીને ટેકનોલોજી અને ટેલિકોમ્યુનિકેશન ક્ષેત્રો દ્વારા સંચાલિત મોટા પાયે પહેલ માટે ઉપયોગી થઈ શકે છે. સુવિધાઓને જોડવાનો ખ્યાલ શહેરો, દેશો અથવા ખંડો એક જ કેમ્પસ પર બધું કેન્દ્રિત કર્યા વિના ક્ષમતા વધારવાની યોજનાઓ સાથે બંધબેસે છે.
વિતરિત AI વર્કલોડ સાથે એકીકરણ
AI તાલીમ અને તર્ક માટે, અવરોધ સામાન્ય રીતે GPU વચ્ચે વાતચીત અને સામૂહિક કામગીરીની કાર્યક્ષમતા. સ્પેક્ટ્રમ-XGS નું NCCL અને લાંબા-અંતરની લેટન્સી સ્થિરતા પર ભાર મૂકવાનો હેતુ તે ક્ષેત્રમાં ચોક્કસ સુધારો કરવાનો છે, સિંક્રનાઇઝેશન સમય ઘટાડવો અને એક્સિલરેટરનો લાભ લઈને.
આ અભિગમ સિંગલ-ટેનન્ટ ક્લસ્ટરો અને પર્યાવરણ બંનેને લાભ આપે છે. બહુભાડૂત, જ્યાં નેટવર્ક આગાહીક્ષમતા સેવા સ્તર સુનિશ્ચિત કરવા માટે મહત્વપૂર્ણ છે. એન્ડ-ટુ-એન્ડ ટેલિમેટ્રી સાથે, ઓપરેટરો નિદાન અને ગોઠવણ કરવા માટે દૃશ્યતા મેળવે છે સ્થળો વચ્ચે પ્રદર્શન ઝડપી.
ઉપલબ્ધતા અને ઇકોસિસ્ટમમાં ફિટ
Nvidia સૂચવે છે કે સ્પેક્ટ્રમ-XGS ઇથરનેટ ઉપલબ્ધ છે સ્પેક્ટ્રમ-એક્સ પ્લેટફોર્મના ભાગ રૂપે. આનાથી સ્વિચિંગ ઇકોસિસ્ટમનો ઉપયોગ કરી રહેલા સંગઠનો દ્વારા અપનાવવાનું સરળ બને છે અને કનેક્ટએક્સ-8 સુપરએનઆઈસી, પાયલોટ પરીક્ષણ અને ક્રમિક જમાવટને સરળ બનાવવી.
ઓપરેટરો અને નેટવર્ક એન્જિનિયરિંગ ટીમો માટે, સંક્રમણ એ બધું બદલવા વિશે નથી, પરંતુ એક રજૂ કરવા વિશે છે કેન્દ્રો વચ્ચે જોડાણ AI વર્કલોડ માટે તૈયાર. ઇથરનેટ સપોર્ટ પરિચિત સાધનો અને પ્રક્રિયાઓ સાથે એકીકરણની મંજૂરી આપે છે, જે ઘટાડે છે શીખવાની વળાંક.
ઉદ્યોગ ઝાંખી અને હોટ ચિપ્સની હાજરી
કંપની આ દરખાસ્તને વધુ ગાઢ બનાવવાની યોજના ધરાવે છે ગરમ ચિપ્સ, જ્યાં તેઓ રેક-સ્કેલ આર્કિટેક્ચર અને ડેટા સેન્ટર્સને સંબોધિત કરશે. કાર્યક્રમની અંદર, વિભાગ કોપેકેજ્ડ ઓપ્ટિક્સ સાથે સ્વિચ તે મોટા પાયે AI ફેક્ટરીઓમાં કાર્યક્ષમતા અને પ્રદર્શન કેવી રીતે લાવવું તેના પર પણ ધ્યાન કેન્દ્રિત કરે છે, જેમાં સ્પેક્ટ્રમ-XGS ની ભૂમિકા પર પ્રકાશ પાડવામાં આવે છે સ્થળો વચ્ચે સ્કેલિંગ.
આ શરત એક વલણની પુષ્ટિ કરે છે: AI નો વિકાસ હવે ફક્ત વધુ GPUs સ્ટેક કરવા પર આધારિત નથી, પરંતુ એકીકરણ પર આધારિત છે. બહુવિધ સ્થાનો કામગીરીમાં ઘટાડો કર્યા વિના. આ લોડ વિતરણ, ઉર્જા ખર્ચને ઑપ્ટિમાઇઝ કરવા અને લાવવાના વિકલ્પોને વિસ્તૃત કરે છે ગણતરી ક્ષમતા જ્યાં તેની જરૂર હોય.
સ્પેક્ટ્રમ-એક્સજીએસ ઇથરનેટ સાથે એનવીડિયાનું પગલું એક જ ઇમારતની ભૌતિક મર્યાદાઓને દૂર કરવામાં મુખ્ય તત્વ તરીકે સ્કેલ-એક્રોસ સ્થાન ધરાવે છે. સાથે માપી શકાય તેવા સુધારાઓ સામૂહિક સંદેશાવ્યવહાર, ઉચ્ચ બેન્ડવિડ્થ ઘનતા અને વ્યાપકપણે સુસંગત ઇથરનેટ બેકબોનમાં, આ દરખાસ્ત એક જ AI સિસ્ટમ તરીકે બહુવિધ ડેટા સેન્ટરોના સંચાલન માટે દરવાજા ખોલે છે, એક વ્યૂહરચના જે મોટા પાયે AI પ્રોજેક્ટ્સની આગામી લહેરમાં ફરક લાવી શકે છે.