दशकों तक, संपूर्ण कंप्यूटिंग उद्योग एक सरल प्रतिमान के इर्द-गिर्द घूमता रहा: तर्क ही राजा है.सीपीयू और जीपीयू सिस्टम का दिल थे;मेमोरी केवल एक सहायक घटक थी, जो डेटा को अस्थायी रूप से संग्रहीत करने के लिए ज़िम्मेदार थी जबकि प्रोसेसर वास्तविक कार्य करते थे।लेकिन आज, एक मौलिक क्रांति चल रही है: तर्क-केंद्रित कंप्यूटिंग का युग समाप्त हो रहा है, और मेमोरी-केंद्रित कंप्यूटिंग आ गया है.

यह बदलाव वृद्धिशील नहीं है - यह संरचनात्मक है।एआई, बड़े भाषा मॉडल, क्लाउड कंप्यूटिंग और उच्च-प्रदर्शन कंप्यूटिंग द्वारा संचालित, तर्क और मेमोरी के बीच शक्ति का संतुलन पूरी तरह से उलट गया है।मेमोरी अब एक परिधीय घटक नहीं है;यह बन गया है मुख्य बाधा, मुख्य प्रदर्शन सीमक और वास्तविक मूल्य केंद्र आधुनिक कंप्यूटिंग सिस्टम के.

मूल कारण: स्मृति दीवार

वर्षों तक, प्रोसेसर के प्रदर्शन में मेमोरी बैंडविड्थ और विलंबता की तुलना में कहीं अधिक दर से सुधार हुआ।इस बढ़ते अंतर को के नाम से जाना जाता है स्मृति दीवार.पारंपरिक प्रणालियों में:

• प्रोसेसर अधिकांश समय डेटा का इंतजार करते हैं
• डेटा संचलन में गणना की तुलना में कहीं अधिक ऊर्जा की खपत होती है
• बैंडविड्थ मॉडल आकार की वृद्धि के साथ तालमेल नहीं बिठा सकता
• विलंबता सीधे वास्तविक दुनिया की अनुमान गति को निर्धारित करती है

जैसे-जैसे एआई मॉडल अरबों से खरबों मापदंडों तक बढ़ते हैं, मेमोरी वॉल घातक हो गई है।सिस्टम अब तर्क और मेमोरी के बीच भारी मात्रा में डेटा को आगे और पीछे ले जाने का जोखिम नहीं उठा सकता है।एकमात्र समाधान: स्मृति के इर्द-गिर्द संपूर्ण वास्तुकला का पुनर्निर्माण करें.

तर्क-केंद्रित बनाम स्मृति-केंद्रित: प्रतिमान अंतर

तर्क-केंद्रित वास्तुकला
- कोर के रूप में सीपीयू/जीपीयू
- बाह्य भंडारण के रूप में मेमोरी
- डेटा गणना में चला जाता है
- प्रदर्शन निर्देश की गति पर निर्भर करता है
- प्रभुत्व वाले पीसी और प्रारंभिक क्लाउड कंप्यूटिंग

मेमोरी-केंद्रित वास्तुकला
- सिस्टम कोर के रूप में मेमोरी
- गणना डेटा पर चलती है
- बैंडविड्थ और विलंबता प्रदर्शन को परिभाषित करते हैं
- ऊर्जा दक्षता डेटा मूवमेंट पर केंद्रित है
- एआई और अगली पीढ़ी की कंप्यूटिंग को परिभाषित करता है

अंतर तकनीकी विवरण नहीं है - यह सिस्टम डिज़ाइन दर्शन का पूर्ण उलट है।

मेमोरी-सेंट्रिक इनोवेशन के तीन रास्ते

1. नियर-मेमोरी कंप्यूटिंग (एनएमसी)
कंप्यूटिंग इंजनों को मेमोरी के करीब रखें, जिससे डेटा की गति कम हो।विलंबता और शक्ति को नाटकीय रूप से कम कर देता है।एआई एक्सेलेरेटर और डीपीयू बुनियादी ढांचे में व्यापक रूप से अपनाया गया।

2. इन-मेमोरी कंप्यूटिंग (आईएमसी)
मेमोरी सेल्स के अंदर सीधे गणना करें, डेटा ट्रांसफर को पूरी तरह से समाप्त कर दें।एआई अनुमान, एज डिवाइस और कम-शक्ति प्रणालियों के लिए आदर्श।दीर्घकालिक परम वास्तुकला के रूप में देखा जाता है।

3. 3डी मेमोरी-लॉजिक स्टैकिंग
हाइब्रिड बॉन्डिंग और टीएसवी का उपयोग करके मेमोरी को सीधे प्रोसेसर के शीर्ष पर रखें।कंप्यूट और मेमोरी के बीच अल्ट्रा-हाई बैंडविड्थ बनाता है।HBM, HBM3E, और 3D स्टैकिंग आधुनिक AI चिप्स के लिए मूलभूत हैं।

एआई मेमोरी-केंद्रित को अपरिहार्य क्यों बनाता है?

बड़े भाषा मॉडल और जनरेटिव एआई में अद्वितीय विशेषताएं हैं:

• बड़े पैमाने पर पैरामीटर सेट के लिए बड़ी मेमोरी क्षमता की आवश्यकता होती है
• अनुमान स्मृति-बाध्य है, गणना-बाध्य नहीं है
• बैंडविड्थ थ्रूपुट और उपयोगकर्ता अनुभव निर्धारित करता है
• बिजली की खपत डेटा मूवमेंट पर हावी है

एआई सिस्टम में, प्रोसेसर अक्सर डेटा के इंतजार में निष्क्रिय रहता है।प्रदर्शन इस बात से सीमित नहीं है कि चिप कितनी तेजी से गणना कर सकती है - बल्कि इससे सीमित है यह कितनी जल्दी मेमोरी तक पहुंच सकता है.

उद्योग पुनर्गठन: मूल्य स्मृति की ओर बढ़ता है

यह वास्तुशिल्प बदलाव उद्योग की शक्ति का पुनर्लेखन कर रहा है:

• मेमोरी निर्माता रणनीतिक मूल्य निर्धारण शक्ति प्राप्त करते हैं
• सिस्टम डिज़ाइन मेमोरी टोपोलॉजी को प्राथमिकता देता है
• मेमोरी कनेक्टिविटी के लिए पैकेजिंग महत्वपूर्ण हो जाती है
• स्मृति और अंतर्संबंध में नए दिग्गज उभरते हैं

मेमोरी आर्किटेक्चर को कौन नियंत्रित करता है कंप्यूटिंग के भविष्य को नियंत्रित करता है।

निष्कर्ष: भविष्य स्मृति-चालित है

तर्क-प्रधान कंप्यूटिंग का युग समाप्त हो गया है।हम एक नए युग में प्रवेश कर चुके हैं मेमोरी प्रदर्शन को परिभाषित करती है, मेमोरी स्केलिंग को सीमित करती है, और मेमोरी सिस्टम मूल्य निर्धारित करती है.

तर्क-केंद्रित से स्मृति-केंद्रित वास्तुकला में बदलाव सिर्फ एक तकनीकी प्रवृत्ति नहीं है - यह आधी सदी में कंप्यूटिंग में सबसे मौलिक परिवर्तन है।अगले दशक के लिए, स्मृति ब्रह्मांड का केंद्र होगी.