বিমূর্ত
কৃত্রিম বুদ্ধিমত্তা (AI) দ্রুত অগ্রসর হওয়ার ফলে, ঐতিহ্যবাহী ডেটা সেন্টার নেটওয়ার্কগুলি এআই ট্র্যাফিক বহন করার সময় বড় চ্যালেঞ্জের সম্মুখীন হয়। উচ্চ ব্যান্ডউইথের ব্যবহার এবং অল্প সংখ্যক হাতির প্রবাহ প্রচলিত প্রতি-প্রবাহের ভারসাম্যকে অকার্যকর করে তুলতে পারে, যার ফলে যানজট এবং প্যাকেটের ক্ষতি হয় যা AI মডেল প্রশিক্ষণ এবং কাজ সমাপ্তির সময়কে উল্লেখযোগ্যভাবে বৃদ্ধি করে। এই শ্বেতপত্রটি একটি গতিশীল বুদ্ধিমান রাউটিং প্রযুক্তি পরীক্ষা করে যা বাস্তব-সময় সচেতনতার সাথে বুদ্ধিমান সিদ্ধান্ত নেওয়ার সাথে-একত্রিত করে। এটি পাথ-গুণমান পরিমাপ, BGP এক্সটেন্ডেড-অ্যাট্রিবিউট সিঙ্ক্রোনাইজেশন, ডাইনামিক ওয়েটেড-কস্ট মাল্টিপাথ (WCMP), অস্বাভাবিক-পাথ অপসারণ এবং
ফ্লোলেট-স্তরের অটো লোড ব্যালেন্সিং (ALB) AI পরিবেশে ট্রাফিক সময়সূচী উন্নত করতে। এছাড়াও ডিজাইনটি ভার্চুয়ালাইজেশন ব্যবহার করে মাল্টি- ভাড়াটে বিচ্ছিন্নতা প্রদান করে এবং দক্ষ, স্থিতিশীল, এবং বুদ্ধিমান এআই ডেটা সেন্টার নেটওয়ার্কগুলির জন্য অ্যাপ্লিকেশন পরিস্থিতি এবং পরিকল্পনা নির্দেশিকা প্রদান করে।
ভূমিকা: AI-তে নেটওয়ার্ক বিবর্তন যুগ
কেন ঐতিহ্যগত নেটওয়ার্ক AI এর সাথে লড়াই করে ট্রাফিক
প্রথাগত ডেটা সেন্টার নেটওয়ার্কে, অনেক ছোট ফ্লো প্রতি-প্রবাহ লোডের ভারসাম্য বজায় রাখতে সক্ষম করে যাতে নেটওয়ার্ক অবস্থার প্রকৃত-সময় সচেতনতা ছাড়াই গ্রহণযোগ্য বিতরণ এবং যানজট এড়ানো যায়। এআই ট্র্যাফিক খুব আলাদা: ব্যান্ডউইথের ব্যবহার অত্যন্ত বেশি এবং ট্র্যাফিক প্রায়শই শুধুমাত্র কয়েকটি হাতির প্রবাহ দ্বারা প্রভাবিত হয়। হ্যাশ সংঘর্ষ তাই একই পথে একাধিক বড় প্রবাহ স্থাপন করতে পারে যখন অন্যান্য পাথগুলি কম ব্যবহার করা হয়। একবার প্যাকেট নষ্ট হয়ে গেলে, পুরো AI কাজের চাপের সমাপ্তির সময় উল্লেখযোগ্যভাবে বৃদ্ধি পেতে পারে। এই কারণে, শিল্পটি ক্রমবর্ধমানভাবে AI কাপড়ের জন্য অপ্টিমাইজ করা লোড-ব্যালেন্সিং অ্যালগরিদমগুলিতে ফোকাস করে যাতে একাধিক পাথ জুড়ে ট্রাফিক আরও সমানভাবে বিতরণ করা হয়।
চিত্র 1. এআই হাতির-প্রবাহ ট্র্যাফিক এবং প্রথাগত ছোট-প্রবাহ ট্র্যাফিকের তুলনা৷
বুদ্ধিমান সিদ্ধান্তের সাথে গতিশীল সচেতনতার সমন্বয়{0}}
ডায়নামিক ইন্টেলিজেন্ট রাউটিং হল একটি সচেতনতা-লোড ভিত্তিক-ব্যালেন্সিং প্রযুক্তি। এটি স্থানীয় পাথ নির্বাচন সামঞ্জস্য করতে ফ্যাব্রিকের সুইচ দ্বারা অনুভূত পাথ গুণমান ব্যবহার করে এবং গতিশীলভাবে ওজনযুক্ত লোড ব্যালেন্সিং সমর্থন করে। BGP-তে নির্মিত, প্রযুক্তিটি একটি নতুন বর্ধিত-সম্প্রদায়ের বৈশিষ্ট্যকে সংজ্ঞায়িত করে।
বহু-মাত্রিক, উচ্চ-নির্ভুলতা পরিমাপগুলি পথের গুণমান মূল্যায়ন করতে ব্যবহৃত হয়, এবং ফলাফল পরবর্তী ট্র্যাফিক ফরওয়ার্ডিংকে গাইড করার জন্য BGP এর মাধ্যমে প্রচার করা হয়। এটি নেটওয়ার্ক-বিস্তৃত লোড বিতরণকে উন্নত করে এবং অ্যাপ্লিকেশন প্রতিক্রিয়ার সময় হ্রাস করে [1]।
চিত্র 2. গতিশীল সচেতনতা, সিদ্ধান্ত, এবং কার্যকরী কর্মপ্রবাহ।
মূল প্রযুক্তি: বুদ্ধিমান ট্রাফিক সময়সূচী
মূলধারার নেটওয়ার্ক লোড-ব্যালেন্সিং পদ্ধতির মধ্যে রয়েছে:
- প্রতি-প্রবাহ ECMP: সবচেয়ে সাধারণ পদ্ধতি, একটি পাঁচ-টুপল হ্যাশের উপর ভিত্তি করে। যখন অনেকগুলি প্রবাহ থাকে তখন এটি ভাল কাজ করে এবং প্যাকেটের ক্রম সংরক্ষণ করে, তবে AI প্রশিক্ষণের মতো প্রবাহের সংখ্যা কম হলে হ্যাশ সংঘর্ষগুলি দুর্বল ভারসাম্য তৈরি করতে পারে [1]।
- ফ্লোলেট-ভিত্তিক ভারসাম্য: ইন্টার-ফ্লোলেট ফাঁকের সঠিক কনফিগারেশনের উপর নির্ভর করে। যখন গ্লোবাল পাথ-লেভেল লেটেন্সি অজানা [1] তখন সঠিক কনফিগারেশন কঠিন।
- প্রতি-প্যাকেট ECMP: চমৎকার তাত্ত্বিক ভারসাম্য প্রদান করে কিন্তু রিসিভারে ব্যাপক প্যাকেট পুনঃক্রম তৈরি করতে পারে [1]।
XingRongyuan CX-N Series RoCE সুইচ (SONiC-ভিত্তিক) দ্বারা ব্যবহৃত গতিশীল বুদ্ধিমান রাউটিং পদ্ধতি প্রতি-প্রবাহ ECMP এবং ফ্লোলেট-ভিত্তিক ভারসাম্যকে একত্রিত করে। এটি ডায়নামিক WCMP (ওয়েটেড কস্ট মাল্টিপাথ) এবং ফ্লোলেট-ভিত্তিক ALB (অটো লোড ব্যালেন্সিং) [1] প্রবর্তন করে।
পথের গুণমান পরিমাপ
ব্যান্ডউইথ ব্যবহার, সারি ব্যবহার এবং ফরওয়ার্ডিং লেটেন্সি সহ AI ক্লাস্টার কাপড়কে দৃঢ়ভাবে প্রভাবিত করে এমন উপাদানগুলি ব্যবহার করে সিস্টেম নেটওয়ার্ক পাথের গুণমানকে মূল্যায়ন করে।
পরিসংখ্যান কাউন্টার
ব্যান্ডউইথ এবং সারি ব্যবহার ASIC হার্ডওয়্যার কাউন্টারগুলির মাধ্যমে শত-মিলিসেকেন্ড স্তরে নির্ভুলতার সাথে পরিমাপ করা হয়। ASIC রিয়েল টাইমে পোর্ট-ফরোয়ার্ডিং এবং সারি-ফরওয়ার্ডিং কাউন্টার রেকর্ড করে। SONiC কন্ট্রোল প্লেন SAI ইন্টারফেসের মাধ্যমে কাউন্টারগুলিকে সাব-সেকেন্ড নির্ভুলতায় পড়ে এবং সেগুলিকে Redis-এ সঞ্চয় করে৷ রাউটিং{7}}নিয়ন্ত্রণ প্রক্রিয়া এই কাউন্টারগুলি ব্যবহার করে ইন্টারফেসের গুণমান মূল্যায়ন করে এবং BGP এর মাধ্যমে ফলাফলের বিজ্ঞাপন দেয়। নিয়ন্ত্রণ-বিমান লোড সীমিত করার জন্য, বিজ্ঞাপনগুলি বর্তমানে দ্বিতীয় স্তরের ব্যবধানে পাঠানো হয়, একাধিক নমুনায় একটি ওজনযুক্ত গড় প্রয়োগ করা হয়; আরও সাম্প্রতিক নমুনাগুলি উচ্চতর ওজন পায়।
ব্যান্ড টেলিমেট্রিতে-
ফরওয়ার্ডিং-বিলম্বের পরিমাপ INT (ইন-ব্যান্ড নেটওয়ার্ক টেলিমেট্রি) এর উপর ভিত্তি করে এবং ন্যানোসেকেন্ড-স্তরের নির্ভুলতায় পৌঁছাতে পারে। HDC (হাই ডেলে ক্যাপচার) প্যাকেটগুলি ক্যাপচার করে যেগুলি ASIC-এর ভিতরে উচ্চ লেটেন্সি অনুভব করে৷ যখন একটি প্যাকেট ব্যবহারকারীর সংজ্ঞায়িত বিলম্বের থ্রেশহোল্ড-কে অতিক্রম করে, তখন সুইচটি মূল প্যাকেটের প্রথম 150 বাইট মেটাডেটা সহ, ইনগ্রেস পোর্ট, এগ্রেস পোর্ট এবং লেটেন্সি সহ একটি সংগ্রাহকের কাছে পাঠায়। এই ডিজাইনে, CPU HDC সংগ্রাহক এবং বিশ্লেষক হিসাবে কাজ করে, উচ্চ-নির্ভুলতা ফরওয়ার্ডিং-বিলম্ব পরিমাপ এবং আরও সঠিক পথ-গুণমান মূল্যায়ন সক্ষম করে৷
চিত্র 3. পথ-গুণমানের প্রচার এবং WCMP ইনস্টলেশন।
প্রযুক্তিটি একটি নতুন BGP এক্সটেন্ডেড-কমিউনিটি অ্যাট্রিবিউট ব্যবহার করে, পাথ ব্যান্ডউইথ এক্সটেন্ডেড কমিউনিটি, একটি গন্তব্যে যাওয়ার পথের সামগ্রিক গুণমান নির্দেশ করতে। বর্ধিত-টাইপ ক্ষেত্রের উচ্চ-অর্ডার বাইট হল 0x00 এবং কম-অর্ডার বাইট হল 0x05৷ মান ক্ষেত্রে, গ্লোবাল অ্যাডমিনিস্ট্রেটর সাবফিল্ড AS সংখ্যার প্রতিনিধিত্ব করে। IEEE ফ্লোটিং{10}পয়েন্ট ফর্ম্যাট ব্যবহার করে পাথ কোয়ালিটি চার বাইটে এনকোড করা হয় এবং GB/s এ প্রকাশ করা হয়।
যখন NIC1 NIC2 এর সাথে যোগাযোগ করে, NIC2 প্রথমে Leaf2-এ তার IP ঠিকানার বিজ্ঞাপন দেয়। Leaf2 লিংকের সাথে মেরুদণ্ডের ঠিকানার বিজ্ঞাপন দেয়-NIC2-এর দিকে গুণমান মান Leaf2 ডাউনলিংক ওজন দ্বারা গুণিত। মেরুদন্ড তার নিজস্ব ওজনযুক্ত লিঙ্ক গুণমান যোগ করে এবং জমে থাকা মান Leaf1-এ পাস করে। Leaf1 পথের গুণমানের সংক্ষিপ্ত বিবরণ দেয় এবং সেই রুটগুলি ইনস্টল করে যা ফরওয়ার্ডিংকে নির্দেশ করে। দুই-স্তরের পাতার-স্পাইন ফ্যাব্রিকে, পোর্টগুলিকে লিফ আপলিঙ্ক, লিফ ডাউনলিঙ্ক এবং মেরুদণ্ডের পোর্ট হিসাবে শ্রেণীবদ্ধ করা হয়, প্রতিটি শ্রেণীর জন্য কনফিগারযোগ্য গণনা সহগ।
ডাইনামিক WCMP
লোড ব্যালেন্সিং একাধিক লিঙ্ক জুড়ে ট্রাফিক বিতরণ করে। AI পরিবেশে, ন্যূনতম প্যাকেট লস, লেটেন্সি এবং থ্রুপুট অবক্ষয় সহ একটি ক্ষতিহীন ইথারনেট ফ্যাব্রিক তৈরির জন্য এটি অপরিহার্য। ECMP হল ডেটা সেন্টারে প্রচলিত প্রক্রিয়া। WCMP বিতরণের মাধ্যমে ECMP প্রসারিত করে
ট্রাফিক আনুপাতিকভাবে লিঙ্ক জুড়ে। গতিশীল বুদ্ধিমান রাউটিং-এ, WCMP ওজনগুলি পাথের গুণমান অনুসারে বাস্তব সময়ে সামঞ্জস্য করা হয়। উদাহরণস্বরূপ, যদি NIC1 এবং NIC2 এর মধ্যে দুটি পথ বিদ্যমান থাকে, তাহলে সিস্টেমটি একটি 3:7 অনুপাত গণনা করতে পারে। ট্রাফিক পরিবর্তনের সাথে সাথে, আপডেট করা পথ-গুণমানের তথ্য BGP-এর মাধ্যমে প্রতিটি লিফ সুইচে প্রচার করা হয়, যেখানে গতিশীল WCMP রুটগুলি নির্দেশিকা ফরওয়ার্ড করার জন্য তৈরি করা হয়।
অস্বাভাবিক পথ অপসারণ
যখন একটি পথের সামগ্রিক গুণমান একটি সম্মত থ্রেশহোল্ডের নীচে নেমে যায়, তখন পাথটি AI কাজের চাপের জন্য অব্যবহারযোগ্য বলে বিবেচিত হয় এবং ফরওয়ার্ডিং থেকে সরানো হয়। অবশিষ্ট পাথগুলি গতিশীল WCMP এর মাধ্যমে ট্র্যাফিক বহন করে। একবার পথটি স্বাভাবিক অবস্থায় ফিরে আসলে, এটি পুনরুদ্ধার করা হয়। যদিও এটি সাময়িকভাবে কিছু ক্ষমতা অব্যবহৃত রেখে যেতে পারে, এটি আরও গুরুতর যানজট এবং প্যাকেটের ক্ষতি প্রতিরোধ করে [1]।
ইন্টেলিজেন্ট লোড ব্যালেন্সিং (ALB)
ALB ফ্লোলেট-ভিত্তিক লোড বিতরণ প্রদান করে। ASIC রিয়েল টাইমে বিভিন্ন পোর্টে লোড এবং লেটেন্সি পরিমাপ করে এবং কম লোড বা কম বিলম্বের সাথে প্রতিটি ফ্লোলেটকে লিঙ্কে নির্দেশ করে। এটি ঐতিহ্যগত ECMP-এর উপরে আরও সূক্ষ্ম-দানাযুক্ত সময়সূচী যোগ করে। ALB পোর্ট ফেইলওভারকেও সমর্থন করে এবং একটি এগ্রেস লিঙ্ক ব্যর্থ হলে স্বয়ংক্রিয়ভাবে ট্র্যাফিক পুনরায় বিতরণ করে [1]।
ভার্চুয়ালাইজেশন
ফ্রন্ট-এন্ড নেটওয়ার্কগুলির প্রায়ই মাল্টি-ভাড়াটে সহায়তার প্রয়োজন হয় যাতে বিভিন্ন ব্যবহারকারীদের জন্য বিভিন্ন GPU সংস্থান বরাদ্দ করা যায়। সমাধানটি ভাড়াটেদের বিচ্ছিন্ন করতে VRF (ভার্চুয়াল রাউটিং এবং ফরওয়ার্ডিং) ব্যবহার করে, প্রতিটি ব্যবহারকারীকে একটি VRF বরাদ্দ করা হয়। GPU-সম্পর্কিত সাবনেটগুলি ব্যবহারকারীর VRF-এ স্থাপন করা হয় এবং ASIC-তে PRE ACLগুলি প্রবেশ ট্র্যাফিককে শ্রেণিবদ্ধ করে যাতে প্রতিটি ব্যবহারকারীর ট্র্যাফিক শুধুমাত্র সংশ্লিষ্ট VRF [1]-এর মধ্যে ফরোয়ার্ড করা হয়।
অ্যাপ্লিকেশন দৃশ্যকল্প
1.কিভাবে ডাইনামিক WCMP ট্র্যাফিক বৃদ্ধিকে শোষণ করে
256 x 400G GPU পোর্ট সহ একটি ফ্যাব্রিকের জন্য, উচ্চ থ্রুপুট, উচ্চ ব্যান্ডউইথ এবং প্রতিসম ক্ষমতা বজায় রাখতে 1:1 ডাউনলিংক-টু-আপলিঙ্ক কনভারজেন্স রেশিও দিয়ে একটি দ্বি-স্তরের Clos আর্কিটেকচার ডিজাইন করা যেতে পারে। উপযুক্ত পণ্য মডেলের মধ্যে রয়েছে XingRongyuan CX864E-N বা CX732Q-N [1]। প্রচলিত ECMP-এর অধীনে, অল্প সংখ্যক AI হাতির প্রবাহ একই মেরুদণ্ডে হ্যাশ হতে পারে, যার ফলে আপলিংক কনজেশন বা প্যাকেট নষ্ট হতে পারে। ডায়নামিক WCMP ক্রমাগত ট্র্যাফিক বন্টনকে বাস্তব-সময়ের পথের গুণমান অনুযায়ী সামঞ্জস্য করে, ট্র্যাফিকের চাপ কমায় এবং যানজট এড়ায় [1]।
2.ফ্লোলেট-লেভেল লোড ব্যালেন্সিং
একই 256 x 400G GPU ফ্যাব্রিকে, প্রতিটি ডিভাইস বা কাজের চাপ ডায়নামিক WCMP দ্বারা সর্বোত্তমভাবে পরিবেশিত হয় না। সুইচটি গতিশীলভাবে Flowlet-ভিত্তিক ALB নির্বাচন করতে পারে। ALB ECMP গ্রুপে লিঙ্কগুলির লোড এবং লেটেন্সি পরিমাপ করে এবং কম ব্যবহার বা বিলম্ব সহ লিঙ্কগুলিতে ফ্লোলেট পাঠায়। যদি একটি ইন্টারফেস ওভারলোড হয়ে যায় বা এর ফরওয়ার্ডিং বিলম্ব বেড়ে যায়, ASIC স্বয়ংক্রিয়ভাবে সেই প্রস্থান এড়িয়ে যায় যতক্ষণ না পরিস্থিতি স্বাভাবিক হয় [1]।
এআই নেটওয়ার্ক প্ল্যানিং এবং ডিজাইন
এআই পরিষেবাগুলি সাধারণত তিনটি স্তর অন্তর্ভুক্ত করে: ডেটা সংগ্রহ এবং প্রিপ্রসেসিং, মডেল প্রশিক্ষণ এবং এআই অনুমান। প্রতিটি পর্যায় নেটওয়ার্কে বিভিন্ন প্রয়োজনীয়তা আরোপ করে।
1. ডেটা সংগ্রহ এবং প্রিপ্রসেসিং
একটি বিশ্বব্যাপী প্রশিক্ষণ-ডেটা সংগ্রহ এবং প্রিপ্রসেসিং নেটওয়ার্ককে অবশ্যই বড়-স্কেল, ইলাস্টিক পাবলিক আইপি এবং ব্যান্ডউইথ সংস্থান প্রদান করতে হবে যাতে বিশ্বব্যাপী ইন্টারনেট থেকে ব্যাপক কাঁচা ডেটাসেটগুলি দক্ষতার সাথে সংগ্রহ করা যায়। ডেটা একত্রিতকরণ এবং প্রিপ্রসেসিং কর্মক্ষমতা উন্নত করার সময় নকশাটিকে অবশ্যই নিরাপদ এবং স্থিতিশীল সংক্রমণ নিশ্চিত করতে হবে [2]।
1.1 VPC সেগমেন্টেশন
ক্লাউড ভিত্তিক ডেটা সংগ্রহের জন্য VPC ডিজাইনের অন্তত-সুবিধা, স্তরযুক্ত বিচ্ছিন্নতা, নিরাপত্তা নিয়ন্ত্রণ, এবং স্থিতিস্থাপক মাপযোগ্যতা নীতিগুলি অনুসরণ করা উচিত। হয় একাধিক ভিপিসি বা একক ভিপিসির ভিতরে একাধিক সাবনেট ব্যবহার করা যেতে পারে [২]।
- পরিষেবা পর্যায়ে বিভাগ: পৃথক সাবনেট বা ভিপিসিগুলিতে ডেটা সংগ্রহ, প্রিপ্রসেসিং, স্টোরেজ, প্রশিক্ষণ এবং অনুমান স্থাপন করুন। একটি DMZ ভিপিসি বা পাবলিক সাবনেটে সংগ্রহের এন্ট্রি পয়েন্ট রাখুন; একটি ডেডিকেটেড প্রসেসিং ভিপিসিতে প্রিপ্রসেসিং এবং অস্থায়ী ডেটা রাখুন; সংবেদনশীল কাঁচা ডেটা এবং AI প্রশিক্ষণ একটি উচ্চ-নিরাপত্তা VPC-তে সরাসরি জনসাধারণের অ্যাক্সেস ছাড়াই রাখুন৷
- নিরাপত্তা স্তর দ্বারা বিচ্ছিন্ন করুন: উচ্চ-, মাঝারি-, এবং নিম্ন-নিরাপত্তা VPC বা সাবনেট তৈরি করুন এবং ক্রস-VPC এবং ক্রস-সাবনেট ট্রাফিক নিয়ন্ত্রণ করতে নিরাপত্তা গোষ্ঠী, নেটওয়ার্ক ACL এবং ব্যক্তিগত সংযোগ ব্যবহার করুন৷
- ভাড়াটে বা প্রকল্প দ্বারা লসলেট: সম্পদ, নেটওয়ার্ক এবং ডেটা বিচ্ছিন্ন করার জন্য বিভিন্ন ভাড়াটে বা প্রকল্পের জন্য আলাদা ভিপিসি বরাদ্দ করুন।
1.2 ডেটা সংগ্রহ এগ্রেস নেটওয়ার্ক
NAT গেটওয়ে: একটি NAT গেটওয়ের মাধ্যমে EIPs এবং SNAT এর একটি পুল ব্যবহার করুন, সংগ্রহ প্রোগ্রামগুলিকে এলোমেলোভাবে নির্বাচিত পাবলিক আইপি ঠিকানাগুলি থেকে ইন্টারনেট অ্যাক্সেস করার অনুমতি দেয়।
স্ব-নির্মিত প্রক্সি: প্রক্সি সার্ভার স্থাপন করুন যা সংগ্রহ প্রক্রিয়া এবং সর্বজনীন IP ঠিকানাগুলির মধ্যে ম্যাপিং বজায় রাখে এবং একাধিক প্রক্সি জুড়ে একটি একক সংগ্রহের অনুরোধ বিতরণ করে৷
IP পরিষেবা প্রদানকারী: কম খরচে, নিয়ন্ত্রিত নিরাপত্তা, এবং স্থিতিশীল মানের জন্য ক্লাউড প্রাইভেট নেটওয়ার্কের মাধ্যমে একটি IP পরিষেবা প্রদানকারীর সাথে সংযোগ করুন [2]।
1.3 ক্রস-অঞ্চল ডেটা একত্রীকরণ এবং প্রিপ্রসেসিং
প্রিপ্রসেসিং-ক্লাস্টার প্ল্যান অনুযায়ী ওএসএস অঞ্চল নির্বাচন করুন এবং একই অঞ্চলে একটি ডেটা-একত্রীকরণ VPC তৈরি করুন। প্রতিটি অঞ্চলে একটি ট্রানজিট রাউটার (TR) তৈরি করুন, স্থানীয় ভিপিসিগুলিকে সংযুক্ত করুন এবং TRগুলিকে আন্তঃসংযোগ করুন যাতে আঞ্চলিক সংগ্রহ VPCগুলি সরাসরি কেন্দ্রীয় OSS-এ অ্যাক্সেস করতে পারে৷ PAI-iTAG, MaxCompute, এবং Flink এর মতো পরিষেবাগুলি তারপর OSS অঞ্চলে ডেটা লেবেলিং এবং প্রিপ্রসেসিং করতে পারে [2]।
2. মডেল ট্রেনিং নেটওয়ার্ক
মডেল-প্রশিক্ষণ নেটওয়ার্ক একটি গ্লোবাল ফ্যাব্রিক তৈরি করতে সংগ্রহ এবং প্রিপ্রসেসিং নেটওয়ার্কের সাথে দৃঢ়ভাবে একত্রিত হয় যা ক্লাউড ডেটা সেন্টার, এজ নোড এবং প্রাঙ্গনে IDC গুলিকে সংযুক্ত করে৷
উচ্চ-গতির আন্তঃসংযোগ কম-লেটেন্সি, উচ্চ-থ্রুপুট ডেটা মুভমেন্ট প্রদান করে, যখন ব্যান্ডউইথ, নিরাপত্তা নীতি, অ্যাক্সেস কন্ট্রোল, এবং দুর্যোগ পুনরুদ্ধার শেষ থেকে শেষ পর্যন্ত ডিজাইন করা আবশ্যক [2]।
- -অঞ্চল ক্রস- ক্লাস্টার কম্পিউট পুল: একটি ট্রানজিট রাউটার একই অঞ্চলের মধ্যে একাধিক VPC সংযোগ করে৷ সার্ভার ENI গুলি VPC সুইচগুলির সাথে সংযোগ করে এবং প্রয়োজনীয় থ্রুপুট এবং RDMA এর জন্য কনফিগার করা যেতে পারে।
- ক্রস-ক্লাউড কম্পিউট পুল: ডেডিকেটেড সার্কিট একটি IDC বা অন্য ক্লাউডকে একই-অঞ্চলের VPC-তে সংযুক্ত করে। আলিবাবা ক্লাউড ভিবিআরগুলি লেয়ার 3-এ পিয়ার ডিভাইসের সাথে সংযোগ করে, BGP, BFD, এবং দ্রুত একত্রিত হওয়ার জন্য দ্রুত ব্যর্থতার সাথে।
গ্লোবাল কম্পিউট পুল: অঞ্চল জুড়ে একটি ইউনিফাইড কম্পিউট পুল তৈরি করতে ঐচ্ছিক ইন্টার-অঞ্চল QoS সহ পিক ইন্টার-অঞ্চল ট্রাফিক অনুযায়ী TR-এর মধ্যে ক্রস-অঞ্চল লিঙ্কগুলি বিধান করা হয়েছে [2]৷
3. গ্লোবাল ইনফারেন্স-পরিষেবা নেটওয়ার্ক
একটি গ্লোবাল ইনফারেন্স নেটওয়ার্ক প্রতিটি অঞ্চলে উপলব্ধ সংস্থান এবং ক্লাউড পরিষেবাগুলি অনুসারে স্থাপনার মডেলগুলি নির্বাচন করে এবং দক্ষ পরিষেবা বিতরণ এবং অ্যাক্সেস সরবরাহ করে [2]।
- মডেল বা এজেন্ট স্থাপনা: মডেল স্টুডিও MaaS স্থাপনা, PAI-EAS বা ফাংশন কম্পিউট PaaS স্থাপনা, অথবা EGS, ACK, ACS, বা Lingjun বেয়ার- গ্রাহক VPC-এর ভিতরে ধাতব পরিকাঠামোতে IaaS স্থাপনা ব্যবহার করুন।
- পরিষেবা বিতরণ: একটি অনুমান-ডিস্ট্রিবিউশন VPC তৈরি করুন এবং VPC পিয়ারিং, সংশ্লিষ্ট ক্লাউড-পরিষেবা VPC, বা PrivateLink ব্যবহার করে ব্যক্তিগত নেটওয়ার্কগুলিকে সংযুক্ত করুন৷ বিভিন্ন মডেল বা এজেন্টদের অ্যাক্সেস পয়েন্ট এবং প্রক্সি অনুরোধ হিসাবে ALB বা উন্নত ALB স্থাপন করুন।
- পরিষেবা অ্যাক্সেস: স্থানীয় ইন্টারনেট ব্যবহারকারীরা উন্নত ALB সরাসরি অ্যাক্সেস করতে পারেন; দূরবর্তী ব্যবহারকারীরা গ্লোবাল এক্সিলারেটর (GA) ব্যবহার করতে পারেন; অভ্যন্তরীণ বা বহিরাগত Alibaba ক্লাউড এন্টারপ্রাইজ ব্যবহারকারীরা PrivateLink-এর মাধ্যমে ব্যক্তিগতভাবে সংযোগ করতে পারেন।
উপসংহার এবং আউটলুক
এই শ্বেতপত্রটি AI যুগে IDC নেটওয়ার্কগুলির মুখোমুখি হওয়া চ্যালেঞ্জগুলি এবং কীভাবে গতিশীল বুদ্ধিমান রাউটিং তাদের মোকাবেলা করতে পারে তা ব্যাখ্যা করে। গতিশীল সচেতনতা, বুদ্ধিমান সিদ্ধান্ত নেওয়া-, WCMP, ALB, এবং VRF ভার্চুয়ালাইজেশন ভারসাম্যপূর্ণ দক্ষতা-কে উন্নত করে, যানজট এবং প্যাকেটের ক্ষতি কমায় এবং AI প্রশিক্ষণ এবং অনুমানকে ত্বরান্বিত করে৷ পরিকল্পনা বিভাগটি ভিপিসি বিভাজন, সংগ্রহ-এগ্রেস ডিজাইন, ক্রস-অঞ্চল একত্রীকরণ এবং প্রিপ্রসেসিং, মডেল প্রশিক্ষণ, এবং বিশ্বব্যাপী অনুমান সরবরাহের উপর জোর দেয়। যেহেতু AI বিকশিত হতে চলেছে, ডেটা সেন্টার নেটওয়ার্কগুলি কঠোর প্রয়োজনীয়তার মুখোমুখি হবে। এজ এআই, ফেডারেটেড লার্নিং এবং অন্যান্য জটিল পরিস্থিতির জন্য গতিশীল বুদ্ধিমান রাউটিং উন্নত হতে থাকবে। ভবিষ্যতের IDC নেটওয়ার্কগুলি ডিজিটাল অর্থনীতির জন্য আরও বুদ্ধিমান, দক্ষ, এবং নির্ভরযোগ্য ভিত্তি তৈরি করে কম্পিউট-নেটওয়ার্ক কনভারজেন্স, শক্তি দক্ষতা, এবং স্বয়ংক্রিয় ক্রিয়াকলাপগুলির উপর বেশি জোর দেবে৷
তথ্যসূত্র
ব্যবহারকারী-প্রদত্ত প্রযুক্তিগত উৎস নথি।
আলিবাবা ক্লাউড এআই নেটওয়ার্ক সাদা কাগজ। 27 মে, 2026 এ অ্যাক্সেস করা হয়েছে।
https://help.aliyun.com/zh/cloud-নেটওয়ার্ক-ভাল-আর্কিটেক্টেড-ডিজাইন/আলিবাবা-ক্লাউড-এআই-নেটওয়ার্ক-সাদা{10}}কাগজ