خادوم للمواد الإعلامية

من ويكي أضِف
مراجعة 10:56، 9 أغسطس 2014 بواسطة مصطفى يوسف (نقاش | مساهمات) (اضافة خريطة التركيب العمومية)

مقدمة

هذا المقال هو شرح لعملية تركيب و القرارات التي صاحبت إنشاء خادم للمواد الإعلامية المتعددة كجزء من وحدة أفلام س مفتوحة المصدر لإنهاء الأفلام و للتشارك في الأدوات والمواد الإعلامية. المصمم التقني لهذا الخادم هو محمد عمار و المصمم الفني و منسق المشروع هو مصطفى يوسف.

لماذا خادم منفصل؟

هناك عدة أسباب لصنع خادم مستقل تحمل به فيديوهاتك و موادك الإعلامية الخام (rushes) أو المعدلة بدلا من الإحتفاظ بها على أقراص صلبة داخل الجهاز أو خارجه.

  • السبب الأول هو السعة الكبيرة حيث أنه لا يمكن في الوقت الحالي وجود حاسوب به مثلا سعة 30 تيرابايت أو أكثر، و طبعا الأقراص الخارجية مثل الGRaid و الWestern Digital لا تصل لهذا الحجم الكبير.
  • السبب الثاني هو قدرتك الدائمة على تطويره و آضافة أو إستبدال الأقراص الصلبة بما يضيف سعة أخرى في المستقبل له و هو عادة مالا يمكن عمله في أشكال التخزين الأخرى.
  • السبب الثالث هو أن الوصلات بينه و بين الوحدة التي تعمل عليها عمليات المونتاج أو الميكساج أو التصحيح لها القدرة أن تكون عالية السرعة لبث مادة 2K أو حتى 4K بشكل واقعي و وقتي، فعلى بروتوكول FCoE و وصلة 10GbE تكون سرعتك 10Gb/s و هي ضعف الٍSuperSpeed الخاصة بوصلة الUSB 3.0 و يمكن في حالة التوصيل المزدوج الوصول لسرعة ضعف هذا أي 20Gb/s و هو ما يعادل وصلة الThunderbolt 2 و هي أسرع ما يستخدم الآن.
  • السبب الرابع هو قدرتك على تركيبه بشكل يضمن الحفظ و النسخ الدوري لكل بياناتك بحيث ألا تضيع مادتك و ملفاتك حتى اذا تم إتلاف أي من الأقراص الصلبة التي به.
  • السبب الخامس و لعله الأهم و هو قدرة الخادم أن يكون موصولا عبر الشبكة لأكثر من جهاز في نفس الوقت، حتى و إن كانوا يعملون على نفس المادة. و بالتالي يمكن للمونتير و الميكسير مثلا أن يعملوا بشكل موازي على نفس الفيلم دون الحاجة للنسخ المتكرر للمادة المتعلقة بالفيلم على أقراص متفرقة. أيضا يسمح هذا بمساحات كبيرة من التعاون و إعادة إستخدام المادة الفيلمية سواء كانت مصورة أم مسجلة.

جدير بالذكر أن تفصيل أو شراء خادم منفصل هو في كل الأحوال عملية مكلفة و ليست عادة للمستخدم الفرد أو لكيان ذو حجم إنتاج صغير، فهذا الدليل يفيد بالأساس الستوديوهات الناشئة و التي تطمح لوجود بنية تحتية رخيصة نسبيا بالمقارنة بالستوديوهات الكبيرة و لكنها إحترافية و تسمح لها بالنمو في المجال الإعلامي.

لماذا خادم حر و مصنوع بالتفصيل؟

العديد من الماركات و الشركات الإحتكارية تقدم خدمات و خوادم معدة مسبقا مثل Apple XServer و HP و Siemens و Oracle و هناك أيضا شركات تصنع خوادم تحديدا للعمل السينمائي و الإعلامي مثل Promise و ٍStudio Network Solutions و غيرها. فلماذا إذا تصمم بشكل حر خادم مجمع يدويا و مبني على برمجيات مفتوجة المصدر؟

لهذا أيضا عدة اسباب:

  • أولها التكلفة، فابينما الخادم لشركة إحتكارية مثل SNS به نفس السعة للخادم الذي نقوم بعمله (أي 16 خانة و معد بحيث يكون به سعة خام 48 تيرابايت) يكلف في أرخص تقدير و أرخص محل في الولايات المتحدة، دون حساب شحنه و ضرائبه 19999$ (أي قرابة العشرين ألف دولار)، و الخادم الخاص بشركة Promise ذو المواصفات التقنية الأقل في سرعة نقل المعلومات داخل الخادم و خارجه يكلف 24999$ أيضا على أقل تقدير. يكلف الخادم الذي نقوم بصنعه بنفس السعة، و طبعا بأدوات و قدرة أعلى على التحكم 10200$ (أزيد قليلا من 10 آلاف دولار). إذا إفترضنا أنك ستضطر مثلا للدفع لمهندس متخصص لصنعه على الأكثر مبلغ ألفين دولار أي ما يقابل شحن و ضرائب الحل الخاص بشركة SNS ستظل موفرا لتقريبا عشرة آلاف دولار فرق في السعر.
  • السبب الثاني في صنعك للخادم بهذا الشكل التفصيلي هو قدرتك على تطويره دائما لمواكبة التطور التكنولوجي، لإذا مثلا ظهرت تقنية جديدة لنقل الملفات، يمكنك دون الإعتماد على شركات غالية أو دون إضطرارك لإستبدال جهازك أن تشتري كارت يعوض هذه التقنية الجديدة و تطور وحدتك، حيث أن نظامها مفتوح المصدر و يمكنك دائما أن تضيف و تعدل اليه.
  • السبب الثالث هو قدرتك في هذا التفصيل على قدرة عالية من التحكم مما يتيح لك إحتمالات كثيرة جدا لإستخدام المادة الخاصة بك دون إضطرارك لإستخدام برنامج محدد من قبل الشركة التي تصنعه. و مما يضمن لك التحكم الكامل و المعرفة الدقيقة بمن يستطيع الولوج لأجهزتك و كيف.
  • السبب الرابع و الأخير هو طبعا أن عملية صنع الخادم في حد ذاتها عملية تعليمية تجعلك ذو مقدرة و معرفة أوسع بالتقنيات.

ما الذي ننوي صنعه؟

هناك عدة أنواع من الخوادم و تستخدم لكافة الأغراض: خادم لاستضافة مواقع الانترنت، خادم لإدارة ميكنة مصنع و خلافه. و هي تأتي في كل الأشكال و الأنواع. الفكرة الأساسية في الخادم هي أنه جهاز حاسوب متصل بشبكة حواسيب، أي أنه عقدة فيها، متخصص في أداء وظيفة معينة وتلبية الطلبات التي ترده من حواسيب أخرى على الشبكة.

الهدف من هذا الخادم الذي نصنعه هو عمل حاسوب مركزي كبير ذو سعة واسعة وموصول بسرعة عالية بالجهاز الرئيسي، وفي نفس الوقت يمكن الولوج اليه من أي جهاز موصول بالشبكة لتحرير الملفات المخزنه عليه و هي غالبا مواد إعلامية من الفيديو، الصوت، الصورة. الهدف أيضا هو وجود صلاحيات مختلفة تسمح بوجود مستودع مفتوح للمواد خالية الحقوق التي يضعها أصحابها للتشارك وإعادة المزج مع الآخرين، وفي نفس الوقت ملفات يمكن حفظها بعيدا عن المستودع المفتوح لكي يعمل أصحابها عليها بشكل يضمن حفظها من أعين الآخرين.

التركيب الأساسي

الهيكل

الأجزاء الأساسية للخادم كما صممناه سيكون عبارة عن الآتي:

 

العلبة الخارجية

أول إعتبار وجب التفكير فيه هو السعة الإجمالية للخادم، و إمكانية توسعته، لآن لهذا علاقة مباشرة بحجم العلبة chassis التي ستشتريها.

بالرغم من وجود عدة إحتمالات لتركيب الخادم، مثلا في علبة رأسية مثل الحاسوب العادي، قررنا نحن الإعتماد على وحدة أفقية بحجم 3U و التي هي في المنتصف بين وحدة 2U التي هي عادة تستوعب من ٦ الى ١٠ خانات لأقراص صلبة و وحدة 4U التي تستوعب عادة ١٨-٢٠ قرص صلب.

سبب إعتمادنا على هذا الحجم هو قدرتنا على تركيب تقريبا ١٢ خانة لأقراص صلبة.. إلى جانب خانات للأقراص التي ستحتوي على نظام تشغيله، و بالتالي في حالة شراءنا لأقراص ٤ تيرابايت سيمكن الوصول لسعة إجمالية ٤٨ تيرابايت التي اذا قسمت على نظام RAID ستكون السعة الفعلية هي ثلثي هذا الحجم أي ٣٢ تيرابايت و هي كمية مناسبة لوحدة في مثل حجم وحدتنا.

هناك عدة ماركات للعلب و لكن طبقا لنصيحة محمد عمار الماركة المناسبة هي Supermicro لان العلبة تأتي بعدة إكسسوارات أساسية. و من هنا استقرينا على هذه العلبة: Supermicro SuperChassis 836E16-R1200B

من مزايا هذه العلبة أنها تأتي بإكسسوارات كاملة منها الوصلات اللازمة و اللوحة الخلفية لتوصيل ال16 قرص صلب بكروت المصفوفة لعمل وحدة واحدة منهم. كما تأتي أيضا كاملة بمصدر الكهرباء الخاص بها Power Supply و مراوح التبريد Fans و بها مساحة أكثر من كافية في الخلف لتوصيل اللوحة الأم و عمل نظام التشغيل و وضع أقراص مضغوطة لها.

مراوح التبريد

العلبة الخارجية التي تم الإختيار عليها بها 6 مراوح للتبريد

مصدر الطاقة

العلبة بها مصدر للطاقة 1200 واط

اللوحة الخلفية

العلبة بها لوحة خلفية BackPlane و التي يوصل بها ال16 قرص صلب لتوصلهم إما مباشرة للوحة الأم أم في حالتنا نحن توصلها بكروت الSAS

  • اللوحة الأم و بها:
    • المعالج المركزي CPU
    • الذاكرة العشوائية RAM
  • 2 أقراص صلبة أحادية الحالة SSD معمول عليها ريد و مركب عليها نظام التشغيل OmniOS
  • 2 أقراص صلبة أحادية الحالة SSD معمول عليها ريد و مركب عليها مساحة مخبأة متأقلمة ARC لعمل ذاكرة عشوائية يديرها نظام تخزين الملفات ZFS
  • 2 أقراص صلبة أحادية الحالة SSD معمول عليها ريد و مركب عليها مساحة لتخزين سجل ملفات نظام التخزين ZIL
  • كارت ريد RAID
  • 2 كروت SAS
  • 9 أقراص صلبة كل واحد منهم سعته 4 تيرابايت.

التوصيلات

HDD

Backplane

Expander

2 x SAS Cards

RAID Card

Motherboard

العلبة

التنصيب و التشغيل

نظام التشغيل

أيضا بعد التفكير في أي أنظمة التشغيل أنسب لإدارة الخادم.. كنا نعلم أننا نريد نظام تشغيل مبني على OpenSolaris ولكن بعد أن أسقطت شركة أوراكل Oracle دعمها له بحثنا عن نظام تشغيل مناسب للخادم بحيث يكون مفتوحا و حرا و مجانيا في نفس الوقت، إلى جانب انه يعطي لنا قدرة عالية في التحكم في الملفات. من كل عائلة أنظمة التشغيل illumus وجدنا أن أنسب نظام تشغيل هو OmniOS.

من مزايا OmniOS أن:

لتركيب نظام التشغيل:

هيكل الملفات و طريقة التخزين

بناء على نصيحة أكثر من شخص منهم Morten Dall المبرمج الدنماركي و المتخصص في تخزين و نقل الملفات في شبكات كبيرة مع شركة Global Connect استقرينا على نظام تخزين: ZFS

و بما إن الخادم معرض لمشاكل معتادة مثل فساد أي من الأقراص الصلبة أو فساد المادة فقررنا الإعتماد على طريق التخزين بمصفوفة التعدد للأقراص المستقلة أو ما يعرف باسم RAID.

بعد التفكير في أنواع الريد المختلفة نفاضل بين نوعين RAID 0 و الملقب بالمخطوطة وهذه التقنية تحتوي على الخطوط ولكنها لا تسمح بتكرار البيانات. وهي توفر الأداء الأمثل وبدون احتمال وقوع أخطاء. هذه النوعية من الريد تعطي إستخدام عالي السرعة و مناسب لأحجام بيانات كبيرة كما تقسم البيانات على الهاردات المختلفة لكنها لا تنسخ نسخا من البيانات و بالتالي في حالة حدوث أي عطل في أي من الأقراص الإحتمال الأكبر هو خسارة جزء من المادة.

النوع الثاني هو RAID 5 وهذا النوع يتضمن مصفوفة التدوير المتكافئة Rotating Parity Array أو مصفوفة التدوير التي تستخدم تقنية فحص الـParity Bit ، وتعني عنونة نفس حدود الكتابة الموجودة في النوع RAID-4. وهذا يعني أن جميع عمليات القراءة والكتابة ستكون متداخلة ومتوافقة مع بعضها. النوع RAID-5 يخزن المعلومات التي يتم الكشف عن صحتها باستخدام تقنية Parity، ولكنه لا يعنى بتخزين البيانات، مع ملاحظة أن المعلومات التي يتم تخزينها يمكن أن تتحول إلى بيانات. هذا النوع يحتاج على الأقل إلى ثلاثة أقراص وعادة تستخدم خمس أقراص للمصفوفة المستخدمة في هذا النوع. ويعتبر هذا النوع من أفضل الأنواع في الأنظمة التي تسمح بتعدد المستخدمين والتي لا ينتقد فيها الأداء بشكل كبير أو التي تنجز عمليات كتابة قليلة. (المصدر ويكيبيديا) و برغم من أن هذا النوع أبطأ في التخزين و التعامل مع عمليات كتابة و تخزين كبيرة إلا أنه أكثر ضمانا حيث أنه في حالة حدوث أي عطل في أي من الأقراص، يمكن بسهولة استبداله و إعادة كتابة المادة حتى لا تحدث أي خسارة في أي جزء من المادة.

الخصائص:

بروتوكول التواصل مع الشبكة

FCoE

NFS

قائمة الأجهزة الصلبة

هذه هي قائمة المشتروات بأسعارها و روابط لشرائها من الولايات المتحدة مع حساب الضرائب و الشحن و رسوم الشركة الموردة (سواء أن كان موقع مثل إدفعلي أو شركة مستقلة) ملف:SeenMediaServerList.ods

Description Units Price EGP Price USD Total EGP Total USD URL
Server Rack Case: Supermicro 1200 Watt 3U Rackmount Server Chassis 1 7699.93 1099.99 7699.93 1099.99 http://www.newegg.com/Product/Product.aspx?Item=N82E16811152518
Server Motherboard: Supermicro X9SRH-7TF 1 3696.21 528.03 3696.21 528.03 https://www.cdwg.com/shop/products/SUPERMICRO-X9SRH-7TF-motherboard-ATX-LGA2011-Socket-C602J/3004170.aspx
Server CPU Intel Xeon E5 2.6Ghz 6-Core 1 4444.93 634.99 4444.93 609.99 http://www.newegg.com/Product/Product.aspx?Item=N82E16819116933&cm_re=Intel_Xeon_E5-_-19-116-933-_-Product
Server RAM 4 1189.93 169.99 4759.72 679.96 http://www.newegg.com/Product/Product.aspx?Item=N82E16820239428
RAID Controller Card 1 4486.93 640.99 4486.93 640.99 http://www.newegg.com/Product/Product.aspx?Item=N82E16816103213
SAS Card 2 1434.93 204.99 2869.86 409.98 http://www.amazon.com/dp/B002RL8I7M
Solid State Drives 180GB 2 874.93 124.99 1749.86 249.98 http://www.newegg.com/Product/Product.aspx?Item=N82E16820167151
Samsung Evo 840 120GB SSD 4 604.73 86.39 2418.92 345.56 http://www.amazon.com/Samsung-Electronics-2-5-Inch-Internal-MZ-7TE120BW/dp/B00E3W15P0/ref=sr_1_2?s=electronics&ie=UTF8&qid=1394032041&sr=1-2&keywords=samsung+evo+840
4TB Storage SATA 9 1679.93 239.99 15119.37 2159.91 http://www.newegg.com/Product/Product.aspx?Item=N82E16822236350R
Drive Cabling - 1/2M 4 82.46 11.78 329.84 47.12 http://www.amazon.com/Monoprice-Internal-SFF-8087-Forward-Breakout/dp/B005E2XTO8/ref=sr_1_2?ie=UTF8&qid=1390779627&sr=8-2&keywords=sff8087+to+sata
Drive Cabling II - 1M 3 105 15 315 45 http://www.amazon.com/HighPoint-Internal-Mini-SAS-SFF8087-Int-MS-1M4S/dp/B001L9DU88/ref=cm_cr_pr_product_top
Drive Cabling III - SAS 2 81.62 11.66 163.24 23.32 http://www.amazon.com/Monoprice-30AWG-Internal-36-Pin-SFF-8087/dp/B008VLHOR2/ref=sr_1_1?s=electronics&ie=UTF8&qid=1390791886&sr=1-1&keywords=monoprice+SFF-8087+cable
Drive Cabling V - SAS 2 104.93 14.99 209.86 29.98 http://www.amazon.com/Rosewill-0-5-Metre-SFF-8087-Multi-lane-RASA-13005/dp/B00DODX430/ref=sr_1_66?s=electronics&ie=UTF8&qid=1390791829&sr=1-66&keywords=SFF-8087+cable
"2.5"" to 3.5"" Dock" 3 184.66 26.38 553.98 79.14 http://www.amazon.com/EZConvert-MB982SP-1S-Enterprise-Converter-Mounting/dp/B00540OMYG/ref=sr_1_2?ie=UTF8&qid=1390792945&sr=8-2&keywords=icy+dock+2.5+to+3.5
"2.5 to 3.5"" Mounting Rack" 3 167.44 23.92 502.32 71.76 http://www.amazon.com/EZConvert-MB882SP-1S-1B-Converter-Adapter-Mounting/dp/B001PQUMEW/ref=sr_1_22?s=pc&ie=UTF8&qid=1390794780&sr=1-22&keywords=icy+dock+2.5+to+3.5
"Dual 2.5"" to Single 3.5"" Bracket" 2 55.93 7.99 111.86 15.98 http://www.amazon.com/SILVERSTONE-SDP08-3-5-2-5-Inch-Converter/dp/B002BH3Z8E/ref=cm_cr_pr_product_top
Y-Cable - Fan Link 3 36.05 5.15 108.15 15.45 http://www.amazon.com/Connector-Computer-Sleeved-Y-Splitter-Adapter/dp/B00E6Y95BG/ref=sr_1_1?s=electronics&ie=UTF8&qid=1390815964&sr=1-1&keywords=y-cable+fan+adapter
Cable Labler - DYMO 5200 1 1122.31 160.33 1122.31 160.33 http://www.amazon.com/DYMO-Rhino-Industrial-Label-Maker/dp/B003ZTW63C/ref=cm_cr_pr_product_top
Label Rolls - 1/2 Inch 3 93.66 13.38 280.98 40.14 http://www.amazon.com/DYMO-Industrial-Strength-Permanent-Polyester/dp/B0001FUD2E/ref=pd_sim_e_2
Shipping 10188.654 1450.522
Taxes 5094.327 725.261
Purchase Company Mark Up 5094.327 725.261
Total Media Server EGP 71320.58 $10153.65

المصادر و الوصلات الخارجية

خادم (معلوماتية) من على ويكيبيديا

كيفية توصيل الوصلات الأساسية لخادم أقراص ساس و ساتا - الجزء الأول

كيفية توصيل الوصلات الآساسية لخادم آقراص ساس و ساتا - الجزء الثاني

أنواع الريد - مصفوفة التعدد للأقراص المستقلة