01/11/2025
ใช้ ai สรุปอีเมลจากอาจารย์ดัานเทคมาแชร์
**ทำความเข้าใจโครงสร้างพื้นฐาน AI ตอนที่ 1: ศูนย์ข้อมูล AI (กลยุทธ์เทคโนโลยี)**
บทความชุดนี้มุ่งเน้นไปที่โครงสร้างพื้นฐานของ AI โดยเฉพาะศูนย์ข้อมูล AI ซึ่งเป็นหัวใจสำคัญสำหรับนักธุรกิจที่ต้องการทำความเข้าใจเทคโนโลยีนี้ในแง่ของความสามารถและต้นทุนการดำเนินงาน
**ศูนย์ข้อมูล AI: ความบ้าคลั่งและการลงทุนมหาศาล**
สถานการณ์ปัจจุบันของศูนย์ข้อมูล AI นั้นน่าทึ่งและมีการลงทุนมหาศาลในระดับล้านล้านดอลลาร์สหรัฐฯ เพื่อสร้างศูนย์ข้อมูลขนาดใหญ่และการจัดหาพลังงานจำนวนมากที่จำเป็น การลงทุนนี้ส่วนใหญ่พุ่งเป้าไปที่เซมิคอนดักเตอร์ ซึ่งทำให้ Nvidia กลายเป็นบริษัทที่มีมูลค่ามากที่สุดในโลก แรงผลักดันหลักคือการเพิ่มขึ้นอย่างมากของปริมาณงาน AI ทั้งจากบุคคลและธุรกิจ ซึ่งต้องการการประมวลผลแบบใหม่ที่เพิ่มขึ้นอย่างมาก
บทความนี้เน้นที่ศูนย์ข้อมูล AI ที่สร้างโดยบริษัทคลาวด์และ hyperscalers ซึ่งเป็นผู้บุกเบิกในด้านนี้ แต่ก็มีการพัฒนามากมายในศูนย์ข้อมูลขนาดกลางและการสร้างภายในบริษัทต่างๆ ด้วยเช่นกัน
**ความสามารถหลัก 4 ประการของศูนย์ข้อมูล AI:**
1. **การประมวลผล (Compute):** หัวใจสำคัญของ AI คือพลังในการประมวลผล
2. **พลังงาน (Energy):** ศูนย์ข้อมูล AI ต้องการพลังงานมหาศาล
3. **การระบายความร้อน (Cooling):** การประมวลผลที่เข้มข้นสร้างความร้อนสูง จึงต้องการระบบระบายความร้อนที่มีประสิทธิภาพ
4. **เครือข่าย (Networking):** ทั้งภายในกลุ่มเซิร์ฟเวอร์ (pod) และระหว่างกลุ่มเซิร์ฟเวอร์ (cluster) เพื่อการสื่อสารข้อมูลที่รวดเร็ว
นอกจากนี้ ยังต้องพิจารณาถึงระบบนิเวศที่ล้อมรอบคลาวด์และคอมพิวเตอร์ AI ซึ่งรวมถึงผู้ดำเนินการต่างๆ พันธมิตรการขาย นักพัฒนา บริการสนับสนุน และศูนย์วิจัย โดยประมาณการว่าทุกๆ 1 ดอลลาร์ที่ใช้ไปกับคลาวด์ จะมีค่าใช้จ่าย 2-3 ดอลลาร์สำหรับกิจกรรมสนับสนุน
**ตัวอย่างศูนย์ข้อมูล AI จากฝั่งตะวันตก:**
* **xAI กำลังสร้าง Colossus 1 และ 2:**
* **Colossus 1:** สร้างเสร็จใน 122 วัน ใช้ GPU ของ Nvidia 100,000 ตัว ขยายเป็น 200,000 ตัว และปัจจุบันมี 230,000 ตัว รวมถึง H100s, H200s และ GB200s ใช้พลังงาน 250-300 MW และเครือข่าย NVIDIA Spectrum-X Ethernet
* **Colossus 2:** กำลังสร้างและวางแผนเสร็จในปี 2026 จะมี GPU ของ Nvidia 550,000-1,000,000 ตัว โดยหลักคือ GB200 และ GB300 ใช้พลังงาน +1 GW
* **แนวทาง:** สถาปัตยกรรมการประมวลผลแบบรวมศูนย์ (unified computing architecture) ที่เน้น Nvidia ทั้งหมดในไซต์เดียว เพื่อความเร็วและประสิทธิภาพสูง แต่มีความเสี่ยงที่ขึ้นอยู่กับสถานที่
* **OpenAI กำลังสร้าง Stargate:**
* โครงการขนาดใหญ่ที่มีเป้าหมายลงทุนสูงสุด 500 พันล้านดอลลาร์สหรัฐฯ ในโครงสร้างพื้นฐาน AI ทั่วสหรัฐอเมริกาภายในปี 2029 โดยมีเป้าหมายกำลังการประมวลผล 10 กิกะวัตต์ (GW)
* เป็นแนวทางแบบพันธมิตร (coalition approach) ที่มี Microsoft, Oracle, NVIDIA, SoftBank และอื่นๆ ร่วมด้วย
* **แนวทาง:** การประมวลผลแบบหลากหลาย (heterogenous computing) ที่ใช้ชิปจาก Intel, AMD, Nvidia และชิปที่ออกแบบเองโดย Microsoft / Oracle มีหลายไซต์ที่เชื่อมต่อกันเพื่อลดความเสี่ยงที่ขึ้นอยู่กับสถานที่และเพิ่มความซ้ำซ้อน และกำลังขยายไปสู่ระดับนานาชาติ
* **Microsoft กำลังอัปเกรดศูนย์ข้อมูลที่มีอยู่และสร้างใหม่:**
* เป็นตัวอย่างที่สำคัญที่สุด เนื่องจากธุรกิจส่วนใหญ่ไม่ได้สร้างโครงสร้างพื้นฐาน AI ใหม่ทั้งหมด แต่ปรับปรุงและอัปเกรดโครงสร้างพื้นฐานดิจิทัลที่มีอยู่
* Microsoft ดำเนินการศูนย์ข้อมูลกว่า 400 แห่งทั่วโลก และกำลังอัปเกรดหลายแห่งสำหรับปริมาณงาน AI พร้อมทั้งสร้างเครือข่ายศูนย์ข้อมูล AI ที่สร้างขึ้นเพื่อวัตถุประสงค์เฉพาะ
* **แนวทาง:** การประมวลผลแบบหลากหลาย (heterogenous computing) ที่เน้นชิปที่ออกแบบเองภายในบริษัท และมีหลายไซต์ที่เน้นระดับนานาชาติ มีการลงทุนจำนวนมาก
**ตัวอย่างศูนย์ข้อมูล AI จากประเทศจีน:**
แนวทางของบริษัทคลาวด์ AI ในจีนแตกต่างออกไป:
* **การลงทุนต่ำกว่า:** แม้จะใหญ่ แต่ไม่เท่ากับหลายแสนล้านดอลลาร์สหรัฐฯ ในฝั่งตะวันตก
* **เน้นการรวมกลุ่มและการทำให้ชิปที่มีประสิทธิภาพน้อยกว่าทำงานร่วมกัน:** เนื่องจาก Nvidia เป็นซัพพลายเออร์ที่ไม่น่าเชื่อถือในจีน (จากการดำเนินการของรัฐบาลสหรัฐฯ) จึงเน้นการเชื่อมโยงชิปที่มีประสิทธิภาพน้อยกว่าเข้าด้วยกันเพื่อให้ได้ประสิทธิภาพที่ใกล้เคียงกัน
* **หลีกเลี่ยงมาตรการคว่ำบาตรของสหรัฐฯ:** รัฐบาลจีนได้ถอด Nvidia ออกจากตลาดจีน ทำให้ทุกคนสร้างภายในประเทศโดยไม่ต้องพึ่งพาห่วงโซ่อุปทานเทคโนโลยีของสหรัฐฯ
* **มุ่งสู่ระดับนานาชาติโดยเน้นเอเชียและ Global South:**
* **Alibaba Cloud กำลังสร้างเครือข่ายศูนย์ข้อมูล AI ทั่วโลก:**
* มีการเปิดตัวในบราซิล ฝรั่งเศส เนเธอร์แลนด์ และเม็กซิโก
* นอกประเทศจีนใช้ GPU ของ Nvidia และโปรเซสเซอร์/ตัวเร่งความเร็วของ AMD
* ภายในประเทศจีนใช้ชิป T-Head ของตัวเอง (ส่วนใหญ่เป็น ASICS ไม่ใช่ GPU) เช่น Hanguang 800 สำหรับการอนุมาน
* **Huawei Cloud ก็กำลังขยายสู่ระดับนานาชาติ:**
* อยู่ในรายการหน่วยงานของสหรัฐฯ และไม่สามารถใช้ชิป Nvidia ได้ทุกที่
* พึ่งพาเซมิคอนดักเตอร์ภายในองค์กรจาก HiSilicon
* Huawei Cloud ใช้ชิปซีรีส์ Ascend สำหรับการฝึกอบรม AI และการอนุมาน และซีรีส์ Kunpeng สำหรับการประมวลผลทั่วไป
* **CloudMatrix 384:** ระบบประมวลผลที่รวมชิป Ascend 910c 384 ตัว และ CPU Kunpeng 192 ตัว ทำงานในสถาปัตยกรรมแบบ all-to-all โดยมีซอฟต์แวร์อัจฉริยะมากมายเพื่อทำให้สถาปัตยกรรมที่หนาแน่นด้วยเซมิคอนดักเตอร์ทำงานได้ใกล้เคียงกับระดับประสิทธิภาพของ Nvidia