การใช้งานโครงสร้างพื้นฐานสำหรับ AI มักพบปัญหาความยุ่งยากในการติดตั้งและอัปเดตไดรเวอร์ฮาร์ดแวร์ ซึ่งอาจส่งผลให้ระบบเกิดการหยุดชะงัก (Downtime) หรือเกิดปัญหาความไม่เข้ากันของซอฟต์แวร์ Red Hat จึงได้ร่วมมือกับพันธมิตรเพื่อนำไดรเวอร์ที่ผ่านการตรวจสอบความถูกต้อง (Validated drivers) เข้าสู่ Red Hat Enterprise Linux โดยตรง เพื่อให้มั่นใจว่าฮาร์ดแวร์และซอฟต์แวร์สามารถทำงานร่วมกันได้อย่างเสถียร ลดคอขวดในการทำงานของทีมไอที และช่วยให้วงจรการพัฒนา AI/ML ตั้งแต่เริ่มต้นจนถึงการใช้งานจริงทำได้รวดเร็วยิ่งขึ้น

สำหรับชุดไดรเวอร์และเครื่องมือที่เปิดให้ใช้งานผ่าน Red Hat Enterprise Linux Extensions Repository, Supplementary Repository และ BaseOS ประกอบด้วย AMD GPU kernel mode driver และ AMD ROCm, Intel Neural Processing Unit (NPU) kernel mode driver, NVIDIA GPU OpenRM kernel mode driver และ NVIDIA CUDA toolkit ซึ่งการอัปเดตนี้ครอบคลุมทั้งการใช้งานบนไฮบริดคลาวด์และระบบประมวลผลประสิทธิภาพสูง

นายกุนนาร์ เฮลเลคสัน รองประธานและผู้จัดการทั่วไป Red Hat Enterprise Linux ของ เร้ดแฮท กล่าวว่า ในยุคที่ AI กำลังเติบโต องค์กรต่างๆ จำเป็นต้องเคลื่อนไหวให้เร็วกว่าเดิม Red Hat ยินดีที่ได้สานต่อความร่วมมือกับ AMD, Intel และ NVIDIA เพื่อให้ลูกค้าได้รับประสบการณ์ที่คล่องตัวขึ้น ช่วยปลดล็อกให้สามารถใช้ AI Accelerators ที่ผ่านการตรวจสอบแล้ว เพื่อสร้างสรรค์สิ่งใหม่และนำไปใช้ได้อย่างรวดเร็ว

ด้านนายแดน แมคนามารา รองประธานอาวุโสและผู้จัดการทั่วไป ฝ่าย Server and Enterprise AI ของ เอเอ็มดี (AMD) ระบุว่า องค์กรต่างๆ กำลังมองหาแพลตฟอร์มที่เชื่อถือได้ การที่ AMD Instinct accelerator, แพลตฟอร์มซอฟต์แวร์ AMD ROCm และโปรเซสเซอร์ AMD EPYC ผ่านการตรวจสอบการทำงานร่วมกับ Red Hat Enterprise Linux จะช่วยให้องค์กรสามารถใช้งานโครงสร้างพื้นฐาน AI ได้เต็มประสิทธิภาพ และขยายการทำงานบนสถาปัตยกรรม x86 ได้อย่างยืดหยุ่น

ขณะที่นายไมเคิล มาสซี รองประธานฝ่าย Edge Product Management ของ อินเทล (Intel) กล่าวเสริมว่า ความร่วมมือนี้จะช่วยเสริมศักยภาพให้กับองค์กรต่างๆ ให้ได้รับประสบการณ์ที่ราบรื่นในการใช้ AI Accelerators ของ Intel รวมถึงการผสานพลังการประมวลผล AI ในโปรเซสเซอร์ Intel Core Ultra ที่ทำงานร่วมกับ Red Hat Enterprise Linux ซึ่งช่วยให้องค์กรมีความมั่นใจมากขึ้นในศักยภาพของฮาร์ดแวร์และซอฟต์แวร์ของตนเอง

The post Red Hat ปรับปรุง Red Hat Enterprise Linux รองรับการติดตั้ง AI Accelerators จาก AMD, Intel และ NVIDIA โดยตรง appeared first on Brickinfo News Agency.

Joe Fernandes, vice president and general manager, Foundation Model Platforms, Red Hat ระบุว่า “การที่องค์กรจะประสบความสำเร็จในการใช้แอปพลิเคชัน AI ได้อย่างแท้จริงได้นั้น องค์กรและผู้ใช้จะต้องเข้าถึงแอปฯ เหล่านั้นได้ในวงกว้างมากขึ้น และสามารถนำแอปฯ เหล่านั้นไปใช้กับงานด้านต่าง ๆ ของธุรกิจได้อย่างเฉพาะเจาะจงมากขึ้น RHEL AI มอบความสามารถให้ผู้เชี่ยวชาญเฉพาะด้าน ซึ่งไม่เจาะจงเฉพาะกับนักวิทยาศาสตร์ข้อมูล (data scientist) ในการมีส่วนร่วมสร้างโมเดล AI เพื่อใช้งานตามวัตถุประสงค์เฉพาะ บนไฮบริดคลาวด์ ในขณะเดียวกันองค์กรด้านไอทีก็สามารถสเกลโมเดลเหล่านี้ให้เหมาะสมกับระบบงานจริงผ่าน Red Hat OpenShift AI”

แม้ว่าความนิยมในการใช้ gen AI กำลังพุ่งสูงขึ้นมาก แต่ค่าใช้จ่ายที่เกี่ยวข้องกับการจัดหา การเทรน และการปรับแต่งโมเดล LLM ต่าง ๆ นั้นสูงมาก การเทรนโมเดลชั้นนำบางโมเดลก่อนจะเปิดตัวได้ มีค่าใช้จ่ายเกือบ 200 ล้านดอลลาร์ ซึ่งยังไม่รวมค่าใช้จ่ายในการปรับโมเดลให้สอดคล้องกับความต้องการหรือข้อมูลที่เฉพาะเจาะจงขององค์กร ที่มักต้องทำโดยนักวิทยาศาสตร์ข้อมูล (data scientists) หรือนักพัฒนาซอฟต์แวร์ที่มีความเชี่ยวชาญเฉพาะทางสูง อย่างไรก็ตาม ไม่ว่าจะเลือกโมเดลใดให้กับแอปพลิเคชันที่จะใช้ก็จำเป็นต้องปรับโมเดลให้สอดคล้องกับข้อมูลและกระบวนการเฉพาะของแต่ละบริษัท ดังนั้นการใช้ AI ในสภาพแวดล้อมการทำงานจริงจึงต้องการประสิทธิภาพและความคล่องตัวอย่างมาก

เร้ดแฮทเชื่อว่าในอีกสิบปีข้างหน้า โมเดล AI ที่เล็กลงแต่มีประสิทธิภาพมากขึ้น และเป็นโมเดลที่สร้างขึ้นเพื่อวัตถุประสงค์เฉพาะเจาะจง จะเป็นตัวทำให้เกิดการผสมผสาน IT stack ขององค์กรอย่างมีนัยสำคัญ ควบคู่กับแอปพลิเคชันแบบคลาวด์-เนทีฟ แต่การจะทำเช่นนั้นได้ ผู้ใช้จะต้องเข้าถึง gen AI ได้มากขึ้น และ gen AI ต้องพร้อมใช้งานมากขึ้น นั่นคือการพิจารณาด้านค่าใช้จ่ายต่าง ๆ ตลอดจนผู้มีส่วนร่วมในการพัฒนา gen AI ไปจนถึงทำให้สามารถรัน gen AI บนไฮบริดคลาวด์ได้ทั้งหมด ในมุมของโอเพ่นซอร์สคอมมิวนิตี้นั้น นับเป็นเวลาหลายสิบปีแล้วที่คอมมิวนิตี้นี้ได้ช่วยแก้ไขความท้าทายในลักษณะเดียวกันนี้ให้กับซอฟต์แวร์ที่ซับซ้อนต่าง ๆ ผ่านการมีส่วนร่วมส่งความรู้เข้าคอมมิวนิตี้จากผู้ใช้กลุ่มต่าง ๆ ที่หลากหลาย ซึ่งวิธีการเดียวกันนี้สามารถลดอุปสรรคในการใช้ gen AI ให้มีประสิทธิภาพมากขึ้นได้

Hillery Hunter, CTO and general manager of innovation, IBM Infrastructure ระบุว่า “IBM ให้คำมั่นที่จะช่วยองค์กรต่าง ๆ สร้างและใช้โมเดล AI ที่มีประสิทธิภาพ และสเกลได้อย่างรวดเร็ว RHEL AI on IBM Cloud คือการนำนวัตกรรมโอเพ่นซอร์สมาสู่แนวหน้าของการใช้ gen AI ช่วยให้องค์กรและผู้คนเข้าถึง สเกล และใช้พลังของ AI ได้มากขึ้น  การรวมพลังของ RHEL AI, InstructLab และโมเดลในตระกูล Granite ของ IBM นี้ เป็นสิ่งที่เรากำลังสร้างโมเดล gen AI ที่จะช่วยลูกค้าขับเคลื่อนผลทางธุรกิจอย่างแท้จริงตลอดทั้งองค์กร”

แนวทางของโอเพ่นซอร์สต่อ gen AI

ความท้าทายที่กล่าวข้างต้นคือสิ่งที่ RHEL AI ต้องบริหารจัดการ เพื่อทำให้เข้าถึง gen AI ได้มากขึ้นบนไฮบริดคลาวด์ มอบความคล่องตัวและประสิทธิภาพมากขึ้นให้กับผู้บริหารด้านเทคโนโลยีสารสนเทศ (CIOs) และองค์กรด้านไอที ดังนี้

• สนับสนุนนวัตกรรมด้าน gen AI ด้วยโมเดล Granite ที่เป็นไลเซนส์โอเพ่นซอร์สความสามารถระดับใช้งานในองค์กร และใช้งาน gen AI ได้หลายรูปแบบ
• InstructLab ช่วยปรับโมเดล gen AI ให้สอดคล้องกับความต้องการของธุรกิจ ซึ่งเป็นการช่วยให้ผู้เชี่ยวชาญเฉพาะด้านและนักพัฒนาซอฟต์แวร์ขององค์กร ใช้ทักษะเฉพาะและความรู้ต่าง ๆ กับโมเดลของตนได้โดยไม่จำเป็นต้องมีทักษะด้านวิทยาศาสตร์ข้อมูล (data science)
• เทรนและใช้ gen AI ได้ทุกที่บนไฮบริดคลาวด์ ผ่านเครื่องมือที่จำเป็นทั้งหมดที่มีให้เพื่อใช้ปรับแต่งและใช้โมเดลสำหรับเซิร์ฟเวอร์ที่ใช้งานในทุกแห่งที่มีข้อมูลที่เกี่ยวข้องวางอยู่ นอกจากนี้ยังมอบช่องทางเพื่อต่อยอดไปสู่การใช้งาน Red Hat OpenShift AI เพื่อเทรน ปรับแต่ง และให้บริการโมเดลเหล่านี้ในสเกลที่ใหญ่ขึ้นตามต้องการด้วยการใช้เครื่องมือและแนวทางเดียวกัน

RHEL AI ยังใช้สิทธิประโยชน์ของ Red Hat subscription ได้ ซึ่งรวมถึงการนำเสนอผลิตภัณฑ์ระดับองค์กรที่เชื่อถือได้ การให้บริการช่วยเหลือการทำงานตลอด 24 ชั่วโมงทุกวัน การสนับสนุนไลฟ์ไซเคิลของโมเดล และการคุ้มครองทางกฎหมายของ Open Source Assurance

ใช้ RHEL AI บนไฮบริดคลาวด์ทุกแห่ง

สิ่งที่สำคัญมากในการนำ AI ไปใช้ได้อย่างมีประสิทธิภาพ คือ การนำโมเดลที่ทำงานร่วมกันได้อย่างราบรื่นไปวางไว้ให้ใกล้จุดที่ข้อมูลขององค์กรวางอยู่ RHEL AI ซึ่งเป็นส่วนขยายของพอร์ตโฟลิโอไฮบริดคลาวด์ของเร้ดแฮท จะขยายข้ามไปใกล้สภาพแวดล้อมขององค์กรเกือบทุกรูปแบบ ไม่ว่าจะเป็นดาต้าเซ็นเตอร์ที่ติดตั้งภายในองค์กร สภาพแวดล้อม edge ไปจนถึงบนพับลิคคลาวด์ นั่นหมายถึง RHEL AI จะพร้อมให้ใช้งานได้ทั้งจากเร้ดแฮทโดยตรง จากพันธมิตร OEM ของเร้ดแฮท และรันอยู่บนบริการของผู้ให้บริการคลาวด์รายใหญ่ของโลก เช่น Amazon Web Services (AWS), Google Cloud, IBM Cloud และ Microsoft Azure ซึ่งช่วยให้นักพัฒนาซอฟต์แวร์และองค์กรด้านไอที สามารถใช้พลังของทรัพยากรการประมวลผลแบบไฮเปอร์สเกลในการสร้างแนวคิดนวัตกรรมด้าน AI ด้วย RHEL AI

การจัดจำหน่าย

ขณะนี้ RHEL AI พร้อมให้บริการแล้วผ่าน Red Hat Customer Portal เพื่อรันบนระบบภายในองค์กร หรืออัปโหลดไปยัง AWS และ IBM Cloud ในรูปแบบ “bring your own subscription” (BYOS) สำหรับ Azure และ Google Cloud นั้นวางแผนไว้ว่าจะพร้อมให้ใช้บริการในรูปแบบ BYOS ในไตรมาสที่ 4 ของปี 2567 และคาดว่าจะพร้อมให้ใช้งานบน IBM Cloud ในรูปแบบ as a service ปลายปีนี้

เร้ดแฮทวางแผนขยาย RHEL AI cloud และพันธมิตร OEM เพิ่มเติมในอีกไม่กี่เดือนข้างหน้า เพื่อมอบทางเลือกการใช้งานบนสภาพแวดล้อมไฮบริดคลาวด์ให้มากขึ้น

Jim Mercer, program vice president, Software Development, DevOps & DevSecOps, IDC ระบุว่า “ประโยชน์ของ AI ในองค์กรนั้นมาพร้อมกับแลนด์สเคปของโมเดล AI ขนาดมหึมา และมีความซับซ้อนโดยธรรมชาติ ไม่ว่าจะเป็นการเลือกใช้ การปรับแต่ง และการบำรุงรักษาโมเดลภายในองค์กร  กลยุทธ์ด้าน AI ของผู้ใช้และองค์กรที่มีความหลากหลาย จะประสบความสำเร็จได้มากขึ้นด้วยโมเดลที่มีขนาดเล็กลง เจาะจงสร้างตามวัตถุประสงค์ และเข้าถึงได้อย่างกว้างขวาง ซึ่งส่วนนี้คือเป้าหมายที่เร้ดแฮทจะใช้ RHEL AI เป็นแพลตฟอร์มสำหรับ foundational model”

ข้อมูลเพิ่มเติม

• เรียนรู้เพิ่มเติมเกี่ยวกับ Red Hat’s and Dell’s efforts to power open source AI workloads
• เรียนรู้เพิ่มเติมเกี่ยวกับ RHEL AI
• ศึกษาวิธีการที่ RHEL AI makes trying LLMs easier

The post รู้จัก RHEL AI : Red Hat Enterprise Linux AI นวัตกรรม AI ที่สามารถนำไปใช้บนไฮบริดคลาวด์ได้ appeared first on Brickinfo News Agency.