PHẦN MỀM XPANDX MỚI CHẠY AI FACTORY VỚI TỐC ĐỘ ÁNH SÁNG

Thời đại công nghiệp được khởi đầu và thúc đẩy bởi hơi nước. Trong khi thời đại kỹ thuật số mang đến sự thay đổi thông qua phần mềm. Và hiện nay, thời đại AI được đánh dấu bằng sự phát triển của Generative AI, Agentic AI và Reasoning AI, cho phép các mô hình xử lý nhiều dữ liệu hơn để học và lý luận nhằm giải quyết các vấn đề phức tạp hơn.

Cũng giống như các nhà máy công nghiệp biến nguyên liệu thô thành hàng hóa, các doanh nghiệp hiện đại cần các nhà máy AI (AI Factory) để nhanh chóng chuyển đổi dữ liệu thành thông tin nắm bắt có khả năng mở rộng, chính xác và đáng tin cậy.

Việc điều phối hạ tầng mới này phức tạp hơn rất nhiều khi so sánh với việc xây dựng các nhà máy chạy bằng hơi nước của thời kỳ trước. Các mô hình tiên tiến đòi hỏi tài nguyên ở quy mô siêu máy tính. Bất kỳ khoảng thời gian downtime nào cũng có nguy cơ làm chệch hướng tiến trình trong nhiều tuần và làm giảm việc sử dụng GPU.

Để giúp các doanh nghiệp và nhà phát triển quản lý và vận hành các nhà máy AI với tốc độ ánh sáng, XPANDX đã công bố giải pháp XPANDX Mission Control, một nền tảng phần mềm điều hành và phối hợp hợp nhất và duy nhất tự động hóa việc quản lý phức tạp các trung tâm dữ liệu và tải xử lý AI.

XPANDX Mission Control cải thiện mọi khía cạnh của hoạt động nhà máy AI. Từ việc cấu hình triển khai đến xác thực hạ tầng để vận hành tải xử lý của nhà phát triển, khả năng của nó giúp các doanh nghiệp đưa các mô hình biên giới vào hoạt động nhanh hơn.

Giờ là mở rộng trong thời gian thử nghiệm, với tốc độ và hiệu quả rất cao. Phần mềm cho phép các doanh nghiệp dễ dàng chuyển đổi giữa tải xử lý đào tạo và suy luận trên các hệ thống XPANDX, phân bổ lại các tài nguyên cụm một cách năng động để phù hợp với các ưu tiên thay đổi.

Ngoài ra, Mission Control còn bao gồm công nghệ XPANDX Run:ai để chuẩn hóa các hoạt động và sắp xếp công việc cho mục đích phát triển, đào tạo và suy luận, giúp tăng hiệu suất sử dụng hạ tầng lên tới 5 lần.

Khả năng tự phục hồi (autonomous recovery) của Mission Control, được hỗ trợ bởi các tính năng kiểm tra nhanh và khởi động lại theo từng cấp độ tự động, có thể phục hồi các tác vụ nhanh hơn đến 10 lần so với các phương pháp truyền thống dựa vào sự can thiệp bằng tay, thúc đẩy hiệu quả đào tạo AI và suy luận để duy trì hoạt động của các ứng dụng AI.

Được xây dựng dựa trên nhiều thập kỷ tích lũy kinh nghiệm về siêu máy tính của XPANDX, Mission Control cho phép các doanh nghiệp chỉ cần chạy các mô hình bằng cách giảm thiểu thời gian dành cho việc quản lý hạ tầng AI. Nó tự động hóa vòng đời của hạ tầng nhà máy AI cho tất cả các hệ thống XPANDX.

Phần mềm tiên tiến cung cấp cho doanh nghiệp khả năng giám sát hạ tầng không bị gián đoạn

Mission Control tự động hóa quản lý hạ tầng đầu cuối, bao gồm cung cấp, giám sát và chẩn đoán lỗi, nhằm cung cấp hoạt động vận hành hạ tầng không gián đoạn. Thêm vào đó, nó liên tục giám sát mọi phân lớp của ứng dụng và hạ tầng để dự đoán và xác định các nguồn gây downtime và kém hiệu quả, tiết kiệm thời gian, điện năng và cả chi phí.

Các lợi ích tăng thêm của phần mềm XPANDX Mission Control bao gồm:

• Thiết lập và cung cấp dịch vụ cụm đơn giản với tính năng tự động hóa mới và giao diện lập trình ứng dụng chuẩn hóa để đẩy nhanh thời gian triển khai với khả năng quản lý và hình ảnh hóa kho tài nguyên tích hợp.
• Điều phối tải xử lý liền mạch để đơn giản hóa quy trình làm việc Slurm và Kubernetes.
• Tính năng Power Profiles tối ưu hóa để cân bằng nhu cầu năng lượng và điều chỉnh hiệu suất GPU cho nhiều loại tải xử lý khác nhau với các điều khiển có thể lựa chọn bởi nhà phát triển.
• Khôi phục tác vụ tự động để xác định, cô lập và phục hồi sau tình trạng kém hiệu quả mà không cần can thiệp thủ công, nhằm tối đa hóa năng suất của nhà phát triển và khả năng phục hồi của hạ tầng.
• Dashboard có thể tùy biến theo dõi các chỉ số hiệu suất chính với quyền truy cập vào dữ liệu telemetry từ xa quan trọng về các cụm.
• Kiểm tra tình trạng thống theo yêu cầu để xác thực hiệu suất của phần cứng và cụm trong suốt vòng đời của hạ tầng điện toán.
• Tích hợp quản lý tòa nhà để tăng cường phối hợp với các hệ thống quản lý tòa nhà nhằm kiểm soát tốt hơn các sự cố về điện và làm mát, bao gồm phát hiện rò rỉ, một cách nhanh chóng.