Viettel mở đường cho nghiên cứu AI với Hệ thống NVIDIA DGX A100

72


Tập đoàn Công nghiệp Viễn thông Quân đội Viettel là công ty viễn thông đầu tiên tại Việt Nam triển khai hệ thống NVIDIA DGX A100 để tiếp thêm sức mạnh cho các nỗ lực phát triển AI của tập đoàn.

Đơn vị Trung tâm Không gian mạng Viettel (VTCC) của công ty đang sử dụng hệ thống để nghiên cứu phát triển các công nghệ và sản phẩm sử dụng AI và phân tích dữ liệu. Các dự án nghiên cứu bao gồm xử lý giọng nói, xử lý ngôn ngữ tự nhiên (NLP), nhận dạng ký tự quang học và cơ sở dữ liệu hồ sơ người dùng.

Một dự án đầy tham vọng là Viettel AI Open Platform nhằm thực hiện các nghiên cứu tiên tiến và ứng dụng Al vào các sản phẩm và dịch vụ, nhằm tạo ra các giải pháp toàn diện và đảm bảo rằng mọi người, mọi doanh nghiệp tại Việt Nam đều có thể tiếp cận Al.

Ông Nguyễn Mạnh Quý, Giám đốc Trung tâm Không gian mạng Viettel cho biết: “Sứ mệnh của chúng tôi là tạo ra những cỗ máy mang đặc điểm của trí tuệ và hiểu biết sâu sắc của con người nhằm thúc đẩy phát triển kinh tế số và thúc đẩy tiến bộ xã hội. “Chúng tôi đang sử dụng NVIDIA DGX A100 để xây dựng các mô hình phức tạp hơn với thời gian đào tạo AI nhanh hơn để giải quyết các vấn đề phức tạp nhất”.

Với nhu cầu ngày càng gia tăng của khách hàng đối với các sản phẩm dựa trên AI với độ chính xác hơn 90%, VTCC phải đáp ứng không chỉ đội ngũ chuyên gia AI của mình – một hệ thống máy tính hiệu suất cao là không thể thiếu. “Vấn đề là lượng dữ liệu ngày càng lớn vượt quá khả năng của hệ thống hiện có của chúng tôi. NVIDIA DGX A100 giúp chúng tôi giảm thiểu công sức, thời gian, chi phí thực hiện mà vẫn đạt được hiệu quả công việc tối ưu ”, ông Nguyễn Mạnh Quý cho biết.

Được thiết kế cho tất cả các workload về AI và Khoa học dữ liệu

NVIDIA DGX A100 được thiết kế để xử lý tất cả workload về AI và khoa học dữ liệu, từ phân tích đến đào tạo (AI training), đến suy luận (AI inference), đồng thời giúp xây dựng các dịch vụ trong lĩnh vực sản xuất, dịch vụ khách hàng, chăm sóc sức khỏe, giáo dục và nhiều ngành khác. Nó thiết lập một cấp độ mới về mật độ điện toán, “đóng gói” 5 petaflops hiệu suất AI vào một khung máy 6U, thay thế cơ sở hạ tầng máy tính cũ bằng một hệ thống thống nhất và duy nhất.

DGX A100 sẽ đẩy mạnh năng lực điện toán của VTCC, cho phép thử nghiệm các mô hình lớn hơn với độ chính xác cao hơn đáng kể. Nó lý tưởng để đào tạo các mô hình AI đàm thoại và thị giác máy tính, cũng như các dự án khác đòi hỏi sức mạnh tính toán được tăng tốc và kết nối tốc độ cao.

Thị giác máy tính và xử lý ngôn ngữ tự nhiên nhanh hơn trước đây khoảng 20 đến 60 phần trăm. Ngoài ra, VTCC có thể đào tạo hệ thống nhận dạng giọng nói với nhiều mẫu hình hơn cho các mô hình AI lớn hơn, thúc đẩy quá trình đào tạo mô hình. Hệ thống cũng cung cấp dung lượng bộ nhớ GPU lớn hơn và khả năng xử lý nhanh hơn.

Xây dựng cơ sở hạ tầng R&D mạnh mẽ

NVIDIA DGX A100 được triển khai tại VTCC sử dụng kiến trúc mạng NVIDIA InfiniBand mạnh mẽ với các bộ xử lý nội mạng tiên tiến, cho phép kết nối I/O hiệu năng và hiệu suất cực cao cho hạ tầng mạng tổng thể.

Ngoài ra, VTCC đang áp dụng các nền tảng NVIDIA và bộ công cụ phát triển phần mềm như NVIDIA Metropolis cho các giải pháp Thành phố Thông minh (Smart City), NVIDIA Jarvis cho các dịch vụ AI đàm thoại đa phương thức, NVIDIA Nemo để phát triển các mô hình AI đàm thoại hiện đại và NVIDIA Clara để tăng tốc thế hệ tiếp theo của thiết bị y tế và nghiên cứu y sinh.

“Viettel đang mở rộng năng lực R&D nội bộ của mình xung quanh AI để xây dựng các sản phẩm mang lại lợi ích cho người dân và doanh nghiệp tại Việt Nam. Sức mạnh của NVIDIA DGX A100 sẽ cho phép VTCC tạo ra các nguồn doanh thu mới và là công ty tiên phong trên toàn cầu trong việc sử dụng các giải pháp AI trong ngành viễn thông”, Anish Pandey, Giám đốc ngành dọc ASEAN tại NVIDIA cho biết.

Nguồn NVIDIA