AI-native infrastructure: Khi doanh nghiệp không thể chỉ “gắn thêm GPU” vào hạ tầng cũ

Bài chia sẻ của Nguyễn Đạt - MRE (Market Research Expert), phối hợp với team R&D tại VNPT Cloud.

Khi bắt đầu triển khai trí tuệ nhân tạo, nhiều doanh nghiệp thường nghĩ đến việc mua thêm GPU hoặc thuê một cụm máy chủ tăng tốc. Nhưng GPU chỉ là một thành phần của bài toán. Khi AI đi từ thử nghiệm sang vận hành thực tế, các giới hạn về mạng, lưu trữ, dữ liệu, điều phối tài nguyên, bảo mật, điện năng và làm mát nhanh chóng xuất hiện. Đó là lý do AI-native infrastructure đang trở thành một hướng tiếp cận đáng chú ý: xây dựng hạ tầng với AI là workload cốt lõi ngay từ đầu, thay vì cố đưa AI vào một kiến trúc vốn được thiết kế cho các ứng dụng truyền thống.

GPU mạnh chưa đồng nghĩa với hạ tầng AI mạnh

Trong nhiều năm, hạ tầng công nghệ thông tin của doanh nghiệp chủ yếu được xây dựng để vận hành website, phần mềm nghiệp vụ, cơ sở dữ liệu, máy ảo và các ứng dụng doanh nghiệp. Những hệ thống này thường ưu tiên tính ổn định, khả năng dự phòng, hiệu quả sử dụng CPU và khả năng mở rộng theo số lượng người dùng.

AI tạo ra một kiểu nhu cầu khác.

Quá trình huấn luyện mô hình có thể cần nhiều bộ tăng tốc hoạt động đồng thời trong thời gian dài. Inference - quá trình đưa mô hình đã được huấn luyện vào sử dụng - lại đòi hỏi khả năng phản hồi nhanh, phục vụ nhiều yêu cầu cùng lúc và mở rộng linh hoạt theo lưu lượng. Các hệ thống RAG, AI agent hay ứng dụng đa phương thức còn phải liên tục truy xuất dữ liệu, tạo embedding, gọi nhiều mô hình và kết nối với các hệ thống nghiệp vụ khác nhau.

Vì vậy, việc lắp thêm GPU vào một máy chủ hoặc một cụm hạ tầng hiện có không có nghĩa doanh nghiệp đã sở hữu một nền tảng AI hoàn chỉnh.

GPU có thể đủ mạnh nhưng dữ liệu không được cung cấp kịp thời. Mạng có thể trở thành điểm nghẽn khi nhiều máy chủ phải trao đổi khối lượng dữ liệu lớn. Storage có thể không đáp ứng tốc độ đọc, ghi và lưu checkpoint. Hệ thống điều phối có thể không phân bổ đúng loại GPU cho đúng workload. Data center cũng có thể không đáp ứng được mật độ điện và nhiệt mới.

Nói cách khác, hiệu năng AI không được quyết định bởi một thiết bị đơn lẻ. Nó là kết quả của cả hệ thống hoạt động đồng bộ.

Gartner đưa AI Supercomputing Platforms vào nhóm xu hướng công nghệ chiến lược năm 2026. Theo Gartner, những nền tảng này kết hợp CPU, GPU, AI ASIC và các mô hình tính toán khác để điều phối những workload phức tạp, thay vì phụ thuộc vào một loại bộ xử lý duy nhất. Đây là một tín hiệu cho thấy thị trường đang chuyển từ tư duy “mua thêm GPU” sang thiết kế một nền tảng tính toán chuyên biệt và đồng bộ hơn cho AI.

AI-native infrastructure là gì?

Trong phạm vi bài viết chia sẻ này, AI-native infrastructure được hiểu là hạ tầng được thiết kế, triển khai và vận hành với AI là một workload cốt lõi ngay từ đầu.

Điều đó khác với cách tiếp cận truyền thống: xây dựng một hệ thống phục vụ ứng dụng thông thường, sau đó bổ sung GPU và một số công cụ AI khi phát sinh nhu cầu.

Một AI-native infrastructure cần liên kết đồng bộ ít nhất sáu lớp:

1. Năng lực tính toán tăng tốc;
2. Mạng hiệu năng cao;
3. Storage và nền tảng dữ liệu;
4. Điều phối workload và nền tảng phát triển;
5. Quan sát, bảo mật và quản trị;
6. Điện năng, làm mát và hạ tầng trung tâm dữ liệu.

Điểm quan trọng nằm ở chữ “native”. Hệ thống không chỉ có khả năng chạy một mô hình AI, mà phải giúp doanh nghiệp phát triển, triển khai, mở rộng, giám sát và kiểm soát AI trong môi trường production.

Có thể hình dung GPU giống như động cơ của một chiếc xe đua. Động cơ mạnh sẽ không phát huy hết giá trị nếu khung xe, hệ thống truyền động, lốp, phanh và khả năng làm mát vẫn được thiết kế cho một chiếc xe thông thường.

06 lớp cấu thành một AI-native infrastructure

1. Compute: Không chỉ có GPU

AI infrastructure thường được gắn với GPU, nhưng một nền tảng thực tế có thể phải sử dụng đồng thời nhiều loại tài nguyên:

• CPU cho tiền xử lý dữ liệu và các tác vụ điều phối;
• GPU cho training, fine-tuning và inference;
• NPU hoặc AI ASIC cho những workload chuyên biệt;
• bộ nhớ tốc độ cao để lưu tham số mô hình;
• tài nguyên tính toán phân tán giữa nhiều máy chủ.

Bài toán không chỉ là doanh nghiệp có bao nhiêu GPU, mà còn là cách sử dụng chúng.

Một workload nhỏ có thể không cần toàn bộ GPU. Một mô hình lớn có thể cần nhiều GPU hoạt động đồng thời trên nhiều máy chủ. Một số tác vụ phụ thuộc nhiều vào dung lượng bộ nhớ, trong khi tác vụ khác ưu tiên năng lực tính toán hoặc băng thông kết nối giữa các thiết bị.

Nếu không có cơ chế lập lịch và chia sẻ phù hợp, doanh nghiệp có thể rơi vào nghịch lý: một số nhóm phải chờ tài nguyên, trong khi những GPU rất đắt tiền ở khu vực khác lại hoạt động dưới công suất.

Vì vậy, AI-native infrastructure cần quản lý tài nguyên theo đặc tính của workload, thay vì chỉ cung cấp một danh sách máy chủ hoặc số lượng GPU cố định.

2. Network: Điểm nghẽn dễ bị bỏ quên

Trong ứng dụng truyền thống, mạng thường phục vụ kết nối giữa người dùng và ứng dụng hoặc giữa các microservice.

Với AI phân tán, mạng còn phải truyền dữ liệu liên tục giữa các GPU, máy chủ và hệ thống lưu trữ. Khi nhiều bộ tăng tốc cùng tham gia huấn luyện một mô hình, tốc độ trao đổi dữ liệu giữa chúng có thể ảnh hưởng trực tiếp đến thời gian hoàn thành workload.

Một cụm GPU mạnh nhưng sử dụng mạng không phù hợp có thể hoạt động kém hiệu quả hơn nhiều so với thiết kế kỳ vọng. GPU phải chờ dữ liệu hoặc chờ các node khác hoàn thành tác vụ, trong khi doanh nghiệp vẫn phải trả chi phí cho toàn bộ tài nguyên.

OpenAI nhận định khi các cụm training tiếp tục mở rộng, thiết kế mạng ngày càng quyết định tỷ lệ năng lực tính toán thực sự có thể được khai thác. Điều đó cho thấy network không còn chỉ là lớp kết nối hỗ trợ, mà đã trở thành một phần trực tiếp của hiệu năng AI.

AI-native infrastructure vì vậy phải tính đến băng thông, độ trễ, kiến trúc lưu lượng east-west, khả năng dự phòng, kiểm soát tắc nghẽn và khoảng cách giữa compute với dữ liệu.

3. Storage và data pipeline: GPU không thể làm việc nếu dữ liệu không đến kịp

AI phụ thuộc rất lớn vào dữ liệu, nhưng storage truyền thống thường được tối ưu cho ứng dụng nghiệp vụ, file, backup hoặc cơ sở dữ liệu thông thường.

Training cần đọc những tập dữ liệu lớn với tốc độ cao. Quá trình huấn luyện còn phải định kỳ lưu checkpoint để có thể tiếp tục nếu workload bị gián đoạn. Inference cần tải model weight, truy cập cache và phục vụ nhiều phiên bản mô hình. RAG và AI agent lại yêu cầu liên tục thu thập, làm sạch, lập chỉ mục và truy xuất dữ liệu doanh nghiệp.

Do đó, một nền tảng AI thường phải kết hợp nhiều lớp lưu trữ:

• object storage cho dữ liệu quy mô lớn;
• storage hiệu năng cao cho training;
• model registry và hệ thống quản lý phiên bản;
• vector database hoặc công cụ tìm kiếm cho RAG;
• data pipeline cho ingestion, xử lý và quản trị dữ liệu;
• cache để giảm độ trễ và chi phí inference.

Nếu dữ liệu bị phân mảnh, thiếu chất lượng hoặc không thể di chuyển đủ nhanh, việc bổ sung compute sẽ không tự động tạo ra một hệ thống AI tốt hơn.

Đây cũng là lý do các kiến trúc AI factory hiện đại không chỉ mô tả GPU. Kiến trúc tham chiếu của NVIDIA bao gồm mạng, storage, Kubernetes, observability, security và công cụ phát triển như các thành phần của một hệ sinh thái hạ tầng hoàn chỉnh. Đây là cách tiếp cận của một nhà cung cấp, không phải định nghĩa duy nhất của ngành, nhưng nó minh họa rõ xu hướng AI infrastructure đang được thiết kế theo hướng toàn stack.

4. Orchestration và platform: Từ quản lý máy chủ sang quản lý vòng đời AI

AI workload không chỉ cần được khởi chạy. Nó còn phải được xếp hàng, ưu tiên, theo dõi, mở rộng, cập nhật và thu hồi tài nguyên sau khi hoàn thành.

Đây là lý do Kubernetes và hệ sinh thái cloud-native đang trở thành lớp điều phối quan trọng của AI infrastructure. Theo khảo sát thường niên của CNCF công bố đầu năm 2026, 82% người dùng container cho biết đang sử dụng Kubernetes trong production. Trong nhóm tổ chức vận hành mô hình GenAI, 66% sử dụng Kubernetes cho một phần hoặc toàn bộ inference workload.

⏬ Download báo cáo: CNCF Annual Cloud Native Survey The infrastructure of AI’s future (phát hành 01/2026)

Tuy nhiên, việc cài Kubernetes lên một cụm GPU chưa đủ để tạo ra một AI platform hoàn chỉnh. Hệ thống còn phải hỗ trợ:

• quản lý accelerator;
• xếp hàng và xác định mức ưu tiên;
• quota tài nguyên cho nhiều nhóm;
• chia sẻ hoặc phân vùng GPU;
• gang scheduling cho workload phân tán;
• topology-aware scheduling;
• autoscaling cho inference;
• quản lý model và pipeline;
• self-service cho đội ngũ phát triển.

Dynamic Resource Allocation trong Kubernetes là một ví dụ về sự thay đổi này. Cơ chế này cho phép workload mô tả rõ hơn đặc tính của những tài nguyên chuyên dụng như GPU hoặc FPGA và để scheduler lựa chọn thiết bị phù hợp. Các phiên bản Kubernetes gần đây tiếp tục mở rộng DRA để hỗ trợ tốt hơn việc quản lý accelerator, tài nguyên có thể phân vùng và các workload cần nhiều thiết bị phối hợp.

Nhưng doanh nghiệp vẫn cần một lớp platform phía trên Kubernetes. Lớp này cung cấp trải nghiệm self-service, chính sách tài nguyên, quy trình triển khai, công cụ giám sát và các “golden path” để đội ngũ phát triển đưa mô hình vào production mà không phải tự giải quyết mọi vấn đề hạ tầng.

5. Observability, security và governance: AI cần được giám sát theo cách khác

Một ứng dụng truyền thống thường được theo dõi thông qua CPU, bộ nhớ, lưu lượng mạng, số lỗi và thời gian phản hồi.

Với AI, doanh nghiệp còn phải quan sát thêm:

• mức sử dụng GPU và bộ nhớ GPU;
• độ trễ và throughput của inference;
• số token được xử lý;
• chi phí trên mỗi request hoặc mỗi token;
• phiên bản model đang được sử dụng;
• sự thay đổi của dữ liệu;
• chất lượng và độ ổn định của đầu ra;
• hành vi bất thường của model hoặc AI agent.

Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) cho rằng việc giám sát các hệ thống AI sau khi triển khai đặt ra những thách thức mới vì hành vi của hệ thống có thể biến đổi và biểu hiện theo những cách khó dự đoán. Các phương pháp, thuật ngữ và thực hành giám sát sau triển khai hiện vẫn đang trong quá trình hoàn thiện.

Bảo mật cũng không thể chỉ dừng ở firewall, phân quyền máy chủ hay mã hóa ổ đĩa. Doanh nghiệp phải đồng thời bảo vệ dữ liệu huấn luyện, model, API, prompt, vector store, pipeline, credential và những hệ thống mà AI agent được phép truy cập.

Khi agent có thể gọi API, sử dụng công cụ hoặc thực hiện hành động trên hệ thống nghiệp vụ, một sai sót về quyền hạn không chỉ tạo ra câu trả lời không chính xác mà còn có thể gây ra thay đổi thật.

NIST đã ban hành SP 800-234 về bảo mật hệ thống tính toán hiệu năng cao, nhấn mạnh vai trò của HPC trong huấn luyện AI, machine learning, phân tích dữ liệu lớn và các tác vụ tính toán phức tạp. Điều này cho thấy hạ tầng AI cần được tiếp cận như một môi trường có yêu cầu bảo mật riêng, thay vì chỉ là một nhóm máy chủ có cấu hình cao.

6. Điện và làm mát: Giới hạn vật lý của AI

Một trong những khác biệt lớn nhất giữa hạ tầng AI và hạ tầng truyền thống nằm ở mật độ công suất.

GPU server có thể tiêu thụ lượng điện và tạo ra nhiệt lớn hơn đáng kể so với máy chủ thông thường. Khi nhiều hệ thống được đặt trong cùng một rack, data center phải đáp ứng đồng thời yêu cầu về cấp điện, phân phối điện, dự phòng, làm mát và an toàn vận hành.

Do đó, AI-native infrastructure không thể chỉ được xem là dự án của bộ phận CNTT. Nó còn liên quan trực tiếp đến kiến trúc trung tâm dữ liệu, hệ thống điện, phương pháp làm mát và khả năng mở rộng facility.

IEA dự báo lượng điện tiêu thụ của data center trên toàn cầu có thể đạt khoảng 945 TWh vào năm 2030, gần gấp đôi so với năm 2024 và tương đương gần 3% tổng lượng điện tiêu thụ toàn cầu. AI được xác định là động lực quan trọng nhất của mức tăng này; riêng điện tiêu thụ của các accelerated server được dự báo tăng khoảng 30% mỗi năm trong giai đoạn 2024–2030.

Nếu data center không được thiết kế cho mật độ công suất cao, doanh nghiệp có thể mua được GPU nhưng không có vị trí phù hợp để triển khai. Đây là một trong những lý do việc “gắn thêm GPU” vào hạ tầng cũ thường phức tạp hơn nhiều so với kế hoạch đầu tư ban đầu.

Training, inference và AI agent không cần cùng một loại hạ tầng

Một sai lầm phổ biến là xem toàn bộ workload AI như một nhóm đồng nhất. Trên thực tế, mỗi giai đoạn tạo ra một kiểu áp lực khác nhau lên hạ tầng.

Training ưu tiên khả năng tính toán phân tán

Huấn luyện mô hình lớn thường cần nhiều GPU phối hợp trong thời gian dài. Hệ thống phải ưu tiên băng thông giữa các node, tốc độ truy cập dữ liệu, khả năng lưu checkpoint và độ ổn định của toàn bộ cụm.

Chỉ cần một thành phần hoạt động chậm hoặc bị lỗi, nhiều tài nguyên khác có thể phải chờ đợi. Vì vậy, training infrastructure thường được thiết kế quanh hiệu năng tổng thể của cluster, chứ không chỉ hiệu năng của từng GPU.

Inference ưu tiên độ trễ và hiệu quả chi phí

Inference gắn trực tiếp với người dùng hoặc quy trình nghiệp vụ. Hệ thống phải phản hồi nhanh, xử lý lưu lượng thay đổi và duy trì chi phí hợp lý.

Một nền tảng inference tốt không nhất thiết phải sử dụng GPU mạnh nhất. Nó cần lựa chọn đúng phần cứng, phiên bản mô hình, kỹ thuật lượng tử hóa, cơ chế batching, cache và autoscaling cho từng ứng dụng.

Thước đo quan trọng không còn chỉ là số lượng GPU, mà là số yêu cầu hoặc số token được xử lý trên mỗi đơn vị chi phí, thời gian và điện năng.

RAG và AI agent ưu tiên dữ liệu, tích hợp và kiểm soát

Với RAG, chất lượng của hệ thống phụ thuộc nhiều vào khả năng tìm đúng dữ liệu và đưa đúng ngữ cảnh vào model. Với AI agent, thách thức còn nằm ở việc kiểm soát công cụ, quyền hạn và chuỗi hành động.

Hạ tầng phục vụ AI agent vì vậy phải liên kết chặt chẽ giữa model serving, data platform, API gateway, identity, observability và hệ thống chính sách.

AI-native infrastructure phải hỗ trợ được những workload khác nhau mà không biến thành tập hợp các cụm tài nguyên rời rạc, khó quản lý và khó kiểm soát chi phí.

AI-ready, AI-native và AI factory khác nhau như thế nào?

Ba khái niệm này thường được sử dụng gần nhau nhưng không hoàn toàn đồng nghĩa.

AI-ready infrastructure là hạ tầng đã được chuẩn bị để có thể tiếp nhận một số workload AI. Chẳng hạn, data center có đủ điện cho GPU server, mạng và storage đạt yêu cầu cơ bản, đồng thời có đội ngũ hỗ trợ triển khai.

AI-native infrastructure đi xa hơn. AI được xem là workload cốt lõi trong quá trình thiết kế kiến trúc, vận hành, bảo mật, quản trị và tối ưu chi phí. Hệ thống không chỉ chạy được AI mà phải hỗ trợ vòng đời từ dữ liệu, phát triển, training và fine-tuning đến triển khai, inference và giám sát.

AI factory có thể được xem là một mô hình triển khai AI-native infrastructure theo hướng tích hợp và có quy mô lớn. Các kiến trúc AI factory hiện nay thường kết hợp accelerated compute, mạng, storage, phần mềm điều phối, observability và công cụ phát triển thành một hệ thống phục vụ quá trình xây dựng và vận hành AI.

Không phải mọi AI-native infrastructure đều phải trở thành một AI factory quy mô lớn. Một ngân hàng, nhà máy, bệnh viện hay doanh nghiệp bán lẻ vẫn có thể xây dựng kiến trúc AI-native phù hợp với nhu cầu riêng mà không cần sở hữu hàng nghìn GPU.

Không phải doanh nghiệp nào cũng cần tự xây

AI-native không đồng nghĩa với on-premises, và cũng vì thế, với tôi, cũng không có nghĩa doanh nghiệp phải mua và sở hữu toàn bộ phần cứng.

Hạ tầng AI-native có thể được triển khai trên public cloud, private cloud, sovereign cloud, tại data center của doanh nghiệp hoặc theo mô hình hybrid. Điều quan trọng là các lớp hạ tầng phải được thiết kế đồng bộ và đáp ứng đúng yêu cầu của workload.

Nhóm chúng tôi cho rằng, doanh nghiệp nên cân nhắc 04 yếu tố chính sau:

Quy mô và tính ổn định của nhu cầu: Nếu workload chỉ xuất hiện theo từng dự án hoặc còn trong giai đoạn thử nghiệm, thuê cloud hoặc GPU as a Service thường linh hoạt hơn. Nếu nhu cầu lớn, ổn định và kéo dài, hạ tầng riêng có thể đem lại khả năng kiểm soát và tối ưu tốt hơn.

Mức độ nhạy cảm của dữ liệu: Các ngành tài chính, y tế, viễn thông và khu vực công có thể cần kiểm soát chặt hơn vị trí dữ liệu, quyền truy cập và chuỗi cung ứng công nghệ.

Năng lực đội ngũ: Sở hữu GPU không đồng nghĩa với khả năng vận hành một nền tảng AI. Doanh nghiệp còn cần năng lực về data engineering, MLOps, platform engineering, bảo mật, mạng và hạ tầng data center.

Khả năng tránh phụ thuộc quá mức: Kiến trúc cần đủ mở để doanh nghiệp có thể sử dụng nhiều loại model, accelerator và môi trường triển khai khi nhu cầu thay đổi.

Trong nhiều trường hợp, hybrid là hướng thực tế: dữ liệu nhạy cảm và workload ổn định được xử lý trên hạ tầng riêng; các tác vụ thử nghiệm, nhu cầu tăng đột biến hoặc dịch vụ chuyên biệt được triển khai trên cloud.

Việt Nam đang bước vào giai đoạn xây dựng hạ tầng AI thực chất hơn

AI-native infrastructure không còn là câu chuyện chỉ xuất hiện tại những thị trường hyperscale.

Chiến lược hạ tầng số của Việt Nam đặt mục tiêu hình thành các trung tâm dữ liệu hỗ trợ ứng dụng AI, phát triển hyperscale data center, digital hub và data center biên. Các trung tâm dữ liệu mới cũng được định hướng đáp ứng tiêu chuẩn xanh, trong đó chỉ số hiệu quả sử dụng năng lượng PUE không vượt quá 1,4.

Thị trường trong nước đã xuất hiện nhiều dự án cho thấy quy mô hạ tầng đang thay đổi. Trung tâm dữ liệu tại Hòa Lạc có tổng công suất điện 30 MW, 2.400 rack và được thiết kế với mật độ rack cao để đáp ứng xu hướng AI. Dự án trung tâm dữ liệu và nghiên cứu phát triển công nghệ cao của Viettel tại Thành phố Hồ Chí Minh có tổng công suất thiết kế lên tới 140 MW, với khoảng 10.000 rack. Đầu năm 2026, họ cũng đưa vào vận hành hệ thống siêu máy tính NVIDIA B200 tại Hòa Lạc, hướng tới đáp ứng nhu cầu phát triển AI quy mô lớn và xây dựng năng lực tính toán AI lõi trong nước.

Ở một hướng khác, FPT AI Factory công bố triển khai hạ tầng thế hệ mới sử dụng hệ thống NVIDIA HGX B300 để tăng năng lực cho các workload AI reasoning và inference. Những chuyển động này cho thấy thị trường đang dần đi xa hơn mô hình cung cấp máy chủ GPU đơn lẻ, hướng tới các nền tảng tích hợp compute, cloud, dữ liệu và dịch vụ AI.

Và mới nhất thì, VNPT và Qualcomm hợp tác chiến lược nhằm thúc đẩy nghiên cứu và ứng dụng Trí tuệ nhân tạo (AI), IoT, và mạng di động thế hệ mới. Trọng tâm của mối quan hệ này là thành lập Trung tâm Xuất sắc (Center of Excellence), tập trung thiết kế gốc và phát triển hạ tầng AI; đồng thời thành lập Công ty VNPT AI, thể hiện quyết tâm tập trung năng lực AI, phục vụ định hướng bảo đảm chủ quyền số, giảm sự phụ thuộc vào các nền tảng công nghệ bên ngoài trong những lĩnh vực then chốt.

Những nền tảng về năng lực công nghệ đã được VNPT đầu tư bài bản trong nhiều năm, bao gồm hạ tầng dữ liệu lớn với dung lượng 20 petabyte, năng lực xử lý gần 20 terabyte dữ liệu mỗi ngày cùng hệ sinh thái sản phẩm, hạ tầng tính toán hiệu năng cao quy mô hàng trăm petaflops và liên tục được mở rộng sẽ là điều kiện then chốt để VNPT AI phát triển các mô hình AI quy mô lớn, đáp ứng yêu cầu triển khai ở tầm quốc gia. (Theo Vietnamnet)

Tuy nhiên, Việt Nam vẫn phải đồng thời giải quyết nhiều bài toán:

• khả năng cấp điện và phát triển data center xanh;
• làm mát cho rack mật độ cao;
• kết nối mạng trong nước và quốc tế;
• khả năng điều phối nhiều loại accelerator;
• đội ngũ vận hành AI platform;
• bảo mật và chủ quyền dữ liệu;
• hiệu quả đầu tư và tỷ lệ sử dụng GPU.

Vì vậy, cạnh tranh trong hạ tầng AI sẽ không chỉ nằm ở việc đơn vị nào sở hữu nhiều GPU hơn. Lợi thế dài hạn sẽ thuộc về bên có khả năng kết nối GPU với dữ liệu, cloud, network, platform và năng lực vận hành thành một hệ thống hoàn chỉnh.

Doanh nghiệp nên bắt đầu từ đâu?

Doanh nghiệp không nên bắt đầu bằng câu hỏi: “Cần mua bao nhiêu GPU?”

Câu hỏi đầu tiên nên là: “AI sẽ giải quyết bài toán nào và workload đó có đặc tính ra sao?”

Từ đó, tổ chức cần xác định:

• workload là training, fine-tuning, inference, RAG hay AI agent;
• dữ liệu đang nằm ở đâu và cần di chuyển như thế nào;
• yêu cầu về độ trễ, bảo mật và tính sẵn sàng;
• nhu cầu sử dụng ổn định hay biến động;
• tài nguyên nên được sở hữu hay thuê;
• đội ngũ hiện tại có thể tự vận hành đến lớp nào;
• chi phí cần đo theo GPU giờ, request, token hay giá trị nghiệp vụ.

Doanh nghiệp có thể thử nghiệm trên phạm vi nhỏ, nhưng kiến trúc thử nghiệm cần có đường đi rõ ràng tới production. Một proof of concept chạy được trên một GPU không chứng minh hệ thống có thể phục vụ hàng nghìn người dùng, hoạt động liên tục hoặc đáp ứng yêu cầu bảo mật của doanh nghiệp.

AI-native infrastructure vì thế không nhất thiết bắt đầu bằng một khoản đầu tư rất lớn. Nó bắt đầu bằng việc xác định đúng workload, thiết kế đúng kiến trúc và lựa chọn đúng mô hình vận hành.

Kết luận

AI đang thay đổi cách doanh nghiệp nhìn nhận hạ tầng công nghệ thông tin.

Trong thời kỳ cloud, doanh nghiệp chuyển từ quản lý máy chủ sang quản lý tài nguyên theo nhu cầu. Trong thời kỳ AI, bước chuyển tiếp theo là từ việc cung cấp từng tài nguyên riêng lẻ sang vận hành một hệ thống đồng bộ, nơi compute, network, storage, dữ liệu, platform, bảo mật, điện và làm mát cùng được tối ưu cho AI.

GPU vẫn là một thành phần quan trọng, nhưng không thể tự mình tạo ra một nền tảng AI hiệu quả.

Doanh nghiệp có thể sở hữu GPU mạnh nhưng vẫn gặp khó khi đưa AI vào production nếu dữ liệu phân mảnh, mạng không đủ nhanh, storage trở thành điểm nghẽn, tài nguyên không được điều phối tốt hoặc chi phí vận hành không được kiểm soát.

Đó chính là khác biệt cốt lõi của AI-native infrastructure: không xây hạ tầng rồi tìm cách đưa AI vào, mà thiết kế hạ tầng ngay từ đầu dựa trên cách AI thực sự được phát triển, triển khai và vận hành.

Theo tôi, trong thời gian tới đây, câu hỏi quan trọng với doanh nghiệp sẽ không còn là:

“Chúng ta đã có GPU hay chưa?”

Mà là:

“Toàn bộ hạ tầng đã sẵn sàng để biến GPU, dữ liệu và mô hình thành giá trị thực hay chưa?”

⚠️ Lưu ý: Bài viết này mang tính phân tích thị trường và công nghệ của cá nhân tôi, không đại diện cho ý kiến, chủ trương cụ thể cho doanh nghiệp. Xin cảm ơn Quý khách đã theo dõi, đọc bài của chúng tôi!

Bài viết này có tham khảo thông tin từ https://www.gartner.com/, https://openai.com/, https://nvidia.com, https://www.cncf.io/, https://kubernetes.io/, https://www.nist.gov/, https://www.iea.org/, https://baochinhphu.vn/, ... Và các hình minh hoạt có sử dụng AI.