Chapter 8 of 9Chương 8/9 8 min8 phút
Where the chip industry goes nextNgành chip sẽ đi về đâu
Every time the chip industry seems to hit a wall, it finds a way through it or over it. Where it goes next rests on one fact that has held since the first computers: people always find a use for more computing power.
Mỗi lần tưởng như đã bị dồn vào chân tường, ngành chip lại tìm được cách đục thủng bức tường hoặc trèo qua nó. Còn ngành sẽ đi tiếp về đâu thì tùy vào một điều đã đúng từ thời những chiếc máy tính đầu tiên: sức mạnh tính toán nhiều đến đâu, con người cũng tìm ra chỗ để dùng.
In this chapter
Trong chương này
- Why demand for computing keeps growing, with or without an AI boom
- How RISC-V lowers a barrier for companies that want to design their own processors
- How AI tools are already changing the daily work of chip designers
- The two roads manufacturing is taking: smaller transistors, and chips packed closer together
- Whether AI will replace people at work
- Vì sao nhu cầu tính toán vẫn tiếp tục tăng, dù có cơn sốt AI hay không
- RISC-V hạ thấp rào cản cho những công ty muốn tự thiết kế bộ xử lý ra sao
- Các công cụ AI đang thay đổi công việc hằng ngày của kỹ sư thiết kế chip ra sao
- Hai hướng đi của ngành sản xuất: bóng bán dẫn (transistor) nhỏ hơn, và các con chip được đặt sát nhau hơn
- AI có thay thế con người trong công việc hay không
So far, demand for computing has never run out
Cho đến nay, nhu cầu tính toán chưa bao giờ cạn
AI has woken the semiconductor industry up and made it one of the hottest fields around. But AI is only one of the reasons the world wants more computing. Processing data is another: chips that speed up databases, chips that move and sort data inside networks, and countless applications that nobody has thought of yet. Every new idea for what a computer could do becomes a new reason to build a faster chip.
AI đã đánh thức ngành bán dẫn và biến nó thành một trong những lĩnh vực sôi động nhất hiện nay. Nhưng AI chỉ là một trong nhiều lý do khiến thế giới cần thêm sức mạnh tính toán. Xử lý dữ liệu là một lý do khác: chip tăng tốc cơ sở dữ liệu, chip xử lý dữ liệu trong các hệ thống mạng, cùng vô số ứng dụng mà chưa ai nghĩ tới. Mỗi ý tưởng mới về những gì máy tính có thể làm lại là thêm một lý do để làm ra con chip nhanh hơn.
Chip sales still rise and fall in cycles, and a cooling AI boom would bring a downturn of its own. Over the long run, though, demand has always moved on to the next application: so far, computing power has never turned out to be more than people could use.
Doanh số chip vẫn lên xuống theo chu kỳ, và nếu cơn sốt AI hạ nhiệt, ngành cũng sẽ có một đợt suy giảm. Tuy nhiên, về lâu dài, nhu cầu luôn chuyển sang ứng dụng kế tiếp: cho đến nay, chưa bao giờ sức mạnh tính toán lại nhiều đến mức con người không dùng hết.
RISC-V brings the open-source idea to hardware
RISC-V đưa ý tưởng mã nguồn mở sang phần cứng
Open source has shaped software for decades. Since operating systems such as Linux took hold, anyone can read, use and change the code that runs much of the world’s computers. In recent years the same idea has reached hardware, and its best-known example is RISC-V.
Mã nguồn mở đã định hình ngành phần mềm suốt nhiều thập kỷ. Từ khi các hệ điều hành như Linux trở nên phổ biến, ai cũng có thể đọc, dùng và sửa phần mã đang chạy trên phần lớn máy tính trên thế giới. Mấy năm gần đây, ý tưởng ấy đã lan sang phần cứng, và ví dụ tiêu biểu nhất là RISC-V.
To see why it matters, start with the instruction set: the list of basic commands a processor understands. It works as a contract between software and hardware. Programs are written to the contract, and the chip promises to carry it out. For a long time, a company that wanted to design its own processor usually had to license a proprietary instruction set, such as Arm’s, before it could start;8.1 x86, the instruction set of most PCs and servers, was not offered to newcomers at all. How well a chip runs depends on the design built underneath the instruction set.
Muốn hiểu vì sao RISC-V quan trọng, hãy bắt đầu từ instruction set: danh sách những lệnh cơ bản mà một bộ xử lý hiểu được. Nó giống như bản hợp đồng giữa phần mềm và phần cứng: phần mềm được viết theo hợp đồng, còn con chip cam kết thực hiện đúng. Trong một thời gian dài, công ty nào muốn tự thiết kế bộ xử lý thường phải mua giấy phép một instruction set độc quyền, như của Arm, rồi mới bắt tay vào làm;8.1 còn x86, instruction set của phần lớn máy tính cá nhân và máy chủ, thì không được cấp phép cho người mới. Con chip chạy hiệu quả đến đâu lại tùy vào bản thiết kế dựng bên dưới instruction set.
RISC-V began at the University of California, Berkeley, in 2010 as an open, royalty-free instruction set that anyone may use.8.2 The instruction set itself is a published standard, and a processor built on it can be open or kept proprietary; the open ones are real examples of open-source hardware. A newcomer with no history in chip design gets a starting point: it can take the instruction set, and open-source processor designs built on it, then customise them for its own product. That lowers one barrier for companies that want to join the market, and RISC-V now offers far more than an instruction set.
RISC-V ra đời tại Đại học California, Berkeley, năm 2010, dưới dạng một instruction set mở, miễn phí bản quyền, ai cũng được phép dùng.8.2 Bản thân instruction set là một tiêu chuẩn công khai, còn bộ xử lý dựng trên nó có thể công bố mã nguồn hoặc giữ độc quyền. Những bộ xử lý công bố mã nguồn chính là open-source hardware (phần cứng mã nguồn mở) trong thực tế. Nhờ RISC-V, một công ty chưa từng làm thiết kế chip cũng có điểm xuất phát: dùng instruction set này, cùng các thiết kế bộ xử lý mã nguồn mở dựng trên nó, rồi tùy biến cho sản phẩm của mình. Một rào cản gia nhập thị trường nhờ vậy được hạ thấp, và giờ đây RISC-V đã vượt xa khuôn khổ một instruction set.
AI has reached the chip designer's desk
AI đã có mặt trên bàn làm việc của kỹ sư thiết kế
The second shift is closer to home: many chip companies now encourage their engineers to use AI in everyday work. Design starts with discussion, but after the meeting someone still has to write the code that describes the hardware. An AI assistant can read a section of that code, say whether it is written efficiently, and suggest another way to do it.
Xu hướng thứ hai gần gũi hơn, nằm ngay trên bàn làm việc: nhiều công ty chip nay khuyến khích kỹ sư dùng AI trong công việc hằng ngày. Thiết kế bắt đầu từ những buổi thảo luận, nhưng họp xong vẫn phải có người ngồi viết mã để mô tả phần cứng. Một trợ lý AI có thể đọc một đoạn mã như thế, nhận xét cách viết đã hiệu quả chưa, và gợi ý một hướng làm khác.
It helps most when an engineer is handed something new. Chip design has many specialised areas, and most people work deep inside one of them. Given an unfamiliar unit, an engineer can feed its code to an AI tool and get back a high-level overview of how it works. That shortens the time it takes to learn a new area, which in a field this wide is a real gain.
AI giúp ích nhiều nhất khi kỹ sư được giao một việc mới. Thiết kế chip có rất nhiều mảng chuyên sâu, và phần đông kỹ sư chỉ đi sâu vào một mảng. Khi nhận một khối (unit) chưa quen, kỹ sư có thể đưa mã của khối ấy vào một công cụ AI để có ngay bức tranh tổng quan về cách nó hoạt động. Thời gian học một mảng mới nhờ vậy ngắn lại, và trong một lĩnh vực rộng như thế, đó là lợi ích thật sự.
AI has also moved into the design software itself. Since 2020, Synopsys has offered a tool that uses reinforcement learning, a kind of AI that learns by trial and reward, to search the vast number of choices on the way from design code to finished layout for the best balance of power, performance and area.8.3
Bản thân phần mềm thiết kế chip cũng đã dùng tới AI. Từ năm 2020, Synopsys đã có một công cụ dùng reinforcement learning (học tăng cường), loại AI học qua thử sai và phần thưởng. Công cụ này dò trong vô số lựa chọn trên đường từ mã thiết kế đến bản bố trí hoàn chỉnh để tìm điểm cân bằng tốt nhất giữa điện năng, hiệu năng và diện tích.8.3
Manufacturing is shrinking transistors and packing chips closer together
Ngành sản xuất vừa thu nhỏ transistor vừa đưa các chip lại gần nhau
Manufacturing follows where demand leads: as long as the world needs more computing, manufacturing keeps inventing. It is moving in two directions at once. The first is to keep shrinking the transistor so that more of them fit on a chip. This scaling goes on through the changes of shape chapter 7 described, from planar to FinFET to gate-all-around, and researchers are now testing new materials for the channel itself. imec, for example, is studying 2D materials, sheets only one or a few atoms thick, as a channel that could keep working at sizes where silicon struggles; they are still in the research stage.8.4
Ngành sản xuất đi theo nhu cầu: chừng nào thế giới còn cần thêm sức mạnh tính toán, sản xuất còn phải sáng tạo. Ngành đang cùng lúc đi theo hai hướng. Hướng thứ nhất là tiếp tục thu nhỏ bóng bán dẫn (transistor) để xếp được nhiều hơn trên một con chip. Việc thu nhỏ này, gọi là scaling, đã đi qua những lần đổi hình dạng mà chương 7 kể, từ transistor phẳng (planar) sang FinFET rồi Gate-All-Around, và giới nghiên cứu nay đang thử những vật liệu mới cho chính kênh dẫn. Chẳng hạn, imec đang nghiên cứu vật liệu 2D, những lớp vật liệu chỉ dày một hoặc vài nguyên tử, để làm kênh dẫn: chúng có thể vẫn hoạt động tốt ở những kích thước mà silicon đã khó đáp ứng. Các vật liệu này vẫn đang ở giai đoạn nghiên cứu.8.4
The second direction is advanced packaging. Instead of building one ever larger chip, designers split it into several smaller dies, called chiplets, and place them extremely close together, side by side or stacked on top of each other. Smaller dies come out working more often, as chapter 7 noted; together they can add up to more than the largest single chip a lithography tool can print;8.5 and each die can be made on the process that suits it. Keeping them close keeps the links between them fast, far faster than between separate chips on a circuit board, and stacking them packs more transistors into the same footprint.
Hướng thứ hai là đóng gói tiên tiến (advanced packaging). Thay vì dựng một con chip ngày càng to, người thiết kế chia nó thành nhiều mảnh silicon nhỏ hơn, gọi là chiplet, rồi đặt chúng thật sát nhau, cạnh nhau hoặc xếp chồng lên nhau. Mảnh nhỏ thì tỷ lệ làm ra dùng được cao hơn, như chương 7 đã nhắc tới; ghép lại, chúng có thể vượt kích thước con chip lớn nhất mà máy quang khắc in được;8.5 và mỗi mảnh có thể làm trên quy trình hợp với nó. Đặt sát nhau thì đường nối giữa chúng vẫn nhanh, nhanh hơn nhiều so với giữa những con chip rời trên bo mạch, còn xếp chồng thì cùng một diện tích chứa được nhiều transistor hơn.
How far can shrinking go? Chips are sometimes said to be heading below one angstrom, but node names such as A10 or A7 are generation labels, not measurements (chapter 7). In the International Roadmap for Devices and Systems, the industry’s own forecast, the node labelled 0.5 nm still has gates repeating about every 38 nanometres and its finest metal lines every 16.8.6 Still, the underlying limit is real. At a tenth of a nanometre, an angstrom is close to the size of an atom, so shrinking alone cannot go on forever. The gains will keep coming from elsewhere: advanced packaging stacks chips so that the number of transistors in a given area still rises, and new transistor shapes and new materials, such as 2D channels and new thin films, open further room.
Thu nhỏ được đến đâu? Đôi khi người ta nói chip đang tiến xuống dưới một angstrom, nhưng những tên gọi tiến trình bán dẫn (technology node) như A10 hay A7 là nhãn của từng thế hệ, không phải số đo (chương 7). Lộ trình Quốc tế về Linh kiện và Hệ thống (IRDS) là bản dự báo của chính ngành bán dẫn. Theo lộ trình này, ngay ở node mang nhãn 0,5 nm, các cổng transistor vẫn lặp lại sau khoảng 38 nanomet, còn những đường kim loại mảnh nhất lặp lại sau mỗi 16 nanomet.8.6 Dù vậy, giới hạn phía sau là có thật. Một angstrom, tức một phần mười nanomet, đã gần bằng kích thước một nguyên tử, nên riêng việc thu nhỏ không thể kéo dài mãi. Những bước tiến sẽ đến từ nơi khác: advanced packaging xếp chồng các con chip để số transistor trên cùng một diện tích vẫn tiếp tục tăng, còn những hình dạng transistor mới và vật liệu mới, như kênh dẫn 2D hay các loại màng mỏng mới, mở thêm dư địa.
Quantum computers are sometimes mentioned in the same breath, but they are a different kind of machine altogether. The U.S. National Institute of Standards and Technology expects them to work alongside ordinary computers on particular problems, such as simulating molecules and materials.8.7
Máy tính lượng tử cũng hay được nhắc đến trong câu chuyện này, nhưng đó là một loại máy khác hẳn. Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) cho rằng máy tính lượng tử sẽ làm việc bên cạnh máy tính thông thường, trên một số bài toán riêng như mô phỏng phân tử và vật liệu.8.7
Photonics, carrying signals as light, already links network switches: NVIDIA announced switches with optics packaged beside the chip in 2025.8.8 For the links between chiplets inside one package it is still under study. Once a design is split into chiplets, those links matter a great deal, and different chips want different things from them. A CPU cares most about latency, how quickly a single piece of data arrives; a GPU cares most about bandwidth, how much data flows at once. Chip architects weigh light the way they weigh any option: it will be adopted only where it meets those latency and bandwidth needs better than copper does.
Truyền tín hiệu bằng ánh sáng, tức photonics (công nghệ quang tử), đã được dùng để nối các bộ chuyển mạch mạng: năm 2025, NVIDIA công bố những bộ chuyển mạch có linh kiện quang đặt ngay cạnh chip.8.8 Còn với đường kết nối giữa các chiplet trong cùng một package (phần đóng gói của chip), giải pháp này vẫn đang được nghiên cứu. Khi một thiết kế đã được chia thành nhiều chiplet, những đường kết nối ấy trở nên vô cùng quan trọng, và mỗi loại chip lại đòi hỏi một điều khác. CPU cần nhất là latency (độ trễ) thấp, để từng mẩu dữ liệu đến thật nhanh; GPU cần nhất là băng thông lớn, nghĩa là mỗi lúc chảy qua được thật nhiều dữ liệu. Các chip architect cân nhắc ánh sáng như mọi phương án khác: chỉ dùng ở chỗ nào nó đáp ứng yêu cầu về latency và băng thông tốt hơn dây đồng.
Light has clear gains and clear costs. imec, which researches optical interconnects, notes that optical links offer more bandwidth, longer reach and, over longer distances, lower latency than electrical ones.8.9 Bringing them right up to the processor, though, calls for very compact optics, advanced assembly methods such as hybrid bonding, which joins two chips face to face through their copper contacts without solder, and parts that stay reliable in a thermally very demanding environment.
Ánh sáng có cái lợi, nhưng cũng có cái khó. Theo imec, nơi nghiên cứu về kết nối quang (optical interconnect), đường truyền quang cho băng thông lớn hơn, đi xa hơn và, ở khoảng cách xa, độ trễ thấp hơn đường truyền điện.8.9 Tuy nhiên, muốn đưa nó đến sát bộ xử lý thì cần linh kiện quang cực kỳ nhỏ gọn và những phương pháp lắp ráp tiên tiến như hybrid bonding, cách gắn trực tiếp hai con chip úp mặt vào nhau qua các điểm tiếp xúc bằng đồng mà không cần mối hàn. Các bộ phận ấy còn phải vận hành bền bỉ trong điều kiện nhiệt rất khắc nghiệt.
Is an AI PC, whose processor combines a CPU with a neural processing unit (NPU) and a GPU, better for AI than a separate GPU?AI PC, loại máy có bộ xử lý kết hợp CPU với NPU (Neural Processing Unit, bộ xử lý mạng nơ-ron) và GPU, có chạy AI tốt hơn một GPU rời hay không?
It depends on the application, and a fair comparison needs specifics: which generation, which manufacturing process, which architecture. In general, large models that need a lot of computing run far better on GPUs or on accelerators and NPUs built for that work. Smaller models, and AI built on traditional methods, need much less, and sometimes the CPU is the better choice. Many of today’s best-known applications use large models because they are more accurate, but where the data is simple, a lighter model on a cheaper chip can be faster and more sensible.
Còn tùy ứng dụng, và muốn so sánh cho công bằng thì phải biết cụ thể: thế hệ nào, quy trình sản xuất nào, kiến trúc ra sao. Nói chung, các mô hình lớn cần nhiều sức tính toán sẽ chạy tốt hơn hẳn trên GPU, hoặc trên những bộ tăng tốc và NPU (Neural Processing Unit) chuyên cho loại việc đó. Các mô hình nhỏ hơn, hay AI dựa trên phương pháp truyền thống, cần ít sức tính toán hơn nhiều, và đôi khi CPU lại là lựa chọn tốt hơn. Nhiều ứng dụng nổi bật hiện nay dùng mô hình lớn vì độ chính xác cao, nhưng với những bài toán dữ liệu đơn giản, một mô hình nhẹ trên con chip rẻ hơn có thể chạy nhanh hơn và hợp lý hơn.
It also helps to know that CPUs and GPUs are general-purpose chips: besides AI, they run many other kinds of work. A chip designed to solve one problem only, an application-specific integrated circuit (ASIC), usually solves it faster and with less power. Within AI itself there are two kinds of work. GPUs lead in training, teaching a model, but for inference, using a trained model to answer, CPUs have good options too, especially for smaller models. Intel’s Advanced Matrix Extensions (AMX), introduced with its 4th Gen Xeon Scalable processors in 2023, put a block dedicated to matrix multiplication inside each processor core.8.10
Cũng nên biết rằng CPU và GPU là chip đa dụng: ngoài AI, chúng còn chạy rất nhiều loại công việc khác. Một con chip thiết kế riêng cho một bài toán duy nhất, tức ASIC (Application-Specific Integrated Circuit), thường giải bài toán đó nhanh hơn và tốn ít điện hơn. Ngay trong AI cũng có hai loại việc. GPU đang dẫn đầu ở khâu training (huấn luyện), là dạy cho mô hình học, nhưng ở khâu inference (suy luận), là dùng mô hình đã học để trả lời, CPU cũng có nhiều giải pháp tốt, nhất là với các mô hình nhỏ hơn. Chẳng hạn, Advanced Matrix Extensions (AMX) của Intel, ra mắt năm 2023 cùng dòng Xeon Scalable thế hệ thứ tư, đặt một khối chuyên làm phép nhân ma trận vào bên trong mỗi lõi xử lý.8.10
Will AI replace people?
AI có thay thế con người không?
Partly, yes. AI makes work far more efficient, and it can already be used to build tools that automate a great deal of manual work. Some of what people used to do by hand, AI now does.
Đúng, nhưng chỉ một phần. AI giúp công việc hiệu quả hơn hẳn, và người ta đã có thể dùng nó để làm ra những công cụ tự động hóa rất nhiều việc thủ công. Một số việc trước đây phải làm bằng tay, giờ AI đảm nhận.
If AI takes over the routine work, there is more time for the hard problems.
Nếu AI gánh bớt những việc lặp đi lặp lại, con người sẽ có thêm thời gian cho những bài toán khó.
There is a more hopeful way to read that, though. The world is full of problems that stay unsolved partly because people are too busy with everything else. If AI takes over the routine work, there is more time for the hard problems, such as finding cures for diseases that cannot yet be treated, and every field has hard problems of its own.
Nhưng cũng có thể nhìn điều đó lạc quan hơn. Thế giới còn đầy những bài toán chưa có lời giải, một phần vì con người bận rộn với quá nhiều việc khác. Nếu AI gánh bớt những việc lặp đi lặp lại, con người sẽ có thêm thời gian cho những bài toán khó, như tìm cách chữa các bệnh nan y. Lĩnh vực nào cũng có những bài toán khó của riêng mình.