Lời tác giả

Thế giới đang hối hả xây dựng các hệ thống AI; nhưng vẫn chưa thật sự đưa chúng vào khuôn khổ kỹ thuật.

Câu đó là lý do cuốn sách này tồn tại. Một mô hình chiến thắng trên một benchmark chưa phải là một hệ thống, và khoảng cách giữa hai thứ này không phải là một chi tiết triển khai. Đó là kỹ thuật: công việc làm cho một thứ hoạt động vững dưới những ràng buộc không thương lượng. Một bản demo không phải trả lời ai. Còn một hệ thống phải đáp ứng các giới hạn về độ trễ, bộ nhớ, công suất, và cả chi phí của việc sai trước người dùng thực.

Điều khiến đây trở thành một lĩnh vực riêng là một kết hợp khác thường. Một bộ xử lý bị chi phối bởi vật lý của máy, bởi chu kỳ xung nhịp, các dòng cache, và lượng nhiệt nó có thể tản. Một mô hình thống kê bị chi phối bởi toán học của việc học, bởi độ chệch (bias), phương sai, và cách khả năng khái quát hóa thay đổi theo dữ liệu và dung lượng mô hình. Một hệ thống machine learning phải đáp ứng cả hai cùng lúc, ngay trong cùng một quyết định, và hai phía không phải lúc nào cũng đồng thuận. Một thay đổi làm phần cứng hài lòng có thể khiến mô hình thiếu độ chính xác hoặc thông lượng cần để hội tụ; một thay đổi giúp mô hình có thể đòi silicon nhiều bộ nhớ hoặc băng thông hơn khả năng cung cấp. Giữ sự căng thẳng đó trong đầu và bạn sẽ thấy lĩnh vực này không còn như một đống công cụ nữa, mà hiện ra như một cấu trúc có thể suy luận.

Cuốn sách này trao cho bạn cấu trúc đó. Không phải framework đang thịnh hành năm nay hay bộ tăng tốc nhanh nhất quý này, mà là cách tư duy bền hơn chúng. Frameworks thay đổi, phần cứng được thay thế vài năm một lần, và các benchmark được đặt lại; còn các lực chi phối bên dưới thì không. Nếu cuốn sách này hiệu quả, bạn sẽ kết thúc nó với khả năng nhìn vào bất kỳ hệ thống machine learning nào, từ một cảm biến tiêu thụ microwatt đến một trang trại máy chủ tiêu thụ megawatt, và thấy cùng một vài lực chi phối nhỏ quyết định điều gì là khả thi.

Những cuốn sách giáo khoa đã thay đổi tôi khi còn là sinh viên không nhồi cho tôi các sự thật. Chúng trao cho tôi một cách nhìn, và các sự thật tự sắp xếp quanh nó. Đó là điều tôi đã cố gắng làm ở đây.

— Vijay Janapa Reddi
Cambridge, Massachusetts
2026