Giao diện
Quy hoạch tuyến tính, bài toán kinh điển và phổ biến bậc nhất của tối ưu hóa, có luôn được mô tả bằng một hệ các bất đẳng thức tuyến tính. Mỗi bất đẳng thức tương đương với việc cắt gọt không gian bằng một nửa không gian đóng, và phần giao còn lại sau khi áp đặt toàn bộ các ràng buộc chính là một đa diện. Thấu hiểu hình học của đa diện, xác định cấu trúc các đỉnh cực biên, kiểm tra tính bị chặn và tính khả thi là chìa khóa giải mã toàn bộ bản chất của quy hoạch tuyến tính.
Bài học này cũng giới thiệu đơn hình, cấu trúc đa diện nguyên thủy nhất: Đoạn thẳng, tam giác, tứ diện và các hình học tổng quát trong không gian nhiều chiều. Đặc biệt, đơn hình xác suất, của mọi phân phối xác suất trên một không gian biến cố rời rạc hữu hạn, là đối tượng toán học xuất hiện liên tục trong học máy và trí tuệ nhân tạo. Cuối bài, ta sẽ đối chiếu hai cách mô tả đa diện: Bằng hệ ràng buộc nửa không gian (H-representation) hoặc bằng tập đỉnh và hướng cực biên (V-representation), cùng sự bùng nổ hàm mũ về độ phức tạp khi chuyển đổi giữa chúng.
1. Đa diện
Định nghĩa. Một đa diện (polyhedron) là tập nghiệm của một số hữu hạn bất đẳng thức và đẳng thức tuyến tính:
Nói cách khác, đa diện là giao của một số hữu hạn các nửa không gian đóng và siêu phẳng. Vì mỗi nửa không gian và mỗi siêu phẳng đều là , đồng thời giao của một họ tùy ý các tập lồi luôn là một tập lồi, nên mọi đa diện đều là tập lồi. Hình ảnh trực quan của một đa diện chính là phần giao nhau của các nửa không gian, trong đó mỗi nửa không gian được phân định bởi một pháp tuyến
Ta thường sử dụng dạng biểu diễn cô đọng:
trong đó các hàng của
Nhiều quen thuộc trong giải tích và đại số tuyến tính là đa diện: Tập affine (chỉ chứa các ràng buộc đẳng thức), tia, đoạn thẳng, nửa không gian đóng, và nón phần tư không âm
Một đa diện có thể không bị chặn (chẳng hạn như một nửa không gian) và có thể rỗng khi hệ ràng buộc xảy ra mâu thuẫn. Một đa diện bị chặn được gọi là đa đỉnh (polytope). Trong y văn tối ưu hóa, các tác giả đôi khi dùng hai thuật ngữ đa diện (polyhedron) và đa đỉnh (polytope) theo những quy ước hoán đổi cho nhau, do đó việc đối chiếu định nghĩa giả thiết luôn là bước cẩn trọng cần thiết.
Mô phỏng tương tác dưới đây biểu diễn một đa diện trong mặt phẳng 2D được tạo thành từ giao của các nửa mặt phẳng. Các đường biên nét đứt đại diện cho các siêu phẳng ràng buộc, và miền tô màu là phần giao khả thi:
Ghép đa diện từ từng nửa mặt phẳng
Đa diện là giao của 5 nửa mặt phẳng, bị chặn, nên là một đa giác lồi.
Các đỉnh: (0.00, 2.50) (chặt: x₁ ≥ 0, −x₁ + 2x₂ ≤ 5); (0.00, 0.00) (chặt: x₁ ≥ 0, x₂ ≥ 0); (2.00, 0.00) (chặt: x₂ ≥ 0, x₁ − x₂ ≤ 2); (3.00, 1.00) (chặt: x₁ + x₂ ≤ 4, x₁ − x₂ ≤ 2); (1.00, 3.00) (chặt: x₁ + x₂ ≤ 4, −x₁ + 2x₂ ≤ 5).
Gợi ý thao tác
- Tắt x₁ + x₂ ≤ 4. Đa diện thay đổi thế nào, và nó còn bị chặn không?
- Bật x₁ + x₂ ≥ 5 khi x₁ + x₂ ≤ 4 vẫn bật. Vì sao miền trở thành rỗng?
- Chỉ để lại x₁ − x₂ ≤ 2. Đa diện có đỉnh không?
- Ở mỗi đỉnh, có đúng mấy ràng buộc chặt?
Một trực giác hình học then chốt được thể hiện ở trạng thái các ràng buộc: Trong mặt phẳng
2. Đơn hình
Trước khi định nghĩa đơn hình, ta cần một khái niệm độc lập hình học tương thích với không gian affine.
Định nghĩa. các điểm
được gọi là độc lập affine (affinely independent) nếu các hiệu độc lập tuyến tính trong không gian vector .
Ý nghĩa hình học: Ba điểm độc lập affine nghĩa là chúng không thẳng hàng (tạo thành một tam giác thực sự), bốn điểm độc lập affine nghĩa là chúng không đồng phẳng (tạo thành một tứ diện thực sự). Định nghĩa đo các hiệu so với mốc
Định nghĩa. Với
điểm độc lập affine , đơn hình (simplex) xác định bởi chúng là của các điểm này:
Đơn hình này có số chiều affine đúng bằng
Hai họ đơn hình giữ vai trò nền tảng đặc biệt:
- Đơn hình đơn vị (Unit simplex): Được xác định bởi gốc tọa độ cùng các cơ sở chính tắc
, biểu diễn dưới dạng . Đơn hình này có số chiều bằng . - Đơn hình xác suất (Probability simplex): Được xác định bởi các cơ sở chính tắc
, biểu diễn dưới dạng :
Đơn hình này có số chiều affine bằng
Đơn hình xác suất là cấu trúc hình học trung tâm trong học máy: Đầu ra xác suất của hàm Softmax trong mạng nơ-ron phân loại đa lớp là một điểm nằm trong phần trong tương đối của đơn hình xác suất. Trọng số phân bổ của mô hình hỗn hợp Gaussian (GMM), hay các trọng số Attention trong kiến trúc Transformer, đều là các phần tử của đơn hình xác suất. Mỗi đỉnh
3. Chuyển đổi biểu diễn đơn hình sang hệ bất đẳng thức
Định nghĩa đơn hình xuất phát từ góc nhìn tập đỉnh (). Tuy nhiên, vì đơn hình là một đa diện, nó hoàn toàn có thể được biểu diễn tường minh dưới dạng một hệ bất đẳng thức và đẳng thức tuyến tính. Ta hoàn toàn có thể chuyển đổi biểu diễn này bằng một lập luận đổi biến affine mẫu mực:
Mọi điểm
với
Nhân cả hai vế của
Hệ trên hoàn toàn bao gồm các đẳng thức và bất đẳng thức tuyến tính theo biến
Ví dụ: Chuyển đổi biểu diễn tam giác trong mặt phẳng và không gian
Xét tam giác trong
Điều kiện
Xét tiếp tam giác trong
4. Hai cách mô tả đa diện: Đối ngẫu H-representation và V-representation
của một hữu hạn điểm
chính là tổng Minkowski của của
Do đó, mỗi đa diện đều sở hữu hai lăng kính toán học:
- Mô tả bằng nửa không gian (H-representation): Biểu diễn qua hệ ràng buộc
. Cách tiếp cận này trả lời tức thì câu hỏi: "Làm thế nào để kiểm tra một điểm cho trước có thuộc đa diện hay không?" (chỉ cần nhân và kiểm tra dấu). - Mô tả bằng đỉnh và tia cực biên (V-representation): Biểu diễn qua các đỉnh và hướng suy biến. Cách tiếp cận này trả lời câu hỏi: "Làm thế nào để sinh ra toàn bộ các điểm thuộc đa diện?" (lấy và tổ hợp nón).
Việc chọn cách mô tả có hệ quả tính toán mang tính sống còn trong thực tế. Hãy quan sát quả cầu chuẩn
- Theo H-representation: Chỉ cần đúng
bất đẳng thức tuyến tính dạng . - Theo V-representation: Đòi hỏi toàn bộ
đỉnh cực biên, gồm tất cả các có tọa độ nhận giá trị . Với số chiều , một bên là 100 bất đẳng thức rất gọn nhẹ, trong khi bên kia đòi hỏi lưu trữ hơn đỉnh.
Ngược lại, hãy quan sát quả cầu chuẩn
- Theo V-representation: Chỉ có đúng
đỉnh cực biên là . - Theo H-representation: Để mô tả trực tiếp các mặt ngoài, ta cần tới
bất đẳng thức tuyến tính dạng với mọi dấu .
Sự tương phản này mang lại một bài học trực giác sâu sắc trong tối ưu hóa: Một bài toán có thể rất đơn giản ở biểu diễn này nhưng lại bùng nổ độ phức tạp theo hàm mũ ở biểu diễn kia. Trong lập mô hình học máy, lựa chọn cấu trúc biểu diễn phù hợp quyết định ranh giới giữa một thuật toán giải trong một giây và một bài toán hoàn toàn không thể giải quyết.
5. Những câu hỏi để đào sâu
Câu 1. Một hình tròn đóng trong
Xem lời giải thích
Hình tròn đóng là giao của vô hạn các nửa mặt phẳng đóng, chẳng hạn họ các nửa mặt phẳng
Câu 2. Một đa diện có thể không có bất kỳ đỉnh nào không? Nếu có, điều kiện cấu trúc nào giải thích hiện tượng này?
Xem lời giải thích
Hoàn toàn có thể. Một nửa không gian đóng, một dải vô hạn
Câu 3. Ba
Xem lời giải thích
Với ba điểm đầu, chọn mốc
Với bốn điểm sau, chọn mốc
Câu 4. Trong bài toán phân loại đa lớp, vì sao trọng tâm
Xem lời giải thích
Trọng tâm của đơn hình xác suất hội tụ ba tính chất hình học và thông tin tối ưu:
- Về hình học: Nó là trung bình cộng đối xứng của toàn bộ
đỉnh cực biên. - Về khoảng cách: Nó là điểm thuộc đơn hình xác suất gần gốc tọa độ nhất theo , tức nghiệm duy nhất của bài toán
với ràng buộc . - Về lý thuyết thông tin: Nó là phân phối tối đa hóa hàm Entropy
, đại diện cho trạng thái bất định hoàn toàn khi mô hình không có bất kỳ bằng chứng định kiến nào.
6. Bài tập tự luyện
Bài tập 1: Tìm đỉnh của đa diện
Tìm toàn bộ các đỉnh của đa diện sau trong
và chỉ rõ các ràng buộc chặt tại từng đỉnh.
Lời giải
Ta giải phương trình giao điểm của từng cặp ràng buộc biên độc lập và kiểm tra tính khả thi:
- Giao của
và cho đỉnh . - Giao của
và cho đỉnh . - Giao của
và cho đỉnh . - Giao của hai ràng buộc
và cho nghiệm , điểm này thỏa mãn cả hai ràng buộc không âm nên là một đỉnh khả thi.
Các giao điểm khác như
Bài tập 2: Đơn hình xác suất dưới dạng chuẩn ma trận
Hãy biểu diễn đơn hình xác suất trong không gian
Lời giải
Các ràng buộc không âm
Ràng buộc tổng xác suất bằng 1 được biểu diễn bởi
Chiều affine của đơn hình xác suất bằng
Bài tập 3: Nhận dạng tập đa diện
Cho hai
Lời giải
Tập
Khi
Tóm tắt
Đa diện là tập nghiệm của một hệ hữu hạn các bất đẳng thức và đẳng thức tuyến tính, biểu diễn là
Định lý Minkowski–Weyl thiết lập sự tương đương giữa hai cách mô tả đa diện: Biểu diễn bằng nửa không gian (H-rep) và biểu diễn bằng đỉnh cực biên (V-rep). Chuyển đổi giữa hai biểu diễn này có thể dẫn đến sự bùng nổ kích thước theo hàm mũ, đòi hỏi sự lựa chọn thận trọng trong thiết kế mô hình toán học và thuật toán tối ưu.
Tài liệu tham khảo
- Stephen Boyd, Lieven Vandenberghe, Convex Optimization, Cambridge University Press.