Giao diện
Ở chủ đề trước, ta thấy một đóng được mô tả hoàn toàn bởi các nửa không gian chứa nó. Với một nón, câu chuyện còn gọn hơn: Một nón lồi đóng được mô tả bởi các nửa không gian có biên đi qua gốc chứa nó. Mỗi nửa không gian như vậy có dạng
Nón đối ngẫu là cầu nối giữa hình học không gian và lý thuyết đối ngẫu Lagrange. Nó cũng giải quyết một bài toán thực tế sâu sắc trong tối ưu hóa đa mục tiêu: Khi không tồn tại phương án duy nhất nào tối ưu trên mọi tiêu chí, làm thế nào để tìm được toàn bộ các phương án không bị chi phối (Pareto optimal)? Phương pháp tự nhiên là tổ hợp các tiêu chí với những trọng số dương, và cấu trúc nón đối ngẫu sẽ giải thích chính xác điều kiện bảo đảm tính đúng đắn của phương pháp này.
1. Định nghĩa và hình học
Định nghĩa. Cho
là một nón trong . được gọi là nón đối ngẫu (dual cone) của
.
Mỗi
Ý nghĩa hình học trực quan của nón đối ngẫu được làm sáng tỏ như sau: Điểm
Nón K và nón đối ngẫu K*
yᵀv₁ = 2.50 và yᵀv₂ = −0.80.
Có một tích vô hướng âm, nên y không thuộc K*. Nửa mặt phẳng nhạt {x : yᵀx ≥ 0} không chứa trọn K.
Gợi ý thao tác
- Kéo y vòng quanh gốc. Vùng màu xanh, tức K*, gồm những hướng nào?
- Mở rộng góc của K. K* to ra hay nhỏ lại?
- Đặt v₁ = (1, 0) và v₂ = (0, 1). Khi đó K và K* có quan hệ gì?
Một cách người ta hay dùng trong thực tế để tìm nón đối ngẫu của nón đa diện là kiểm tra trực tiếp trên các sinh. Nếu
Hai sinh của
Từ đó dẫn tới một tính chất cốt lõi: Nón càng mở rộng thì nón đối ngẫu càng thu hẹp. Tổng quát hơn, nếu
2. Những nón tự đối ngẫu và cặp nón đối ngẫu quan trọng
Không gian con tuyến tính: Đối ngẫu của một không gian con
chính là phần bù trực giao . Thật vậy, nếu đúng với mọi , thì áp dụng cho cả đối ta suy ra , buộc . Góc phần tư không âm: Ta có đẳng thức
. Một nón thỏa mãn được gọi là nón tự đối ngẫu (self-dual cone). Nếu thì rõ ràng với mọi . Ngược lại, nếu , lần lượt chọn (các cơ sở chính tắc) ta suy ra với mọi . Nón (PSD): Trong không gian các đối xứng
trang bị chuẩn Frobenius , nón cũng là nón tự đối ngẫu: Điều kiện với mọi tương đương với . Lập luận gồm hai chiều tường minh: - Chiều thuận: Giả sử
, tức tồn tại sao cho . Chọn hạng một , ta tính được , dẫn tới mâu thuẫn . Các ma trận hạng một đóng vai trò như những phép thử đầy uy lực. - Chiều nghịch: Nếu cả
, ta khai triển phổ với các giá trị riêng . Khi đó vì từng số hạng đều không âm.
- Chiều thuận: Giả sử
Nón chuẩn và chuẩn đối ngẫu: Với một chuẩn tổng quát
trên , chuẩn đối ngẫu tương ứng được định nghĩa là , đo độ dốc cực đại của dạng tuyến tính trên hình cầu đơn vị. Ta chứng minh được rằng đối ngẫu của nón chuẩn chính là nón sinh bởi chuẩn đối ngẫu: tự đối ngẫu với chính nó ( ), do đó nón bậc hai (nón Lorentz) là nón tự đối ngẫu. Chuẩn có đối ngẫu là và ngược lại, vì , đạt được tại các đỉnh cực biên của hình cầu . Vì vậy nón chuẩn và nón chuẩn là cặp đối ngẫu của nhau, dù không nón nào tự đối ngẫu. Cặp đối ngẫu này giải thích trực quan cấu trúc hình học: Hình cầu có ít đỉnh nhưng nhiều diện (mặt), trong khi hình cầu có nhiều đỉnh nhưng ít diện, đỉnh của hình cầu này tương ứng với mặt của hình cầu kia.
3. Các tính chất đại số và giải tích của nón đối ngẫu
Hệ thống tính chất nền tảng của nón đối ngẫu bao gồm:
luôn luôn đóng và lồi. - Quan hệ bao hàm đảo chiều: Nếu
thì . - Nếu
đặc ( ) thì nhọn. - Nếu bao đóng
nhọn thì đặc ( ). - Phép đối ngẫu cấp hai:
là bao đóng của của , tức . Đặc biệt, nếu lồi và đóng thì .
Đẳng thức
4. Bất đẳng thức đối ngẫu: Chuyển đổi so sánh vector sang so sánh số thực
Khi
Ý nghĩa bản chất: Một bất đẳng thức giữa hai trong không gian nhiều chiều tương đương với vô số bất đẳng thức giữa các số thực, trong đó mỗi số thực ứng với một phép chiếu có trọng số
Định lý về giải pháp thay thế (theorems of alternatives) cũng được mở rộng tự nhiên cho bất đẳng thức tổng quát: Hệ
5. Tìm phần tử tối thiểu bằng phương pháp vô hướng hóa
Trong các bài toán tối ưu nhiều mục tiêu, một thường có vô số phần tử tối thiểu mà không có phần tử nhỏ nhất. Phương pháp toán học tiêu chuẩn để định vị các phần tử tối thiểu là: Lựa chọn một trọng số
Mệnh đề (Điều kiện đủ của nghiệm tối thiểu). Nếu
và điểm làm cực tiểu hóa hàm mục tiêu trên tập , thì là một phần tử tối thiểu của .
Chứng minh: Giả sử phản chứng
Với nón không âm
Vô hướng hóa: cực tiểu λᵀz trên tập điểm
λ = (0.77, 0.64). Giá trị λᵀz nhỏ nhất là 4.49, đạt tại B. Đường tím là đường mức λᵀz = 4.49: mọi điểm khác nằm về phía λ chỉ tới.
Cả hai thành phần của λ dương, nên điểm tìm được chắc chắn là một phần tử tối thiểu.
Gợi ý thao tác
- Xoay λ từ gần 0° tới gần 90°. Những điểm nào lần lượt được chọn?
- Có phần tử tối thiểu nào không bao giờ được chọn, dù λ dương ở mọi hướng không?
Chiều ngược lại đòi hỏi lập luận giải tích cẩn trọng hơn, và có hai điểm mấu chốt cần lưu tâm:
- Không phải mọi phần tử tối thiểu đều tìm được bằng trọng số dương ngặt: Trong hữu hạn (không lồi), một điểm có thể là tối thiểu nhưng lại nằm ở vùng "lõm vào" so với các điểm tối thiểu lân cận. Chẳng hạn xét tập ba điểm gồm
, và . Điểm không bị điểm nào chi phối, nhưng nó lại bằng trung điểm của hai điểm kia cộng thêm độ lệch . Do đó với mọi trọng số dương , giá trị luôn lớn hơn trung bình cộng giá trị tại hai điểm còn lại, nghĩa là không bao giờ đạt giá trị nhỏ nhất. Không tồn tại bộ trọng số dương nào có thể phát hiện ra điểm này. - Khi
lồi, chiều ngược được bảo đảm với trọng số không âm: Nếu là và là phần tử tối thiểu, thì luôn tồn tại , , sao cho làm cực tiểu hóa trên . Chứng minh sử dụng định lý siêu phẳng phân tách cho hai tập lồi không giao nhau là và . Tuy nhiên, vector trọng số tìm được có thể nằm trên biên của (tức có thành phần bằng 0), và không thể bảo đảm luôn dương ngặt. Ngược lại, một điểm cực tiểu hóa với nằm trên biên của chưa chắc đã là phần tử tối thiểu.
Đối với phần tử nhỏ nhất, ta có một đặc trưng đại số thanh lịch: Điểm
Trong học máy hiện đại, vô hướng hóa là nền tảng của các bài toán tối ưu đa mục tiêu và điều chuẩn (regularization). Chẳng hạn, hàm mất mát huấn luyện thường được thiết lập dưới dạng tổng có trọng số giữa hàm mất mát dữ liệu và hàm phạt độ phức tạp mô hình:
6. Những câu hỏi để đào sâu
Câu 1. Nón đối ngẫu của nửa mặt phẳng
Xem lời giải thích
Với nửa mặt phẳng
Câu 2. Để kiểm tra một
Xem lời giải thích
Định nghĩa nón đối ngẫu đòi hỏi
Câu 3. Trong mô hình bài toán kinh tế, nếu một loại tài nguyên được cung cấp miễn phí (đơn giá bằng 0), phương án đạt chi phí thấp nhất có chắc chắn là tối ưu Pareto hay không?
Xem lời giải thích
Không chắc chắn. Với giá có thành phần bằng 0, chẳng hạn
7. Bài tập tự luyện
Bài tập 1: Tính một nón đối ngẫu
Tìm nón đối ngẫu của nón
Lời giải
Với
Bài tập 2: Chuẩn đối ngẫu
Cho
Lời giải
Khi chuẩn gốc là
Khi chuẩn gốc là
Trong cả hai trường hợp, nghiệm tối ưu luôn đạt tại các đỉnh cực biên của hình cầu đơn vị tương ứng.
Bài tập 3: Vô hướng hóa trên một tập hữu hạn
Cho gồm các phương án
Lời giải
Điểm
- Với
, giá trị tại các điểm lần lượt là , do đó điểm được chọn. - Với
, hai điểm và cùng đạt giá trị cực tiểu là : Đường mức tiếp xúc với toàn bộ đoạn thẳng nối hai điểm này, cho thấy bài toán vô hướng hóa có thể có đa nghiệm tối ưu cùng lúc. - Với
, các giá trị tương ứng là , do đó điểm được chọn.
Mọi nghiệm tìm được qua bài toán vô hướng hóa với trọng số dương ngặt đều là các phần tử tối thiểu Pareto hợp thức.
Tóm tắt
Nón đối ngẫu
Quan hệ bất đẳng thức tổng quát giữa các tương đương với một họ vô hạn các bất đẳng thức số thực
Tài liệu tham khảo
- Stephen Boyd, Lieven Vandenberghe, Convex Optimization, Cambridge University Press.