Giao diện
Các chủ đề trước đã giới thiệu cho chúng ta hai cách hạn chế tự nhiên lên tổ hợp tuyến tính tổng quát
Lựa chọn đại số dường như giản đơn này dẫn thẳng tới một đối tượng hình học nền tảng của toán học tối ưu: Khái niệm nón (cone) và nón lồi (convex cone). Nón lồi không chỉ là một dạng đặc biệt mà còn là chiếc chìa khóa vạn năng mở ra lý thuyết bất đẳng thức tổng quát, nón đối ngẫu (dual cone), quy hoạch nón bậc hai (SOCP) và quy hoạch (SDP). Bài học này giúp bạn đọc nắm vững trực giác hình học của nón, phân biệt rạch ròi bốn loại tổ hợp toán học, giải quyết bài toán kiểm tra thuộc nón và nhận diện các ứng dụng hiện đại trong học máy.
1. Nón: Tập khép kín với phép phóng to không âm
Ta bắt đầu bằng định nghĩa hình học sơ cấp của nón trong không gian Euclid:
Định nghĩa. Một
được gọi là một nón (cone), hay tập thuần nhất không âm (nonnegative homogeneous set), nếu với mọi điểm và với mọi hệ số vô hướng không âm , ta luôn có:
Về mặt hình học trực quan, định nghĩa trên khẳng định rằng: Cứ khi nào một điểm
Một nón khác rỗng luôn luôn chứa gốc tọa độ, vì ta luôn có thể chọn hệ số
Cần lưu ý rằng định nghĩa nón sơ cấp chưa hề đòi hỏi tính lồi. Trong thực tế hình học, có vô số nón không lồi:
- Hợp của hai trục tọa độ vuông góc trong mặt phẳng
: . Phóng to một điểm trên trục tọa độ với vẫn cho ra một điểm trên trục tọa độ, do đó đây là một nón. Tuy nhiên, tập này không lồi: Điểm và điểm , nhưng trung điểm rõ ràng không nằm trên bất kỳ trục tọa độ nào. - Góc phần tư thứ nhất hợp với góc phần tư thứ ba:
.
Bởi vì tính lồi là linh hồn của các bài toán giải được hiệu quả, ta dành sự quan tâm đặc biệt cho lớp đối tượng giao thoa giữa hai cấu trúc này:
Định nghĩa. Một
được gọi là một nón lồi (convex cone) nếu nó vừa là một nón, vừa là một . Điều này tương đương với mệnh đề: Với mọi cặp điểm và với mọi cặp hệ số không âm , ta luôn có:
Chứng minh tính tương đương của định nghĩa
Ta kiểm tra tính tương đương logic giữa hai phát biểu:
- Chiều thuận (
): Giả sử khép kín với mọi tổ hợp có hệ số không âm: - Chọn
, ta có với mọi , chứng minh là một nón. - Chọn thêm điều kiện
, ta có với mọi , chứng minh là một .
- Chọn
- Chiều đảo (
): Giả sử là một nón và đồng thời là một . Lấy và : - Nếu
, thì . - Nếu
, ta thực hiện phép biến đổi đại số tách tổng trọng số: Biểu thức trong dấu ngoặc đơn là một củavì các trọng số và đều không âm và có tổng đúng bằng 1. Vì là , điểm trong ngoặc thuộc . Tiếp theo, vì là một nón và số nhân là không âm, của toàn bộ biểu thức vẫn thuộc .
- Nếu
Về mặt hình học, tất cả các tổ hợp
Tổ hợp với hệ số không âm
θ₁v₁ + θ₂v₂ = (2.40, 1.50) với θ₁, θ₂ ≥ 0. Không có ràng buộc θ₁ + θ₂ = 1, nên điểm có thể chạy ra xa tùy ý.
Nón là một hình quạt đỉnh tại gốc với góc mở 54°.
Gợi ý thao tác
- Giữ θ₂ = 0 và tăng θ₁. Điểm chạy theo tia nào?
- Kéo v₂ dần về phía ngược hướng với v₁. Góc mở của nón thay đổi thế nào ngay trước khi hai vector thẳng hàng?
- Bật v₃ và kéo nó sao cho ba vector "bao quanh" gốc. Lúc đó nón là gì?
2. Tổ hợp nón và bao nón
Mở rộng từ hai điểm sang một số hữu hạn các điểm, ta thiết lập định nghĩa tổ hợp nón chuẩn mực:
Định nghĩa. Cho
điểm . Một điểm có dạng: với tất cả các trọng số không âm (
) được gọi là một tổ hợp nón (conic combination), hay tổ hợp tuyến tính không âm. Bao nón (conic hull) của một
, ký hiệu là , là tập hợp tất cả các tổ hợp nón của các điểm thuộc :
Tương tự như và bao affine, một là nón lồi khi và chỉ khi nó chứa mọi tổ hợp nón của các điểm thuộc tập đó. Bao nón
Hiện tượng nón bùng nổ: Gốc tọa độ bị bao quanh
Trong mặt phẳng
Nếu các được phân bố sao cho gốc tọa độ
Ví dụ: Bao nón của ba vector bao quanh gốc tọa độ
Trong mặt phẳng
Gốc tọa độ
với các trọng số không âm
Ta chứng minh rằng
- Nếu
: Ta có thể phân tích theo hai và . Phương trình tương đương với , cho nghiệm và . Nếu , ta đã có tổ hợp nón của . Nếu , ta cộng thêm một lượng dương của biểu thức triệt tiêu để đưa tất cả các hệ số về trạng thái không âm. - Tổng quát hơn: Vì
và có hướng ngược lại với và trải đều hai phía trục tung, ba này tạo thành một tập sinh dương (positive spanning set) của . Bất kỳ vector nào trong mặt phẳng cũng biểu diễn được thành tổ hợp với các hệ số không âm .
Hiện tượng này hoàn toàn không xảy ra đối với : Bao lồi
3. Bốn loại tổ hợp toán học đặt cạnh nhau
Đến đây, bức tranh tổng thể về các loại tổ hợp trong đại số tuyến tính và hình học lồi đã hoàn thành trọn vẹn. Việc đặt bốn loại tổ hợp cạnh nhau giúp người học nắm bắt cấu trúc phân loại có hệ thống:
| Loại tổ hợp | Điều kiện ràng buộc trên các hệ số | Bao của hai điểm | Cấu trúc hình học khép kín tương ứng |
|---|---|---|---|
| Tuyến tính (Linear) | Không có ràng buộc ( | Mặt phẳng qua gốc chứa | Không gian con |
| Affine | Tổng bằng 1 ( | Đường thẳng đi qua | Tập affine |
| Nón (Conic) | Không âm ( | Hình quạt vô hạn đỉnh tại gốc, mép qua | Nón lồi |
| Lồi (Convex) | Tổng bằng 1 và không âm ( | Đoạn thẳng nối hai đầu mút |
Mỗi dòng dưới trong bảng mang nhiều ràng buộc đại số hơn dòng trên, ngoại trừ hai dòng giữa (Affine và Nón) không so sánh được với nhau do một bên ràng buộc tổng và một bên ràng buộc dấu.
Từ bảng phân loại chuẩn mực này, ta suy ra ngay cây quan hệ bao hàm giữa các đối tượng hình học:
- Mọi không gian con đều đồng thời là tập affine và là nón lồi.
- Mọi tập affine đều là .
- Mọi nón lồi đều là .
- Mọi chiều suy luận ngược lại đều không đúng: Một đoạn thẳng là nhưng không phải tập affine và không phải là nón; một tia xuất phát từ gốc tọa độ là nón lồi nhưng không phải tập affine; một mặt phẳng không đi qua gốc tọa độ là tập affine nhưng không phải là nón.
Khi đối diện với bất kỳ bài toán hình học hay biểu thức biến đổi nào, bạn chỉ cần đặt ra hai câu hỏi then chốt:
- Câu hỏi 1: Các hệ số có bị cấm mang giá trị âm không?
- Câu hỏi 2: Tổng của các hệ số có bắt buộc phải bằng 1 không?
Hai câu trả lời "Có" hoặc "Không" sẽ định danh chính xác 100% cấu trúc hình học tương ứng trong bảng trên.
4. Các nón cơ bản trong tối ưu hóa
Trong giải tích lồi và các thuật toán học máy, có bốn họ nón lồi đóng vai trò then chốt:
1. Góc phần tư không âm (Nonnegative Orthant)
Góc phần tư không âm trong không gian
Đây là nón lồi sơ cấp và quen thuộc nhất: Tổng của hai có các tọa độ không âm là một vector không âm, và tích của một vector không âm với một số thực
2. Nửa không gian đi qua gốc tọa độ
Xét nửa không gian đóng có phương trình
- Nếu
, là một nón lồi, vì nếu thì với mọi . - Nếu
(chẳng hạn ), là một nhưng tuyệt đối không phải là nón: Lấy điểm thỏa , nhân với cho ra , điểm mới rơi ra ngoài tập hợp.
3. Nón chuẩn và nón bậc hai (Second-Order Cone / Lorentz Cone)
Cho một bất kỳ
Chứng minh tính lồi và tính nón của
- Tính chất nón: Nếu
và , thì , do đó . - Tính lồi: Lấy
và . Theo bất đẳng thức tam giác: Do đó thuộc.
Khi chuẩn được sử dụng là
Trong không gian ba chiều
4. Nón nửa xác định dương (Positive Semidefinite Cone)
Trong không gian các đối xứng kích thước
tạo thành một nón lồi có số chiều
Nón này là trái tim của quy hoạch (SDP).
5. Bài toán kiểm tra một vector có thuộc một nón không?
Cho một họ
Theo định nghĩa,
trong đó
Đây chính là một bài toán tìm (feasibility problem) trong quy hoạch tuyến tính. Ta thấy một sự thống nhất tuyệt đẹp giữa hình học và đại số: Câu hỏi hình học "
Ví dụ: Kiểm tra nghiệm không âm bằng phương pháp khử đại số
Trong mặt phẳng
- Khảo sát
: Thiết lập hệ phương trình :
2\theta_1 + \theta_2 &= 4 \ \theta_1 + 3\theta_2 &= 7 \end
2(\theta_1 + 3\theta_2) - (2\theta_1 + \theta_2) = 14 - 4 \iff 5\theta_2 = 10 \iff \theta_2 = 2
\begin{aligned} 2\theta_1 + \theta_2 &= 4 \ \theta_1 + 3\theta_2 &= -1 \end
5\theta_2 = -2 - 4 = -6 \iff \theta_2 = -\frac{6}{5} = -1.2
Nếu một
6. Khái niệm nón nhọn và nón chính quy
Trong lý thuyết thứ tự và đối ngẫu, người ta quan tâm tới hai thuộc tính hình học quan trọng của nón:
Nón nhọn (Pointed Cone)
Định nghĩa. Một nón lồi
được gọi là nhọn (pointed) nếu nó không chứa bất kỳ đường thẳng đầy đủ nào đi qua gốc tọa độ. Nói theo ngôn ngữ đại số: nghĩa là
.
Ví dụ minh họa:
- Góc phần tư không âm
là một nón nhọn: Nếu và thì bắt buộc . - Nửa không gian qua gốc
là một nón lồi nhưng không nhọn, vì nó chứa toàn bộ trục hoành (đường thẳng ). Tại đây và vector đối đều cùng thuộc .
Nón chính quy (Proper Cone)
Một nón lồi
là . là tập đóng (closed) theo nghĩa topo. có phần trong khác rỗng ( , hay còn gọi là nón đặc - solid cone). là nón nhọn (pointed).
Nón chính quy là nền tảng để thiết lập các bất đẳng thức tổng quát (generalized inequalities) trên không gian , cho phép so sánh độ lớn giữa các vector tương tự như cách ta so sánh các số thực.
7. Ứng dụng của nón trong học máy
Khái niệm nón xuất hiện tự nhiên trong các bài toán học máy mà ở đó dữ liệu chỉ có thể tích lũy thêm thành phần chứ không thể trừ bớt:
- Phân rã không âm (Nonnegative Matrix Factorization - NMF): Trong nhiều ứng dụng xử lý ảnh và khai phá văn bản, dữ liệu có bản chất không âm (độ sáng pixel ảnh, tần suất xuất hiện của từ khóa). Thuật toán NMF xấp xỉ ma trận dữ liệu
với . Mỗi mẫu dữ liệu (cột của ) được biểu diễn như một tổ hợp nón của các đặc trưng cơ sở (các cột của ): Bởi vì các trọng sốkhông được âm, mô hình bị ép buộc phải học các bộ phận thành phần cục bộ mang tính trực quan (chẳng hạn mắt, mũi, miệng khi phân tích ảnh khuôn mặt). Toàn bộ không gian các mẫu biểu diễn được chính là bao nón của các thành phần cơ sở. - Hàm kích hoạt ReLU trong mạng nơ-ron: Hàm kích hoạt tuyến tính chỉnh lưu
luôn cho đầu ra thuộc góc phần tư không âm . Một tầng nơ-ron tiếp theo với các trọng số kết nối không âm sẽ sinh ra các đầu ra là tổ hợp nón của các đặc trưng tầng trước. - Bộ phân loại tuyến tính không có hệ số chặn: Một bộ phân loại tuyến tính không có bias term dự đoán nhãn dương khi
. Vùng quyết định nhãn dương là một nửa không gian qua gốc, tức là một nón lồi. Do đó nếu một điểm dữ liệu được gán nhãn dương, thì mọi điểm phóng to với cũng chắc chắn được gán nhãn dương.
8. Những câu hỏi để đào sâu
Câu 1. Một nón theo định nghĩa chuẩn tắc có bắt buộc phải chứa gốc tọa độ không? góc phần tư mở
Xem lời giải thích
Theo định nghĩa chuẩn tắc của giải tích lồi với hệ số
Do đó, tập góc phần tư mở
Câu 2. Giao của hai nón lồi có luôn luôn là một nón lồi không? Tổng Minkowski
Xem lời giải thích
Cả hai phép toán đều bảo toàn cấu trúc nón lồi:
- Phép giao: Nếu
và , thì thuộc (do là nón lồi) và cũng thuộc (do là nón lồi). Do đó tổ hợp thuộc phần giao. - Tổng Minkowski: Lấy hai điểm thuộc tổng
và với và . Với mọi : Số hạng thứ nhất thuộcvà số hạng thứ hai thuộc , do đó tổng của chúng thuộc .
Câu 3. Cho một đường tròn không đi qua gốc tọa độ trong mặt phẳng, chẳng hạn đường tròn tâm
Xem lời giải thích
Với đường tròn tâm
Ngược lại, với đường tròn tâm tại gốc tọa độ
Câu 4. Xét nhận định sau: "Nếu
Xem lời giải thích
Nhận định trên là hoàn toàn sai lầm.
Phản ví dụ kinh điển là nửa mặt phẳng đóng trong
này là một nón lồi và chứa trọn vẹn toàn bộ trục hoành (đường thẳng
9. Bài tập tự luyện
Bài tập 1: Nhận diện nón và nón lồi
Trong các sau đây, tập hợp nào là nón, tập hợp nào là nón lồi:
Lời giải
- Tập
là nón lồi: - Tính chất nón: Nếu
và , thì , do đó . - Tính lồi: Điều kiện
tương đương đồng thời với và . Đây là giao của hai nửa mặt phẳng lồi đi qua gốc tọa độ, do đó là nón lồi.
- Tính chất nón: Nếu
- Tập
là nón nhưng không lồi: - Tính chất nón: Nếu
và , thì , do đó là một nón. - Tính không lồi: Tập
là hợp của góc phần tư thứ nhất và góc phần tư thứ ba. Hai điểm và đều thuộc , nhưng trung điểm của chúng là có tích tọa độ .
- Tính chất nón: Nếu
- Tập
không phải là nón: Điểm (vì ), nhưng với ta có cho tổng . Tập này là một (nửa mặt phẳng) nhưng không phải là nón. - Tập
là nón lồi: Điều kiện với tương đương với , nghĩa là . Đây chính là nón bậc hai trong , đã được chứng minh là một nón lồi ở mục 4.
Bài tập 2: Biểu diễn vector trong nón sinh bởi ba vector trong không gian
Trong không gian ba chiều
-
có thuộc bao nón không? -
có thuộc bao nón không?
Lời giải
- Khảo sát
: Thiết lập hệ phương trình :
\theta_1 + \theta_3 &= 3 \ \theta_2 + \theta_3 &= 1 \ \theta_1 + \theta_2 &= 2 \end
2(\theta_1 + \theta_2 + \theta_3) = 3 + 1 + 2 = 6 \implies \theta_1 + \theta_2 + \theta_3 = 3
\begin{aligned} \theta_1 + \theta_3 &= 2 \ \theta_2 + \theta_3 &= 0 \ \theta_1 + \theta_2 &= 0 \end
2(\theta_1 + \theta_2 + \theta_3) = 2 \implies \theta_1 + \theta_2 + \theta_3 = 1
Tóm tắt
Nón là khép kín với phép nhân với mọi số thực không âm (
Bốn loại tổ hợp toán học (Tuyến tính, Affine, Nón, Lồi) được phân biệt rõ ràng qua hai câu hỏi: Hệ số có bị cấm âm không, và tổng hệ số có bắt buộc bằng 1 không. Bài toán kiểm tra một có thuộc bao nón hay không tương đương với một bài toán tìm của quy hoạch tuyến tính. Các nón quan trọng như góc phần tư không âm, nón chuẩn, nón bậc hai và nón đóng vai trò nền tảng cho lý thuyết tối ưu hóa hiện đại và các thuật toán học máy.
Tài liệu tham khảo
- Stephen Boyd, Lieven Vandenberghe, Convex Optimization, Cambridge University Press.
- D. D. Lee, H. S. Seung, Learning the parts of objects by non-negative factorization, Nature 401 (1999), 788–791.