Lý Thuyết Thông Tin – Wikipedia Tiếng Việt

Lý thuyết thông tin là một nhánh của toán học ứng dụng và kĩ thuật điện nghiên cứu về đo đạc lượng thông tin. Lý thuyết thông tin được xây dựng bởi Claude E. Shannon để xác định giới hạn cơ bản trong các hoạt động xử lý tín hiệu chẳng hạn như nén dữ liệu hay lưu trữ và truyền dẫn dữ liệu. Ngay từ những ngày đầu, nó đã mở rộng phạm vi ứng dụng ra nhiều lĩnh vực khác, bao gồm suy luận thống kê, xử lý ngôn ngữ tự nhiên, mật mã học, các mạng lưới bên cạnh mạng lưới viễn thông - chẳng hạn như trong thần kinh,[1] sự tiến hóa[2] và chức năng[3] của các mã phân tử, lựa chọn mô hình[4] trong sinh thái học, vật lý nhiệt, máy tính lượng tử,[5] phát hiện sao chép[6] và các hình thức phân tích dữ liệu khác.[7]

Một độ đo cơ bản của thông tin là entropy, thường được diễn đạt dưới dạng số lượng bit cần thiết trung bình để lưu trữ hoặc dẫn truyền. Entropy lượng hóa sự không chắc chắn trong việc dự đoán giá trị của một biến ngẫu nhiên. Ví dụ như, xác định kết quả của một lần tung đồng xu công bằng (hai kết quả có khả năng như nhau) cho ít thông tin hơn (entropy nhỏ hơn) là xác định kết quả của một lần tung xúc sắc (sáu kết quả có khả năng như nhau).

Các ứng dụng cơ bản của lý thuyết thông tin bao gồm nén không mất dữ liệu (chẳng hạn như ZIP), nén mất dữ liệu (chẳng hạn MP3, JPG), mã hóa kênh (chẳng hạn như trong DSL). Lý thuyết thông tin nằm ở phần giao nhau giữa toán học, thống kê, khoa học máy tính, vật lý, thần kinh, và kĩ thuật điện. Các ngành hẹp quan trọng của lý thuyết thông tin bao gồm mã hóa nguồn, mã hóa kênh, lý thuyết thông tin thuật toán, bảo mật theo lý thuyết thông tin.

Tổng quan

[sửa | sửa mã nguồn]

Khái niệm cơ bản của lý thuyết thông tin có thể được nắm bắt thông qua việc xem xét hình thức liên lạc phổ biến nhất của con người: ngôn ngữ. Hai yếu tố quan trọng của một ngôn ngữ ngắn gọn là: các từ thông dụng (như "một", "cái", "tôi") nên ngắn gọn hơn các từ kém thông dụng hơn (như "thông tin", "thợ thủ công") để các câu không bị quá dài. Sự cân bằng độ dài các từ như vậy cũng tương tự như trong nén dữ liệu và là một thành phần cơ bản của mã hóa nguồn. Ngoài ra, nếu một phần của câu không nghe được hoặc bị nghe nhầm do tiếng ồn, chẳng hạn như do có ô tô chạy qua, thì người nghe vẫn có thể đoán ra ý nghĩa của câu. Sự vững chắc đó là một thành phần thiết yếu cho hệ thống liên lạc điện tử cũng như cho ngôn ngữ. Tính chất đó trong truyền thông được đảm bảo bởi mã hóa kênh. Mã hóa nguồn và mã hóa kênh là những mối quan tâm chính của lý thuyết thông tin.

Lý thuyết thông tin thường được xem là xuất phát từ bài báo quan trọng của Shannon (1948) mang tên "A Mathematical Theory of Communication". Mô hình trung tâm của lý thuyết thông tin cổ điển là vấn đề kĩ thuật của việc truyền dẫn thông tin trên một kênh nhiễu. Kết quả cơ bản trong lý thuyết này là định lý mã hóa nguồn của Shannon, khẳng định rằng tính trung bình, số bit cần dùng để mô tả kết quả của một sự kiện ngẫu nhiên chính là entropy của nó, và định lý mã hóa trên kênh nhiễu cũng của Shannon, khẳng định rằng việc liên lạc không lỗi trên một kênh nhiễu là có thể miễn là tốc độ truyền dữ liệu là nhỏ hơn một giới hạn nhất định, gọi là dung lượng kênh. Có thể đạt đến gần dung lượng kênh trong thực tế bằng cách sử dụng các hệ thống mã hóa và giải mã thích hợp.

Bối cảnh lịch sử

[sửa | sửa mã nguồn] Bài chi tiết: Lịch sử lý thuyết thông tin

Sự kiện nổi bật đánh dấu sự khởi đầu của lý thuyết thông tin là bài báo của Claude E. Shannon "A Mathematical Theory of Communication" ở Bell System Technical Journal vào tháng 7 và tháng 10 năm 1948.

Trước bài báo này, một số ý tưởng về lý thuyết thông tin đã được phát triển tại Bell Labs, trong trường hợp đặc biệt khi tất cả các sự kiện đều có cùng xác suất. Bài báo năm 1924 của Harry Nyquist, "Certain Factors Affecting Telegraph Speed", chứa một phần lý thuyết định lượng "tri thức" (intelligence) và "tốc độ đường truyền" (line speed), đưa ra mối liên hệ W = Klogm, trong đó W là tốc độ dẫn truyền tri thức, m là số cấp điện áp có thể sử dụng tại mỗi bước và K là một hằng số. Bài báo năm 1928 của Ralph Hartley, "Transmission of Information", sử dụng thuật ngữ "thông tin" (information) như một đại lượng đo được, thể hiện khả năng phân biệt giữa các dãy ký hiệu của người nhận, do đó lượng hóa thông tin bởi H = logSn = nlogS, trong đó S là số ký hiệu có thể sử dụng, và n là số ký hiệu được truyền đi. Đơn vị tự nhiên của thông tin do đó là một chữ số thập phân, sau này được đổi tên là hartley để ghi danh đóng góp của ông, là một đơn vị đo thông tin. Năm 1940, Alan Turing đã sử dụng những ý tưởng tương tự cho phân tích thống kê để phá bộ mã Enigma của Đức trong chiến tranh thế giới thứ hai.

Phần lớn lý thuyết toán học đằng sau lý thuyết thông tin với các sự kiện có xác suất khác nhau được xây dựng trong ngành nhiệt động học bởi Ludwig Boltzmann và J. Willard Gibbs. Mối liên hệ giữa entropy thông tin và entropy nhiệt động học, bao gồm đóng góp quan trọng của Rolf Landauer trong thập kỉ 1960, được mô tả trong trang Entropy trong nhiệt động học và lý thuyết thông tin.

Đo lường thông tin

[sửa | sửa mã nguồn] Bài chi tiết: Đo lường thông tin

Lý thuyết thông tin được xây dựng dựa trên lý thuyết xác suất và thống kê. Thông số quan trọng nhất của thông tin là entropy, lượng thông tin trong một biến ngẫu nhiên, và thông tin tương hỗ, lượng thông tin chung giữa hai biến ngẫu nhiên.

Entropy

[sửa | sửa mã nguồn]

Nếu X {\displaystyle \mathbb {X} } là tập hợp tất cả các thông điệp { x 1 , . . . , x n } {\displaystyle \{x_{1},...,x_{n}\}} mà X {\displaystyle X} có thể nhận giá trị, và p ( x ) {\displaystyle p(x)} là xác suất X {\displaystyle X} nhận giá trị x ∈ X {\displaystyle x\in \mathbb {X} } , thì entropy của X {\displaystyle X} được định nghĩa như sau:[8]

H ( X ) = E X [ I ( x ) ] = − ∑ x ∈ X p ( x ) log ⁡ p ( x ) . {\displaystyle H(X)=\mathbb {E} _{X}[I(x)]=-\sum _{x\in \mathbb {X} }p(x)\log p(x).}

Trường hợp đặc biệt của entropy thông tin cho biến ngẫu nhiên với đúng hai khả năng gọi là hàm entropy nhị phân, thường được tính theo lôgarit cơ số 2:

H b ( p ) = − p log 2 ⁡ p − ( 1 − p ) log 2 ⁡ ( 1 − p ) . {\displaystyle H_{\mbox{b}}(p)=-p\log _{2}p-(1-p)\log _{2}(1-p).\,}

Entropy hợp

[sửa | sửa mã nguồn]

Entropy hợp của hai biến ngẫu nhiên rời rạc X và Y là entropy của cặp (X, Y). Có nghĩa là nếu X và Y là độc lập thì entropy hợp là tổng của entropy của mỗi biến.

H ( X , Y ) = E X , Y [ − log ⁡ p ( x , y ) ] = − ∑ x , y p ( x , y ) log ⁡ p ( x , y ) {\displaystyle H(X,Y)=\mathbb {E} _{X,Y}[-\log p(x,y)]=-\sum _{x,y}p(x,y)\log p(x,y)\,}

Entropy có điều kiện

[sửa | sửa mã nguồn]

Entropy có điều kiện của X cho trước Y là giá trị kì vọng của entropy của X theo phân bố của Y.

H ( X | Y ) = E Y [ H ( X | y ) ] = − ∑ y ∈ Y p ( y ) ∑ x ∈ X p ( x | y ) log ⁡ p ( x | y ) = − ∑ x , y p ( x , y ) log ⁡ p ( x , y ) p ( y ) . {\displaystyle H(X|Y)=\mathbb {E} _{Y}[H(X|y)]=-\sum _{y\in Y}p(y)\sum _{x\in X}p(x|y)\log p(x|y)=-\sum _{x,y}p(x,y)\log {\frac {p(x,y)}{p(y)}}.}

Một tính chất cơ bản của entropy có điều kiện là

H ( X | Y ) = H ( X , Y ) − H ( Y ) . {\displaystyle H(X|Y)=H(X,Y)-H(Y).\,}

Thông tin tương hỗ

[sửa | sửa mã nguồn]

Thông tin tương hỗ đo lượng thông tin thu được về một biến ngẫu nhiên thông qua giá trị của một biến ngẫu nhiên khác.

I ( X ; Y ) = E X , Y [ S I ( x , y ) ] = ∑ x , y p ( x , y ) log ⁡ p ( x , y ) p ( x ) p ( y ) {\displaystyle I(X;Y)=\mathbb {E} _{X,Y}[SI(x,y)]=\sum _{x,y}p(x,y)\log {\frac {p(x,y)}{p(x)\,p(y)}}}

Một tính chất cơ bản của thông tin tương hỗ là

I ( X ; Y ) = H ( X ) − H ( X | Y ) . {\displaystyle I(X;Y)=H(X)-H(X|Y).\,}

Thông tin tương hỗ có tính chất đối xứng:

I ( X ; Y ) = I ( Y ; X ) = H ( X ) + H ( Y ) − H ( X , Y ) . {\displaystyle I(X;Y)=I(Y;X)=H(X)+H(Y)-H(X,Y).\,}

Thông tin tương hỗ có thể được biểu diễn dưới dạng khoảng cách Kullback-Leibler của phân bố hậu nghiệm của X nếu biết giá trị của Y và phân bố tiền nghiệm của X:

I ( X ; Y ) = E p ( y ) [ D K L ( p ( X | Y = y ) ‖ p ( X ) ) ] . {\displaystyle I(X;Y)=\mathbb {E} _{p(y)}[D_{\mathrm {KL} }(p(X|Y=y)\|p(X))].}

Nói cách khác, độ đo này xác định, về mặt trung bình, sự thay đổi của phân bố của X nếu biết giá trị của Y. Giá trị này còn có thể tính bằng khoảng cách giữa tích của các phân bố biên với phân bố hợp:

I ( X ; Y ) = D K L ( p ( X , Y ) ‖ p ( X ) p ( Y ) ) . {\displaystyle I(X;Y)=D_{\mathrm {KL} }(p(X,Y)\|p(X)p(Y)).}

Khoảng cách Kullback-Leibler

[sửa | sửa mã nguồn]

Khoảng cách Kullback-Leibler (hoặc entropy tương đối) là một cách so sánh hai phân bố: phân bố "thật" p(x) và một phân bố bất kì q(x). Nó được định nghĩa như sau:

D K L ( p ( X ) ‖ q ( X ) ) = ∑ x ∈ X − p ( x ) log ⁡ q ( x ) − ( − p ( x ) log ⁡ p ( x ) ) = ∑ x ∈ X p ( x ) log ⁡ p ( x ) q ( x ) . {\displaystyle D_{\mathrm {KL} }(p(X)\|q(X))=\sum _{x\in X}-p(x)\log {q(x)}\,-\,\left(-p(x)\log {p(x)}\right)=\sum _{x\in X}p(x)\log {\frac {p(x)}{q(x)}}.}

Mặc dù đôi khi nó được sử dụng như một "khoảng cách metric", khoảng cách Kullback-Leibler không phải là một metric do nó không đối xứng và không thỏa mãn bất đẳng thức tam giác.

Các thông số khác

[sửa | sửa mã nguồn]

Một vài thông số khác trong lý thuyết thông tin bao gồm entropy Rényi, entropy vi phân, thông tin tương hỗ có điều kiện.

Lý thuyết mã hóa

[sửa | sửa mã nguồn] Bài chi tiết: Lý thuyết mã hóa

Lý thuyết mã hóa là một trong những ứng dụng quan trọng và trực tiếp nhất của lý thuyết thông tin. Nó có thể được chia làm lý thuyết mã hóa nguồn và lý thuyết mã hóa kênh. Sử dụng kết quả thống kê cho dữ liệu, lý thuyết thông tin định lượng số bit cần thiết để lưu trữ dữ liệu (chính là entropy thông tin của dữ liệu).

• Nén dữ liệu (mã hóa nguồn): Có hai hình thức nén dữ liệu:

1. Nén không mất dữ liệu: dữ liệu phải được khôi phục chính xác
2. Nén mất dữ liệu: phân bổ đủ số bit cần thiết để khôi phục dữ liệu, trong một độ chính xác định trước, đo bởi một hàm biến dạng.

• Mã sửa lỗi (mã hóa kênh): Khi nén dữ liệu đã loại bỏ hoàn toàn phần dữ liệu thừa, một mã sửa lỗi thêm vào một số thông tin dự phòng để có thể truyền dữ liệu một cách hiệu quả và trung thực qua một kênh nhiễu.

Cách phân chia lý thuyết mã hóa thành nén và truyền được giải thích bởi các định lý truyền thông tin, hoặc các định lý phân chia nguồn-kênh, trong đó lý giải việc sử dụng bit làm đơn vị chung cho thông tin trong nhiều bối cảnh khác nhau. Tuy nhiên các định lý này chỉ đúng trong trường hợp một người gửi muốn truyền thông tin cho đúng một người nhận. Trong trường hợp có nhiều người gửi (kênh đa truy cập), hoặc nhiều người nhận (kênh phát sóng), hoặc có người trung gian giúp đỡ (kênh tiếp sức), hoặc tổng quát hơn, trong mạng máy tính, việc nén rồi truyền có thể không còn tối ưu. Lý thuyết thông tin trên mạng nghiên cứu về những mô hình truyền thông nhiều đối tượng.

Ghi chú

[sửa | sửa mã nguồn]

1. ^ F. Rieke, D. Warland, R Ruyter van Steveninck, W Bialek, Spikes: Exploring the Neural Code. The MIT press (1997).
2. ^ cf. Huelsenbeck, J. P., F. Ronquist, R. Nielsen and J. P. Bollback (2001) Bayesian inference of phylogeny and its impact on evolutionary biology, Science 294:2310-2314
3. ^ Rando Allikmets, Wyeth W. Wasserman, Amy Hutchinson, Philip Smallwood, Jeremy Nathans, Peter K. Rogan, Thomas D. Schneider Lưu trữ ngày 4 tháng 2 năm 2012 tại Wayback Machine, Michael Dean (1998) Organization of the ABCR gene: analysis of promoter and splice junction sequences, Gene 215:1, 111-122
4. ^ Burnham, K. P. and Anderson D. R. (2002) Model Selection and Multimodel Inference: A Practical Information-Theoretic Approach, Second Edition (Springer Science, New York) ISBN 978-0-387-95364-9.
5. ^ Jaynes, E. T. (1957) Information Theory and Statistical Mechanics, Phys. Rev. 106:620
6. ^ Charles H. Bennett, Ming Li, and Bin Ma (2003) Chain Letters and Evolutionary Histories Lưu trữ ngày 7 tháng 10 năm 2007 tại Wayback Machine
7. ^ David R. Anderson (ngày 1 tháng 11 năm 2003). "Some background on why people in the empirical sciences may want to better understand the information-theoretic methods" (PDF). Bản gốc (pdf) lưu trữ ngày 23 tháng 7 năm 2011. Truy cập ngày 23 tháng 6 năm 2010.
8. ^ Fazlollah M. Reza (ngày 29 tháng 12 năm 1994). An Introduction to Information Theory. Dover Publications, Inc., New York. ISBN 0-486-68210-2.{{Chú thích sách}}: Quản lý CS1: năm (liên kết)

Các công trình cổ điển

[sửa | sửa mã nguồn]

• Shannon, Claude E. (1948). "[[A Mathematical Theory of Communication]]" (PDF). Bell System Technical Journal. Quyển 27. tr. 379–423 & 623–656. PDF Bản gốc lưu trữ ngày 15 tháng 12 năm 2017. Truy cập ngày 28 tháng 8 năm 2011. {{Chú thích tạp chí}}: Kiểm tra giá trị |url= (trợ giúp); URL chứa liên kết wiki (trợ giúp)
• R.V.L. Hartley (1928). "Transmission of Information" (PDF). Bell System Technical Journal. Bản gốc (PDF) lưu trữ ngày 4 tháng 10 năm 2011. Truy cập ngày 28 tháng 8 năm 2011.
• Andrey Kolmogorov (1968). "Three approaches to the quantitative definition of information". International Journal of Computer Mathematics.

x t s Toán học
Lịch sử Dòng thời gian Tương lai Đại cương Danh sách Ký hiệu
Nền tảng	Logic toán Lý thuyết hình thái Lý thuyết phạm trù Lý thuyết tập hợp Lý thuyết thông tin Triết học toán học
Đại số	Đa tuyến tính Đồng điều Giao hoán Lý thuyết nhóm Phổ dụng Sơ cấp Trừu tượng Tuyến tính
Giải tích	Giải tích điều hòa Giải tích hàm Giải tích phức Giải tích thực Lý thuyết độ đo Phương trình vi phân Vi tích phân
Rời rạc	Lý thuyết đồ thị Lý thuyết thứ tự Tổ hợp
Hình học	Đại số Euclid Giải tích Hữu hạn Rời rạc Số học Vi phân
Lý thuyết số	Số học Đại số Giải tích Hình học Diophantos
Tô pô	Đại số Hình học Đại cương Vi phân Lý thuyết đồng luân
Ứng dụng	Hóa học Kinh tế Lý thuyết điều khiển tự động Lý thuyết trò chơi Sinh học Tài chính Tâm lý Thống kê toán học Xác suất Thống kê Vật lý
Tính toán	Khoa học máy tính Lý thuyết tính toán Lý thuyết độ phức tạp tính toán Đại số máy tính Giải tích số Tối ưu hóa
Liên quan	Toán học giải trí Toán học và nghệ thuật Giáo dục toán học
Thể loại · Chủ đề · Commons · Dự án

x t s Khoa học máy tính
Chú ý: Bản mẫu này cơ bản dựa trên Hệ thống xếp loại điện toán ACM năm 2012.
Phần cứng	Mạch in Thiết bị ngoại vi Vi mạch Vi mạch tích hợp Hệ thống trên vi mạch (SoC) Tiêu thụ năng lượng (Điện toán xanh) Tự động hóa thiết kế điện tử Tăng tốc phần cứng Bộ xử lý Kích thước / Dạng thức
Tổ chức hệ thống máy tính	Kiến trúc máy tính Độ phức tạp tính toán Độ tin cậy hệ thống Hệ thống nhúng Hệ thống thời gian thực
Mạng máy tính	Kiến trúc mạng Giao thức mạng Phần cứng mạng Bộ lập lịch trình mạng Hiệu suất mạng Dịch vụ mạng
Tổ chức phần mềm	Trình thông dịch Middleware Máy ảo Hệ điều hành Chất lượng phần mềm
Ký pháp và công cụ phần mềm	Mẫu hình lập trình Ngôn ngữ lập trình Trình biên dịch Ngôn ngữ miền chuyên biệt Ngôn ngữ mô hình hóa Khung phần mềm Môi trường phát triển tích hợp Quản lý cấu hình phần mềm Thư viện phần mềm Kho chứa phần mềm
Phát triển phần mềm	Biến điều khiển Quy trình phát triển phần mềm Phân tích yêu cầu Thiết kế phần mềm Xây dựng phần mềm Triển khai phần mềm Công nghệ phần mềm Bảo trì phần mềm Nhóm lập trình Mô hình nguồn mở
Lý thuyết tính toán	Mô hình tính toán Ngẫu nhiên Ngôn ngữ hình thức Lý thuyết Automat Lý thuyết khả tính Lý thuyết độ phức tạp tính toán Logic Ngữ nghĩa
Thuật toán	Thiết kế thuật toán Phân tích thuật toán Hiệu quả thuật toán Thuật toán ngẫu nhiên Hình học tính toán
Toán học về điện toán	Toán học rời rạc Xác suất Thống kê Phần mềm toán học Lý thuyết thông tin Giải tích toán học Giải tích số Khoa học máy tính lý thuyết
Hệ thống thông tin	Hệ quản trị cơ sở dữ liệu Hệ thống lưu trữ thông tin Hệ thống thông tin doanh nghiệp Hệ thống thông tin xã hội Hệ thống thông tin địa lý Hệ thống hỗ trợ ra quyết định Hệ thống điều khiển quá trình Hệ thống thông tin đa phương tiện Khai phá dữ liệu Thư viện số Nền tảng máy tính Tiếp thị kỹ thuật số World Wide Web Truy hồi thông tin
Bảo mật	Mật mã học Các phương pháp hình thức Hacker bảo mật Dịch vụ bảo mật Hệ thống phát hiện xâm nhập Bảo mật phần cứng Bảo mật mạng An toàn thông tin Bảo mật ứng dụng
Tương tác người–máy	Thiết kế tương tác Điện toán xã hội Điện toán khắp nơi Trực quan hóa Khả năng tiếp cận
Tương tranh	Tính toán tương tranh Tính toán song song Điện toán phân tán Đa luồng Đa xử lý
Trí tuệ nhân tạo	Xử lý ngôn ngữ tự nhiên Biểu diễn tri thức và suy luận Thị giác máy tính Lập kế hoạch và lên lịch tự động Phương pháp tìm kiếm Phương pháp điều khiển Triết học về trí tuệ nhân tạo Trí tuệ nhân tạo phân tán
Học máy	Học có giám sát Học không có giám sát Học tăng cường Học đa tác vụ Kiểm chứng chéo
Đồ họa	Hoạt hình Thực tế mở rộng Tăng cường Hỗn hợp Ảo Kết xuất Thao túng hình ảnh Bộ xử lý đồ họa Nén ảnh Mô hình hóa dạng khối
Điện toán ứng dụng	Điện toán lượng tử Thương mại điện tử Phần mềm doanh nghiệp Toán học tính toán Vật lý tính toán Hóa học tính toán Sinh học tính toán Khoa học xã hội tính toán Kỹ thuật tính toán Điện toán khả vi Y tế tính toán Nghệ thuật số Xuất bản điện tử Chiến tranh mạng Bầu cử điện tử Trò chơi video Soạn thảo văn bản Vận trù học Công nghệ giáo dục Quản lý tài liệu
Thể loại Đề cương Thuật ngữ

x t s Chuyên ngành chính của Tin học
Phần cứng • Phần mềm
Công nghệ thông tin	Cuộc sống nhân tạo Đa xử lý Điện toán lưới Đồ họa máy tính Hệ chuyên gia Hệ thống thông tin quản lý Hoạt họa máy tính Khoa học nhận thức Khoa học tính toán Khoa học thần kinh tính toán Khoa học thông tin Kiểm soát song hành Kiến trúc hệ thống Lập luận tự động Ngôn ngữ hình thức Ngôn ngữ học tính toán Người máy Robot học Thực tế ảo Tính toán song song Tối ưu hóa trình biên dịch Tổ chức máy tính Trí tuệ nhân tạo Từ điển học Tương tranh Vật lý học tính toán
Hệ thống thông tin	An toàn thông tin Cơ sở dữ liệu đa phương tiện Cơ sở dữ liệu thông minh Dữ liệu lớn Hệ cơ sở tri thức Hệ dựa trên logic Hệ gợi ý Hệ thích nghi dựa trên ngữ cảnh Hệ thống hướng tác tử Hệ thống thông minh Hệ thống thông tin địa lý Hệ trợ giúp quyết định Kỹ nghệ dữ liệu Kỹ nghệ tri thức Logic mờ Phân tích dữ liệu Phân tích và thiết kế hệ thống Quản trị dự án Quản trị tri thức Thiết kế và quản trị dữ liệu Tích hợp dữ liệu Tính toán hiệu năng cao Web ngữ nghĩa Xử lý thông tin mờ
Khoa học máy tính	Cơ sở dữ liệu phân tán Hệ quản trị cơ sở dữ liệu Hệ thống đa lõi Hệ thống truyền thông Hình học tính toán Hóa học tính toán Học máy Khai phá dữ liệu Lập trình song song Lý thuyết mã hóa Lý thuyết tính toán Ngôn ngữ và phương pháp dịch Nguyên lý ngôn ngữ lập trình Quy hoạch ràng buộc Sinh học tính toán (Tin sinh học) Thiết kế và phân tích thuật toán Tìm kiếm thông tin Tính toán khoa học Tính toán kí hiệu Tính toán phân tán Tính toán tiến hóa Tính toán tự nhiên Tối ưu hoá tổ hợp Xử lý song song
Kỹ thuật máy tính	Đa phương tiện Định vị vệ tinh (GNSS) Giao diện người dùng Ghép nối máy tính Hệ nhúng Hệ thống thời gian thực Hiệu năng hệ thống Kiến trúc máy tính Lập trình đôi Lập trình đồ họa Lập trình hệ thống Lý thuyết nhận dạng Mạng nơ-ron Nhận dạng tiếng nói Phân tích tín hiệu Thị giác máy tính Thiết kế IC Thoại IP Tổng hợp giọng nói Tương tác người–máy tính Vi xử lý Xử lý ảnh Xử lý dữ liệu đa phương tiện Xử lý ngôn ngữ tự nhiên Xử lý tiếng nói Xử lý tín hiệu số
Kỹ nghệ phần mềm	Bảo trì phần mềm Các phương pháp hình thức Chất lượng phần mềm Đảm bảo chất lượng phần mềm Đánh giá phần mềm Đo lường và quản trị phần mềm Độ tin cậy và chịu lỗi phần mềm Kiểm thử phần mềm Kiến trúc doanh nghiệp Kiến trúc phần mềm Kinh tế công nghệ phần mềm Kỹ nghệ hướng dịch vụ Lập trình linh hoạt Mẫu thiết kế Mô hình hóa phần mềm Phân tích hệ thống Phân tích thiết kế hướng đối tượng (UML) Phân tích yêu cầu phần mềm Phát triển phần mềm Quản lý cấu hình phần mềm Quản lý dự án phần mềm Quản lý kỹ thuật phần mềm Quy trình phát triển phần mềm (Vòng đời phát hành phần mềm) Thiết kế phần mềm Triển khai phần mềm Tối ưu hóa phần mềm
Mạng máy tính	An ninh mạng An ninh trong giao dịch điện tử Đánh giá hiệu năng mạng (QoS) Điện toán đám mây Định tuyến Hệ phân tán Kỹ thuật truyền thông Lý thuyết thông tin Mạng không dây Mạng thế hệ mới Mạng thiết bị di động Mạng thông tin quang Mật mã học Mô phỏng mạng Nhận dạng Quản trị mạng Thiết bị truyền thông và mạng Thiết kế mạng Tính toán khắp nơi và di động Trung tâm dữ liệu Truyền thông di động Truyền thông đa phương tiện Truyền thông số Vệ tinh thông tin Viễn thông (Mạng viễn thông) Ước lượng tín hiệu và hệ thống Web thế hệ mới
Tin học kinh tế	x t s Giám đốc công nghệ thông tin · Tin học kinh tế · Quản lý công nghệ thông tin Quản lý ITIL & ITSM Định hướng phát triển Phát triển nhân lực Quản lý bảo mật Quản lý chất lượng Quản lý công nghệ Quản lý dự án Quản lý mua sắm Quản lý ngân sách Quản lý nguồn lực Quản lý phát hành Quản lý rủi ro Quản lý tài sản Quản lý thay đổi Quản lý tích hợp Quản lý tổ chức Quản lý truyền thông Quản lý tuân thủ Quản lý vấn đề Thiết kế giải pháp Xây dựng chiến lược Xây dựng chính sách Quản lý mạng Ảo hóa Mạng campus Mạng diện rộng Mạng nội bộ Mạng riêng ảo STP VLAN IVR VTP Quản trị hệ thống Hoạt động vận hành Bảo trì thiết bị Bảo vệ hệ thống Đối phó sự cố Kế hoạch dự phòng Hoạt động kỹ thuật Hỗ trợ kỹ thuật Kiểm soát truy cập Kiểm tra hệ thống Xác thực người dùng Hoạt động an toàn An ninh nhân sự An ninh hệ thống Nhận thức an toàn Rủi ro hệ thống Quản lý hệ thống Bàn dịch vụ Quản lý cấu hình Quản lý công suất Quản lý dịch vụ Quản lý hạ tầng Quản lý khôi phục Quản lý người dùng Quản lý sự cố Quản lý tính liên tục Quản lý tính sẵn sàng Tổ chức công việc Tổ chức hỗ trợ Kỹ năng lãnh đạo Kỹ năng cộng tác nhóm Kỹ năng đàm phán Kỹ năng giải quyết vấn đề Kỹ năng giao tiếp Kỹ năng gọi thoại Kỹ năng huấn luyện Kỹ năng lắng nghe Kỹ năng phân công ủy thác Kỹ năng phỏng vấn tuyển dụng Kỹ năng quản lý thời gian Kỹ năng tạo động lực Kỹ năng tư duy Kỹ năng thiết kế quy trình Kỹ năng thuyết trình Kỹ năng viết tài liệu kỹ thuật Ứng dụng Chính phủ điện tử Giáo dục trực tuyến Hoạch định tài nguyên doanh nghiệp Kinh doanh điện tử (Mua sắm trực tuyến  · Thương mại điện tử  · Tiếp thị trực tuyến) Kinh doanh thông minh Quản lý quan hệ khách hàng Quản lý tri thức Các lĩnh vực liên quan Kinh tế Luật pháp Tài chính Kế toán Kinh doanh Tổ chức Xã hội Quản lý Quản trị kinh doanh