Bài giảng Học sâu và ứng dụng - Bài 1: Giới thiệu về học sâu - Trường Đại học Bách khoa Hà Nội
1
Học sâu và ứng dụng
(IT4653)
Bài 1:
Giới thiệu về học sâu
2
Thế nào là học sâu?
• Là phương pháp học máy sử dụng mạng nơ-ron nhân
tạo để trích xuất đặc trưng tự động từ dữ liệu
3
Tại sao cần học sâu?
• Phương pháp học máy truyền thống đòi hỏi trích xuất
đặc trưng một cách thủ công, đòi hỏi kinh nghiệm và
phụ thuộc từng bài toán cụ thể
• Học sâu cho phép trích chọn đặc trưng tự động từ dữ
liệu
4
Tại sao giờ mới bùng nổ học sâu?
5
Học máy có giám sát
6
Tập huấn luyện và tập kiểm tra
Data acquisition
Practical usage
Universal set
(unobserved)
Training set
(observed)
Testing set
(unobserved)
7
Hiện tượng overfit và underfit
• Underfitting: mô hình quá “đơn giản” để biểu diễn các
tính chất của dữ liệu
• Bias cao và variance thấp
• Sai số cao trên tập huấn luyện và tập kiểm tra
• Overfitting: mô hình quá “phức tạp” dẫn tới học cả
nhiễu trong dữ liệu
• Bias thấp và variance cao
• Sai số thấp trên tập huấn luyện và sai số cao trên tập kiểm tra
8
Adapted from L. Lazebnik
Minh họa Bias-Variance
9
Phân lớp tuyến tính
10
Phân lớp tuyến tính
11
Phân lớp tuyến tính: 3 góc nhìn
12
Hàm mục tiêu
13
Hàm mục tiêu
14
Hiệu chỉnh
15
Bộ phân loại softmax
16
Hồi quy tuyến tính
%
¡ ꢀ ꢁ; ꢂ = ꢂ! + "#$ ꢂ"ꢁ" = ꢂ&ꢁ′
∑
17
Hồi quy tuyến tính
• Nên chọn hàm mục tiêu nào?
!
• Mỗi ꢀ là một số thực
• Bình phương tối thiểu là một lựa chọn tốt J
'
1
(
"
"
ꢃ ꢂ; ꢄ, ꢅ = ꢇ ꢀ ꢁ ; ꢂ − ꢈ
ꢆ "#$
(
!
$
'
"
∑
=
ꢂ&ꢁ " − ꢈ
"#$
'
$
&
= ' ꢂ&ꢄ′ − ꢅ ꢂ&ꢄ) − ꢅ
18
Tối ưu hàm mục tiêu
19
Gradient Descent
20
Tải về để xem bản đầy đủ
34 trang
19420
Free
Bạn đang xem 20 trang mẫu của tài liệu "Bài giảng Học sâu và ứng dụng - Bài 1: Giới thiệu về học sâu - Trường Đại học Bách khoa Hà Nội", để tải tài liệu gốc về máy hãy click vào nút Download ở trên
File đính kèm:
- bai_giang_hoc_sau_va_ung_dung_bai_1_gioi_thieu_ve_hoc_sau_tr.pdf
