Bài giảng Học sâu và ứng dụng - Bài 6: Phần cứng và phần mềm cho học sâu - Trường Đại học Bách khoa Hà Nội
1
Bài 6:
Phần cứng và phần mềm
cho học sâu
2
Nội dung
1.Phần cứng cho học sâu
2.Các nền tảng lập trình cho học sâu
3.Công cụ tăng tốc và nén mạng
3
Phần cứng cho học sâu
4
Một máy tính cho học sâu
5
CPU vs GPU
• CPU: ít nhân, nhưng mỗi nhân rất nhanh và hiệu năng
cao, có khả năng xử lý thao tác phức tạp. Rất tốt cho
các tác vụ tuần tự
• GPU: nhiều nhân, những mỗi nhân chậm hơn và “dốt”
hơn. Rất tốt cho các tác vụ song song
6
Ví dụ nhân ma trận
• Rất phù hợp để sử dụng GPU
7
GigaFLOPs trên 1$
8
CPU vs GPU trong thực tế
9
CPU vs GPU trong thực tế
10
CPU vs GPU vs TPU
• TPU: phần cứng chuyên dụng cho học sâu
11
GigaFLOPs trên 1$
12
NVIDIA DGX-2
13
Thiết bị biên NVidia
14
Thiết bị biên Google Coral
15
Thiết bị biên ARM
16
Thiết bị biên ARM NPU
17
Các nền tảng lập trình cho học sâu
18
Rất nhiều nền tảng…
19
Đồ thị tính toán
• Ưu điểm:
API sáng sủa,
dễ lập trình các
tác vụ tính toán
• Nhược điểm:
Phải tự lập trình
Backprop;
Không chạy
được trên GPU
20
Tải về để xem bản đầy đủ
61 trang
18320
Free
Bạn đang xem 20 trang mẫu của tài liệu "Bài giảng Học sâu và ứng dụng - Bài 6: Phần cứng và phần mềm cho học sâu - Trường Đại học Bách khoa Hà Nội", để tải tài liệu gốc về máy hãy click vào nút Download ở trên
File đính kèm:
- bai_giang_hoc_sau_va_ung_dung_bai_6_phan_cung_va_phan_mem_ch.pdf
