4. Perceptron Đa tầng

Trong chương này, chúng tôi sẽ giới thiệu mạng nơ-ron sâu thực sự đầu tiên của bạn. Mạng nơ-ron sâu đơn giản nhất được gọi là perceptron đa tầng. Nó gồm nhiều tầng nơ-ron, mỗi nơ-ron được kết nối đầy đủ với các nơ-ron khác ở tầng phía dưới (các nơ-ron cung cấp đầu vào) và tầng phía trên (các nơ-ron mà nó gây ảnh hưởng). Khi huấn luyện các mô hình có độ phức tạp cao, ta sẽ có nguy cơ gặp vấn đề quá khớp. Vì vậy, chúng tôi cần cung cấp cho bạn những hiểu biết ban đầu thật chặt chẽ với các khái niệm quá khớp, dưới khớp và kiểm soát độ phức tạp. Nhằm giúp bạn giải quyết những vấn đề kể trên, chúng tôi sẽ giới thiệu những kỹ thuật điều chuẩn như dropout và suy giảm trọng số. Ta cũng sẽ bàn đến các vấn đề liên quan tới sự ổn định số học và việc khởi tạo tham số, hai yếu tố chính giúp việc huấn luyện mạng nơ-ron sâu thành công. Xuyên suốt chương này, chúng tôi tập trung vào việc áp dụng các mô hình cho dữ liệu thực tế, nhằm giúp độc giả không chỉ nắm vững được các khái niệm mà còn có thể thực hành sử dụng mạng nơ-ron sâu. Những vấn đề liên quan tới hiệu năng tính toán, khả năng mở rộng và mức hiệu quả của mô hình sẽ được giới thiệu ở các chương sau.

• 4.1. Perceptron đa tầng
  • 4.1.1. Các tầng ẩn
  • 4.1.2. Các hàm Kích hoạt
  • 4.1.3. Tóm tắt
  • 4.1.4. Bài tập
  • 4.1.5. Thảo luận
  • 4.1.6. Những người thực hiện
• 4.2. Lập trình Perceptron Đa tầng từ đầu
  • 4.2.1. Khởi tạo Tham số Mô hình
  • 4.2.2. Hàm Kích hoạt
  • 4.2.3. Mô hình
  • 4.2.4. Hàm mất mát
  • 4.2.5. Huấn luyện
  • 4.2.6. Tóm tắt
  • 4.2.7. Bài tập
  • 4.2.8. Thảo luận
  • 4.2.9. Những người thực hiện
• 4.3. Cách lập trình súc tích Perceptron Đa tầng
  • 4.3.1. Mô hình
  • 4.3.2. Bài tập
  • 4.3.3. Thảo luận
  • 4.3.4. Những người thực hiện
• 4.4. Lựa Chọn Mô Hình, Dưới Khớp và Quá Khớp
  • 4.4.1. Lỗi huấn luyện và Lỗi khái quát
  • 4.4.2. Lựa chọn Mô hình
  • 4.4.3. Dưới khớp hay Quá khớp?
  • 4.4.4. Hồi quy Đa thức
  • 4.4.5. Tóm tắt
  • 4.4.6. Bài tập
  • 4.4.7. Thảo luận
  • 4.4.8. Những người thực hiện
• 4.5. Suy giảm trọng số
  • 4.5.1. Điều chuẩn Chuẩn Bình phương
  • 4.5.2. Hồi quy Tuyến tính nhiều chiều
  • 4.5.3. Lập trình từ đầu
  • 4.5.4. Cách lập trình súc tích
  • 4.5.5. Tóm tắt
  • 4.5.6. Bài tập
  • 4.5.7. Thảo luận
  • 4.5.8. Những người thực hiện
• 4.6. Dropout
  • 4.6.1. Bàn lại về Quá khớp
  • 4.6.2. Khả năng Kháng Nhiễu
  • 4.6.3. Dropout trong Thực tiễn
  • 4.6.4. Lập trình từ đầu
  • 4.6.5. Cách lập trình súc tích
  • 4.6.6. Tóm tắt
  • 4.6.7. Bài tập
  • 4.6.8. Thảo luận
  • 4.6.9. Những người thực hiện
• 4.7. Lan truyền xuôi, Lan truyền ngược và Đồ thị tính toán
  • 4.7.1. Lan truyền Xuôi
  • 4.7.2. Đồ thị Tính toán của Lan truyền Xuôi
  • 4.7.3. Lan truyền Ngược
  • 4.7.4. Huấn luyện một Mô hình
  • 4.7.5. Tóm tắt
  • 4.7.6. Bài tập
  • 4.7.7. Thảo luận
  • 4.7.8. Những người thực hiện
• 4.8. Ổn định Số học và Khởi tạo
  • 4.8.1. Tiêu biến và Bùng nổ Gradient
  • 4.8.2. Khởi tạo Tham số
  • 4.8.3. Tóm tắt
  • 4.8.4. Bài tập
  • 4.8.5. Thảo luận
  • 4.8.6. Những người thực hiện
• 4.9. Cân nhắc tới Môi trường
  • 4.9.1. Dịch chuyển Phân phối
  • 4.9.2. Phân loại các Bài toán Học máy
  • 4.9.3. Công bằng, Trách nhiệm và Minh bạch trong Học máy
  • 4.9.4. Tóm tắt
  • 4.9.5. Bài tập
  • 4.9.6. Thảo luận
  • 4.9.7. Những người thực hiện
• 4.10. Dự đoán Giá Nhà trên Kaggle
  • 4.10.1. Tải và Lưu trữ Bộ dữ liệu
  • 4.10.2. Kaggle
  • 4.10.3. Truy cập và Đọc Bộ dữ liệu
  • 4.10.4. Tiền xử lý Dữ liệu
  • 4.10.5. Huấn luyện
  • 4.10.6. Kiểm định chéo gập k-lần
  • 4.10.7. Lựa chọn Mô hình
  • 4.10.8. Dự đoán và Nộp bài
  • 4.10.9. Tóm tắt
  • 4.10.10. Bài tập
  • 4.10.11. Thảo luận
  • 4.10.12. Những người thực hiện

4.11. Những người thực hiện

Bản dịch trong trang này được thực hiện bởi:

• Đoàn Võ Duy Thanh
• Phạm Minh Đức