230+ câu trắc nghiệm Mạng nơ-ron nhân tạo có đáp án - Phần 2

Dữ liệu hình ảnh

Dữ liệu dạng đồ thị

Dữ liệu văn bản

Dữ liệu âm thanh

Tính toán gradient cho toàn bộ mạng

Thu thập thông tin từ các đỉnh láng giềng để cập nhật biểu diễn đỉnh

Tạo đồ thị mới từ dữ liệu đầu vào

Giảm kích thước của đồ thị

Tích vô hướng

Tổng hoặc trung bình các đặc trưng láng giềng

Phép nhân ma trận

Phép chia tỷ lệ

Graph Convolutional Network (GCN)

Graph Attention Network (GAT)

GraphSAGE

Recurrent GNN

Tăng kích thước đặc trưng của đỉnh

Gán trọng số khác nhau cho các đỉnh láng giềng dựa trên mức độ quan trọng

Loại bỏ các cạnh không cần thiết

Tạo đồ thị phụ

Phân loại đỉnh trong mạng xã hội

Nhận diện khuôn mặt

Xử lý ngôn ngữ tự nhiên

Nhận diện giọng nói

Over-smoothing

Under-fitting

Gradient explosion

Data leakage

GNN xử lý dữ liệu phi cấu trúc, còn CNN xử lý dữ liệu lưới (grid-like)

GNN chỉ sử dụng fully connected layers

GNN không sử dụng hàm kích hoạt

GNN không thể xử lý dữ liệu lớn

Chỉ từ chính nó

Từ các đỉnh láng giềng và chính nó

Từ toàn bộ đồ thị

Từ các cạnh không liên quan

Dự đoán cấu trúc protein

Phân tích cảm xúc văn bản

Nhận diện biển số xe

Xử lý âm thanh

Một phương pháp học máy với lượng dữ liệu lớn

Một kỹ thuật học với số lượng mẫu huấn luyện rất ít

Một phương pháp tối ưu hóa gradient

Một kỹ thuật xử lý hình ảnh

Metric-based learning

Gradient descent truyền thống

K-means clustering

Principal Component Analysis

Trung bình đặc trưng của một lớp

Một mẫu ngẫu nhiên từ tập dữ liệu

Một hàm kích hoạt

Một tham số tối ưu hóa

Tối ưu hóa mô hình trên một tác vụ duy nhất

Học cách học nhanh trên nhiều tác vụ

Giảm kích thước dữ liệu đầu vào

Tăng tốc độ huấn luyện

So sánh cặp mẫu để tính độ tương đồng

Tạo ra nhiều lớp ẩn

Sử dụng kỹ thuật data augmentation

Tối ưu hóa hàm mất mát entropy

Tập dữ liệu kiểm tra

Tập dữ liệu huấn luyện với ít mẫu

Tập dữ liệu validation

Tập dữ liệu tổng hợp

Overfitting do dữ liệu hạn chế

Underfitting do dữ liệu lớn

Thiếu hàm kích hoạt phù hợp

Chi phí tính toán cao

Model-based

Metric-based

Optimization-based

Rule-based

Huấn luyện mô hình

Đánh giá hiệu suất mô hình trên các mẫu mới

Tạo dữ liệu tổng hợp

Giảm kích thước đặc trưng

Nhận diện chữ viết tay với ít mẫu

Phân tích dữ liệu thời gian thực lớn

Xử lý âm thanh dài

Tạo văn bản tự động

Region-based Convolutional Neural Network

Recurrent Convolutional Neural Network

Random Convolutional Neural Network

Reinforced Convolutional Neural Network

Phân loại đối tượng

Tạo vùng đề xuất (region proposals)

Tính toán gradient

Tăng cường dữ liệu

Đưa trực tiếp vào mô hình phân loại

Cắt và chuẩn hóa kích thước để đưa vào CNN

Loại bỏ hoàn toàn nếu không chứa đối tượng

Kết hợp với nhau thành một hình ảnh lớn

Chi phí tính toán cao do xử lý từng vùng đề xuất riêng lẻ

Không thể xử lý hình ảnh lớn

Không hỗ trợ phát hiện nhiều đối tượng

Yêu cầu dữ liệu văn bản

Sử dụng một CNN duy nhất cho toàn bộ hình ảnh

Loại bỏ hoàn toàn vùng đề xuất

Sử dụng RNN thay vì CNN

Tăng số lượng vùng đề xuất