Số liệu song hành là một loại song hành tính toán sách lược, trong đó nhiều cái vi xử lý ( Tiết điểm ) đồng thời xử lý khác biệt số liệu, nhưng thi hành giống nhau thao tác.

Số liệu song hành chủ yếu dùng xử lý đại quy mô tập dữ liệu, như hình ảnh, tín hiệu, văn bản chờ. Số liệu song hành có thể rõ rệt đề cao tính toán tính năng, nhất là tại phân bố thức tính toán trong hoàn cảnh.

Số liệu song hành mấu chốt tư tưởng là đem cỡ lớn tập dữ liệu chia cắt thành nhiều cái Tử Tập, mỗi cái vi xử lý ( Tiết điểm ) phụ trách xử lý một cái Tử Tập.

Số liệu song hành có thể tại trong nhiều loại song hành tính toán mô hình thực hiện, nhưcùng GPGPU( Thông dụng GPU tính toán ). Phía dưới là thực hiện số liệu song hành một chút đề nghị:
1.
Số liệu phân chia:

Đem cỡ lớn tập dữ liệu chia cắt thành nhiều cái Tử Tập, để tại nhiều cái vi xử lý ( Tiết điểm ) ở giữa thực hiện phụ tải cân đối.

Số liệu phân chia có thể căn cứ vào số liệu kết cấu ( Đủ số căn cứ khối, số liệu điều mục chờ ) tiến hành, cũng có thể căn cứ vào số liệu đặc thù ( Đủ số căn cứ tương tự tính chất, số liệu liên quan tính chất các loại ) tiến hành.
2.
Thông tin cùng đồng bộ:

Số liệu song hành cần tại vi xử lý ( Tiết điểm ) ở giữa tiến hành thông tin cùng đồng bộ, để trao đổi ở giữa kết quả cùng sát nhập kết quả cuối cùng.

Thông tin cùng đồng bộ sách lược cần cân nhắc thông tin chi phí, tính toán hiệu suất cùng chương trình có thể mở rộng tính chất các loại nhân tố. Thường gặp thông tin cùng đồng bộ sách lược bao quát điểm đối điểm thông tin, tụ tập thông tin cùng phân trị sách lược các loại.
3.

Lập trình mô hình cùng kho ủng hộ:
Số liệu song hành có thể sử dụng nhiều loại lập trình mô hình cùng kho thực hiện, nhưđẳng.
Lựa chọn thích hợp lập trình mô hình cùng kho có thể giúp đơn giản hoá lập trình việc làm, đề cao khai phát hiệu suất.
4.

Số liệu cục bộ tính chất cùng nhiệm vụ song hành tính chất:
Số liệu song hành cần đầy đủ lợi dụng số liệu cục bộ tính chất cùng nhiệm vụ song hành tính chất, lấy đề cao tính toán hiệu suất.

Số liệu cục bộ tính chất có thể thông qua sử dụng cục bộ tồn trữ khí, cache cùng dự lấy sách lược tới thực hiện, mà nhiệm vụ song hành tính chất có thể thông qua đem cỡ lớn tập dữ liệu chia cắt thành nhỏ hơn độc lập nhiệm vụ tới thực hiện.
5.
Dung sai cùng có thể mở rộng tính chất:

Số liệu song hành cần cân nhắc dung sai cùng có thể mở rộng tính chất, lấy ứng đối tính toán qua trình bên trong xuất hiện trục trặc cùng tính năng bình cảnh.

Dung sai sách lược có thể bao quát sai lầm kiểm trắc, sai lầm uốn nắn cùng sai lầm khôi phục các loại, mà có thể mở rộng tính chất sách lược có thể bao quát động thái phụ tải cân đối, số liệu một lần nữa phân phối cùng tính toán tài nguyên điều chỉnh các loại.

Số liệu song hành một cái điển hình ví dụ là hình ảnh xử lý bên trong cuốn tích mạng lưới thần kinh (CNN). Tại CNN bên trong, đại lượng hình ảnh số liệu cần đi qua cuốn tích, Trì Hóa mấy người thao tác tiến hành đặc thù rút ra cùng phân loại.

Bởi vì hình ảnh số liệu bình thường có rất cao chiều không gian, bởi vậy có thể áp dụng số liệu song hành sách lược tới gia tốc CNN huấn luyện cùng quá trình suy luận.
Phía dưới là sử dụng số liệu song hành sách lược tiến hành CNN xử lý đơn giản thí dụ mẫu:

Giả thiết chúng ta có một cái to lớn hình ảnh tập dữ liệu, cần đem những số liệu này tụ tập chia cắt thành nhiều cái Tử Tập, để tại nhiều cái vi xử lý ( Tiết điểm ) ở giữa thực hiện phụ tải cân đối.

Mỗi cái Tử Tập bao hàm số lượng nhất định hình ảnh số liệu, mỗi cái vi xử lý ( Tiết điểm ) phụ trách xử lý một cái Tử Tập.
Tại trong xử lý qua trình, mỗi cái vi xử lý ( Tiết điểm ) đem thi hành giống nhau CNN thao tác, bao quát cuốn tích, kích hoạt hàm số, Trì Hóa mấy người.

Tại tính toán quá trình bên trong, vi xử lý ( Tiết điểm ) ở giữa cần phải giao đổi ở giữa kết quả cùng sát nhập kết quả cuối cùng.

Tỷ như, tại trong cuốn tích tầng, mỗi cái vi xử lý ( Tiết điểm ) cần cùng lân cận vi xử lý ( Tiết điểm ) trao đổi cục bộ đặc thù đồ, lấy hoàn thành cuốn tích thao tác.

Tại trong Trì Hóa tầng, mỗi cái vi xử lý ( Tiết điểm ) cần cùng lân cận vi xử lý ( Tiết điểm ) sát nhập cục bộ Trì Hóa kết quả, lấy nhận được cuối cùng Trì Hóa kết quả.
Lúc thực hiện số liệu song hành, có thể sử dụng nhiều loại song hành tính toán kho cùng hệ thống, nhưđẳng.

Những thứ này kho cùng hệ thống cung cấp phong phú API cùng công cụ, để tại nhiều hạchđẳng tính toán trên thiết bị thực hiện số liệu song hành.

Ngoài ra, những thứ này kho cùng hệ thống còn ủng hộ dung sai cùng có thể mở rộng tính chất sách lược, lấy ứng đối tính toán qua trình bên trong trục trặc cùng tính năng bình cảnh.

Số liệu song hành tại rất nhiều song hành tính toán nhiệm vụ bên trong có rộng rãi ứng dụng, như hình ảnh xử lý, giọng nói phân biệt, tự nhiên ngôn ngữ xử lý các loại.