Cómo: Realizar operaciones de asignación y reducción en paralelo

Artículo
02/19/2013

En este ejemplo se muestra cómo utilizar el concurrency::parallel_transform y concurrency::parallel_reduce los algoritmos y la concurrency::concurrent_unordered_map clase para contar las apariciones de palabras en los archivos.

A mapa de operación aplica una función a cada valor de una secuencia.A reducir operación combina los elementos de una secuencia en un valor.Puede utilizar la biblioteca de plantillas estándar (STL) std::transform std::accumulate clases para realizar el mapa y reducir las operaciones.Sin embargo, para mejorar el rendimiento de muchos problemas, puede utilizar el parallel_transform algoritmo para realizar la operación de asignación en paralelo y el parallel_reduce algoritmo para realizar la operación de reducción en paralelo.En algunos casos, puede utilizar concurrent_unordered_map para realizar la asignación y la reducción en una sola operación.

Ejemplo

En el ejemplo siguiente se cuentan las apariciones de palabras en los archivos.Utiliza std:: vector para representar el contenido de dos archivos.La operación de asignación calcula las apariciones de cada palabra de cada vector.La operación de reducción acumula los recuentos de palabras a través de dos vectores.

// parallel-map-reduce.cpp
// compile with: /EHsc
#include <ppl.h>
#include <algorithm>
#include <iostream>
#include <string>
#include <vector>
#include <numeric>
#include <unordered_map>
#include <windows.h>

using namespace concurrency;
using namespace std;

class MapFunc 
{ 
public:
    unordered_map<wstring, size_t> operator()(vector<wstring>& elements) const 
    { 
        unordered_map<wstring, size_t> m;
        for_each(begin(elements), end(elements), [&m](const wstring& elem)
        { 
            m[elem]++;
        });
        return m; 
    }
}; 

struct ReduceFunc : binary_function<unordered_map<wstring, size_t>, 
                    unordered_map<wstring, size_t>, unordered_map<wstring, size_t>>
{
    unordered_map<wstring, size_t> operator() (
        const unordered_map<wstring, size_t>& x, 
        const unordered_map<wstring, size_t>& y) const
    {
        unordered_map<wstring, size_t> ret(x);
        for_each(begin(y), end(y), [&ret](const pair<wstring, size_t>& pr) {
            auto key = pr.first;
            auto val = pr.second;
            ret[key] += val;
        });
        return ret; 
    }
}; 

int wmain()
{ 
    // File 1 
    vector<wstring> v1;
    v1.push_back(L"word1"); //1 
    v1.push_back(L"word1"); //2 
    v1.push_back(L"word2"); 
    v1.push_back(L"word3"); 
    v1.push_back(L"word4"); 

    // File 2 
    vector<wstring> v2; 
    v2.push_back(L"word5"); 
    v2.push_back(L"word6"); 
    v2.push_back(L"word7"); 
    v2.push_back(L"word8"); 
    v2.push_back(L"word1"); //3 

    vector<vector<wstring>> v;
    v.push_back(v1);
    v.push_back(v2);

    vector<unordered_map<wstring, size_t>> map(v.size()); 

    // The Map operation
    parallel_transform(begin(v), end(v), begin(map), MapFunc()); 

    // The Reduce operation 
    unordered_map<wstring, size_t> result = parallel_reduce(
        begin(map), end(map), unordered_map<wstring, size_t>(), ReduceFunc());

    wcout << L"\"word1\" occurs " << result.at(L"word1") << L" times. " << endl;
} 
/* Output:
   "word1" occurs 3 times.
*/

Compilar el código

Para compilar el código, copiarlo y, a continuación, péguelo en un proyecto de Visual Studio o lo pega en un archivo denominado paralelo-mapa-reduce.cpp y, a continuación, ejecute el siguiente comando en una ventana de símbolo del sistema de Visual Studio.

cl.exe /EHsc parallel-map-reduce.cpp

Programación eficaz

En este ejemplo, puede utilizar el concurrent_unordered_map clase — que se define en concurrent_unordered_map.h—to realizar la asignación y a reducir en una sola operación.

// File 1 
vector<wstring> v1;
v1.push_back(L"word1"); //1 
v1.push_back(L"word1"); //2 
v1.push_back(L"word2"); 
v1.push_back(L"word3"); 
v1.push_back(L"word4"); 

// File 2 
vector<wstring> v2; 
v2.push_back(L"word5"); 
v2.push_back(L"word6"); 
v2.push_back(L"word7"); 
v2.push_back(L"word8"); 
v2.push_back(L"word1"); //3 

vector<vector<wstring>> v;
v.push_back(v1);
v.push_back(v2);

concurrent_unordered_map<wstring, size_t> result;
for_each(begin(v), end(v), [&result](const vector<wstring>& words) {
    parallel_for_each(begin(words), end(words), [&result](const wstring& word) {
        InterlockedIncrement(&result[word]);
    });
});

wcout << L"\"word1\" occurs " << result.at(L"word1") << L" times. " << endl;

/* Output:
   "word1" occurs 3 times.
*/

Normalmente, se pone en paralelo sólo el exterior o el bucle interno.Poner en paralelo el bucle interior si hay relativamente pocos archivos y cada archivo contiene muchas palabras.Si tiene relativamente muchos archivos y cada archivo contiene algunas palabras, poner en paralelo el bucle externo.

Vea también

Referencia

parallel_transform (Función)

parallel_reduce (Función)

concurrent_unordered_map (Clase)

Conceptos

Algoritmos paralelos

Share via