Wie behandeln cudaFree auf global instanziiert Variablen

Question

Ich habe eine Klasse, die ich eine globale Variable zu instanziiert verwenden:

class BitUnpackPtrs 
{ 
public: 
    ushort* d_dataIn; 

    BitUnpackPtrs() : d_dataIn(NULL) {}; 

    ~BitUnpackPtrs() 
    { 
     cudaFree(d_dataIn); 
    } 

    void update(...) { ... } 
}; 

Die Klasse instanziiert wird global als Griff häufige Vergabe von CUDA-Speicher zu reduzieren. Wenn jedoch mein Programm beendet, CUDA-memcheck erzeugt eine Warnung:

Programm cudaErrorCudartUnloading getroffen (Fehler 29) aufgrund "Treiber heruntergefahren" auf CUDA-API-Aufruf zu cudaFree.

Was ist der richtige Weg, damit umzugehen? Ich könnte das cudaFree entfernen, aber wenn diese Klasse zu einem späteren Zeitpunkt auf einer nicht-globalen Ebene verwendet wird, würde dies zu einem Speicherverlust führen. Ich könnte ein Flag im Konstruktor verwenden, um anzugeben, wie der Speicher behandelt werden soll.

Alternativ gibt es eine Möglichkeit zu erkennen, ob der Cuda-Treiber heruntergefahren ist und cudaFree in diesem Fall nicht aufrufen?

Answer 1

Anstatt dieses Objekt global zu machen, instanziieren Sie es in Ihrer main()-Funktion (oder irgendwo, die von main() aufgerufen wird und die gesamte Ausführung Ihrer Anwendung umschließt). Dadurch wird sichergestellt, dass Ihr Anruf cudaFree() vor dem CUDA-Abbau aufgerufen wird. Eine andere Alternative ist die Verwendung eines std::shared_ptr mit einem custom deleter, der cudaFree() aufruft. Wenn Sie das tun, wird der cudaFree() Aufruf auftreten, nachdem der letzte "Benutzer" seine Kopie des freigegebenen Zeigers zerstört - das ist bevor main() getan wird und bevor CUDA abreißt.