Warum ist das Lesen aus einer Memory-Mapped-Datei so schnell?

Question

Ich habe nicht viel Erfahrung mit Memory-Mapped I/O, aber nach dem sie zum ersten Mal mit an Ich bin fassungslos, wie schnell sie sind. In meinen Leistungstests sehe ich, dass das Lesen von im Speicher abgelegten Dateien 30 Mal schneller ist als das Lesen von normalem C++ - Standard.

Meine Testdaten sind eine 3-GB-Binärdatei, sie enthält 20 große Gleitkomma-Arrays mit doppelter Genauigkeit. Die Art und Weise, wie mein Testprogramm strukturiert ist, rufe ich die Lesemethode eines externen Moduls auf, die speicherprogrammierte I/O hinter den Kulissen verwendet. Jedes Mal, wenn ich die read-Methode aufruft, gibt dieses externe Modul einen Zeiger und eine Größe der Daten zurück, auf die der Zeiger zeigt. Nach der Rückkehr von dieser Methode rufe ich memcpy auf, um den Inhalt des zurückgegebenen Puffers in ein anderes Array zu kopieren. Da ich ein Memcpy mache, um Daten aus der Memory-Mapped-Datei zu kopieren, erwartete ich, dass die Memory-Mapped-Reads nicht wesentlich schneller als normale Stdio sind, aber ich bin erstaunt, dass es 30x schneller ist.

Warum aus einer Memory-Mapped-Datei liest so schnell?

PS: Ich benutze eine Windows-Maschine. Ich habe meine E/A-Geschwindigkeiten gemessen, und die maximale Plattentransferrate meines Geräts liegt bei 90 MiB/s.

Answer 1

Die OS-Kernroutinen für IO, wie Lese- oder Schreibaufrufe, sind immer noch nur Funktionen. Diese Funktionen werden geschrieben, um Daten in den/aus dem Benutzerraumpuffer in eine Kernelraumstruktur und dann in ein Gerät zu kopieren. Wenn Sie bedenken, dass es einen Benutzerpuffer, einen IO-Bibliothekspuffer (zum Beispiel stdio buf), einen Kernel-Puffer und dann eine Datei gibt, können die Daten möglicherweise 3 Kopien durchlaufen, um zwischen Ihrem Programm und dem Datenträger zu gelangen. Die E/A-Routinen müssen auch robust sein, und schließlich verursachen die sys-Aufrufe selbst eine Latenz (Einfangen zum Kernel, Kontextwechsel, Aufwachen wieder aufholen).

Wenn Sie eine Datei im Speicher ablegen, werden Sie einen Großteil davon überspringen und Pufferkopien vermeiden. Wenn Sie die Datei effektiv wie ein großes virtuelles Array behandeln, aktivieren Sie den Direktzugriff, ohne den Syscall-Overhead zu durchlaufen. So verringern Sie die Latenz pro E/A. Wenn der ursprüngliche Code ineffizient ist (viele kleine zufällige E/A-Aufrufe), wird der Overhead sogar reduziert drastischer.

Die Abstraktion eines virtuellen Speichers, Multiprocessing OS hat einen Preis, und das ist es.

Sie können IO in einigen Fällen jedoch verbessern, indem Sie die Pufferung in Fällen deaktivieren, in denen die Performance beeinträchtigt wird, z. B. große zusammenhängende Schreibvorgänge. Darüber hinaus kann die Leistung von speicherprogrammierten IOs jedoch nicht verbessert werden das Betriebssystem insgesamt.