AWS ElasticGPU Mit Linux

Question

AWS hat einen neuen Dienst namens ElasticGPU, mit dem Sie angeblich GPUs direkt an Ihren EC2-Computer anschließen können. Aus ihrer Beschreibung klingt, dass es nur Windows Server EC2-Instanzen unterstützt. Ich benutze hauptsächlich Linux AMIs, das ist nicht gut für mich. Ich habe mich gefragt, ob ich das schaffen könnte, indem ich eine separate Windows Server EC2-Instanz (mit minimalen CPU-Ressourcen aus Kostengründen) erstelle und dann GPUs daran anschließe, auf die ich (irgendwie?) Über das Netzwerk von meinem Linux EC2 aus zugreifen könnte . Ist dies der einfachste Weg, dies zu erreichen? Für den Kontext bezieht sich dies auf Trainingsmaschinenlernmodelle, die etwas wie Tensorflow und Python verwenden.

Answer 1

Ihre Idee, Windows zu verwenden, um die Leistung von ElasticGPU zu liefern, und Linux, das die Client-Serving-Anfragen sind, ist ein vernünftiges Design. Eine einfache REST- oder Ajax-API-Schnittstelle wäre einfach zu entwickeln und zu implementieren.

Hinweis: Ich bin mir nicht sicher, was Sie mit "mit bloßen Knochenwerten" meinen. Wenn Sie eine benutzerdefinierte Windows-Installation erstellen möchten, können Sie dies tun, aber es gibt viele Probleme beim Erstellen benutzerdefinierter AMIs, Microsoft-Lizenzen usw. Viel einfacher ist es, nur ein von Amazon unterstütztes Windows-AMI zu verwenden.

[Bearbeiten nach Frage Update]

Es gibt vier EC2 Instance-Typen, die Elastic GPUs speziell und Kosteneinsparungen sind so konzipiert, zu unterstützen. Zum Beispiel: Sie können einer t2.medium-Instanz eine Elastic-GPU zuweisen, aber Ihre Kosten pro Stunde wären doppelt so hoch wie bei eg1.medium.

Es gibt viele Optionen, wählen Sie eine basierend auf Ihren Anforderungen. Eine der coolen Funktionen von AWS ist, dass Sie eine Instanz starten und später viele der Konfigurationsdetails ändern können.

Elastic GPUs