Elasticsearch Replikaterstellung Verbesserung der Leistung

Question

Ich habe eine Elasticsearch Setup, das eine Maschine (16core 64GB RAM 4x800GB SSD, mit 1,5 TB von Log-Daten in 450 Indizes bis jetzt hatte, 5.1 ES ausgeführt wird.

Jetzt habe ich einen zweiten hinzugefügt, identische Server Cluster. Beide sind über ein 10 GBit-Netzwerk verbunden.

Alle Indizes 1 Scherbe haben, und ich habe sie so konfiguriert 1 Replik haben, nachdem der zweite Server online ging.

nun Repliken erstellt werden , aber nur langsam.Last auf beiden Maschinen ist unter 1 und IO-Raten sind etwa 2MB/s oder weniger.

Ich verwende die folgenden Einstellungen:

{ 
    "persistent": { 
    "cluster": { 
     "routing": { 
     "allocation": { 
      "node_concurrent_incoming_recoveries": "20", 
      "node_initial_primaries_recoveries": "8", 
      "node_concurrent_outgoing_recoveries": "20" 
     } 
     } 
    }, 
    "indices": { 
     "recovery": { 
     "max_bytes_per_sec": "400mb" 
     }, 
     "store": { 
     "throttle": { 
      "type": "none" 
     } 
     } 
    } 
    }, 
    "transient": { 
    "logger": { 
     "org": { 
     "elasticsearch": { 
      "indices": "DEBUG" 
     } 
     } 
    } 
    } 
} 

indices.store.throttle.type nicht mehr in ES zu existieren scheinen 5.

Bei der derzeitigen Geschwindigkeit, alle Daten übertragen werden Nehmen Sie mehrere Wochen.

Answer 1

Ich habe gerade das Problem hier - die Knoten angekündigt, die IP-Adressen der falschen Netzwerkkarten und alle Daten wurden über eine langsame Verbindung geleitet.

Ich hätte früher an iftop gedacht.

Nach dem Ändern der angekündigten IPs funktionierte die Replikation mit> 800MB/s.

Answer 2

Wenn ich die Neuzuweisung von Shards nach dem Neustart des Servers beschleunigen muss, setze ich vorübergehend Einstellungen auf die folgenden, und die Zuweisung wird viel schneller, könnte es helfen.

curl -XPUT 'eshostname:9200/_cluster/settings' -d '{ 
       "transient": { 
         "cluster.routing.allocation.allow_rebalance" : "indices_all_active", 
         "cluster.routing.allocation.node_concurrent_recoveries": 160, 
         "cluster.routing.allocation.node_initial_primaries_recoveries" : 100, 
         "cluster.routing.allocation.enable": "all", 
         "indices.recovery.max_bytes_per_sec": "400mb", 
         "indices.recovery.concurrent_streams" : 30, 
         "indices.recovery.concurrent_small_file_streams" : 30 
       } 
     }'