Reduzieren der Anforderungswarteschlange von Flask/Gunicorn

Question

Ich habe einen Flask/Gunicorn-Endpunkt, der einige Sekunden dauert, um zurückzukehren und ziemlich hart getroffen wird. Gunicorn scheint eine Menge Anfragen in die Warteschlange zu stellen und schließlich alle zu bearbeiten, aber die Anfragen, die am Ende der Warteschlange hinzugefügt werden, benötigen sehr lange Zeit.

Die App läuft als gunicorn -w 4 -b :8080.

Gibt es eine Möglichkeit, Flask/Gunicorn so zu konfigurieren, dass nur X-Anfragen in der Warteschlange bleiben?

Answer 1

Wahrscheinlich hast du es schon herausgefunden, aber seit ich darauf gestoßen bin, kann ich es genauso gut beantworten.

Die „Anforderungswarteschlange“ Sie erwähnen, ist „Rückstand“ bezeichnet und basiert auf der docs Sie es, indem man in der --backlog Argument zu Ihrem Befehl ändern kann, so dass es aussehen würde:

gunicorn -w 4 --backlog 1024 -b :8080 

Halten Beachten Sie jedoch, dass Ihre Kunden Fehler sehen, wenn die Anzahl der Anfragen die Anzahl überschreitet, die Sie dort eingegeben haben.