Kann jemand Licht auf die Anzahl der Verbindungen und welche Art von Verbindungen von Produzent und Verbraucher zu einem Kafka-Cluster hergestellt werden, während produziert und konsumieren in Java-Client. Die Anzahl der Verbindungen basiert auf dem Thema oder den Partitionen oder Brokern im Cluster?Wie viele Verbindungen werden von Produzenten und Konsumenten zu einem Kafka-Cluster hergestellt?
Antwort
Jeder Verbraucher/Hersteller muss mit dem Broker verbunden sein, der die Nummer der Partition ist, die der Verbraucher/Hersteller lesen/schreiben möchte. Dies bedeutet, dass ein Client nicht mit allen Brokern innerhalb eines Clusters verbunden sein muss, sondern nur mit den Brokern, die zum Lesen/Senden von Nachrichten benötigt werden. Während der Erstkonfiguration stellen wir eine Liste der Broker zur Verfügung, mit denen eine Verbindung hergestellt werden kann (möglicherweise sogar nur eine). Unter Verwendung solcher Broker erhält der Client Metadateninformationen über das Thema/die Partitionen, die er verwenden möchte und wo sie platziert sind (andere Broker im Cluster). Solche Verbindungen müssen vorhanden sein, damit der Client an dem gewünschten Thema/den gewünschten Partitionen arbeiten kann.
- 1. Wie plant Kafka die Produzenten und Konsumenten?
- 2. Was ist das beste Idiom für Produzenten/Konsumenten in Go?
- 3. Zu viele TIME_WAIT-Verbindungen
- 4. Wie viele Produzenten in Kafka erstellen?
- 5. JDBC zu viele Verbindungen Fehler
- 6. HikariCP zu viele Verbindungen
- 7. Debug MySQL "zu viele Verbindungen"
- 8. PHPUnit-Tests und Doctrine, zu viele Verbindungen
- 9. Rails MySQL zu viele Verbindungen
- 10. Welche Datenbank (en) wird verwendet, wenn Millionen von Datensätzen gesucht und Verbindungen hergestellt werden?
- 11. ER_CON_COUNT_ERROR: Zu viele Verbindungen Knex und Bücherregal
- 12. Hibernate JPA zu viele Verbindungen
- 13. ngrok ERR_NGROK_702 Zu viele Verbindungen
- 14. Existierende Verbindung wird geschlossen, wenn neue TCP-Verbindungen hergestellt werden
- 15. Codeigniter Mysql: Zu viele Verbindungen
- 16. Wie man Produzenten in kafka auflistet
- 17. Wie gruppiere ich Konsumenten in RabbitMQ?
- 18. AWS Lambda RDS zu viele Verbindungen
- 19. Haben Sie zu viele gleichzeitige AJAX-Verbindungen?
- 20. Wie viele Partitionen sollte ich für Kafka-Konsumenten erstellen?
- 21. Golang, mysql: Fehler 1040: Zu viele Verbindungen
- 22. Reduzieren von Verbindungen zu einem Scheitelpunkt
- 23. File.Move System.IO.IOException: "Es können keine weiteren Verbindungen zu diesem Remotecomputer hergestellt werden ..."
- 24. golang postgres zu viele Verbindungen Fehler
- 25. Flask, SQLAlchemy und Multithreading: MySQL zu viele Verbindungen
- 26. zu viele Verbindungen mit eloquenten orm und mysql
- 27. Heroku und Postgresql und Rails - zu viele Verbindungen Fehler
- 28. Viele Verbindungen in TIME_WAIT
- 29. Viele TcpListener eingehende Verbindungen
- 30. Warum SocketIO zu viele Verbindungen aufrufen?
Wenn eine Verbindung für die Erstkonfiguration Producer/Consumer zu einem der Broker in Broker-Liste hergestellt wird, bleibt diese Verbindung bestehen, bis wir Producer/Consumer schließen? Wenn eine Nachricht für den Leiter einer Partition gelesen/geschrieben wird, wird die Verbindung sofort geschlossen, sobald sie vom Client gelesen/geschrieben wurde, oder bleibt sie bestehen, bis der Erzeuger/Verbraucher geschlossen wird? Werden Verbraucher/Hersteller mehrere Verbindungen für einen Broker herstellen, der für mehrere Partitionen führend ist? –
die allgemeine Antwort ist nein. Aus Verbrauchersicht ist es richtig, denn selbst wenn der Verbraucher keine Verbindung mit dem Broker herstellt, wo das Thema verbleibt, wird dieser Broker Partitionen des Themas __consumer_offsets (Standard 50 Partitionen) enthalten, die von Konsumenten zum Vergeben von Offset verwendet werden. Wenn der Producer sich mit dem "falschen" Broker verbindet, weil das Thema auf einem anderen steht, könnte die Verbindung geschlossen werden, ist es aber nicht. – ppatierno
können Sie deutlicher auf die Verbindung von Hersteller/Verbraucher für die Erstkonfiguration erklären. –