Ich versuche, die kafka-connect-elasticsearch Plugin von Confluent zu laufen, um Themen von Kafka zu streamen (V0.11.0.1) direkt in Elasticsearch (ohne Logstash zu setzen dazwischen).Kafka Connect Elasticsearch - NoSuchMethodError
ich den Stecker mit Maven bauen -
$ cd kafka-connect-elasticsearch
$ mvn clean package
ich dann die Konfigurationsdatei benötigen erstellt -
name=es-cluster-lab
connector.class=io.confluent.connect.elasticsearch.ElasticsearchSinkConnector
tasks.max=1
topics=filebeats-test
topic.index.map=filebeats-test:kafka_test_index
key.ignore=true
schema-ignore=true
connection.url=http://elastic:9200
type.name=log
Gemäß der neuen Kafka Classpath Isolation spec, habe ich auch noch die folgende Zeile in meinem connect-standalone.properties Datei -
plugin.path=/home/kafka/kafka-connect-elasticsearch-3.3.0/target/kafka-connect-elasticsearch-3.3.0-development/share/java/kafka-connect-elasticsearch/
ich gehe um das Skript auszuführen ...
bin/connect-standalone.sh config/connect-standalone.properties config/elasticsearch-connect.properties
... und den folgenden Fehler erhalten.
[2017-09-14 16:08:26,599] INFO Loading plugin from: /home/kafka/kafka-connect-elasticsearch-3.3.0/target/kafka-connect-elasticsearch-3.3.0-development/share/java/kafka-connect-elasticsearch/slf4j-api-1.7.25.jar (org.apache.kafka.connect.runtime.isolation.DelegatingClassLoader:176)
Exception in thread "main" java.lang.NoSuchMethodError: com.google.common.collect.Sets$SetView.iterator()Lcom/google/common/collect/UnmodifiableIterator;
at org.reflections.Reflections.expandSuperTypes(Reflections.java:380)
at org.reflections.Reflections.<init>(Reflections.java:126)
at org.apache.kafka.connect.runtime.isolation.DelegatingClassLoader.scanPluginPath(DelegatingClassLoader.java:221)
at org.apache.kafka.connect.runtime.isolation.DelegatingClassLoader.scanUrlsAndAddPlugins(DelegatingClassLoader.java:198)
at org.apache.kafka.connect.runtime.isolation.DelegatingClassLoader.registerPlugin(DelegatingClassLoader.java:190)
at org.apache.kafka.connect.runtime.isolation.DelegatingClassLoader.initLoaders(DelegatingClassLoader.java:150)
at org.apache.kafka.connect.runtime.isolation.Plugins.<init>(Plugins.java:47)
at org.apache.kafka.connect.cli.ConnectStandalone.main(ConnectStandalone.java:68)
Ich habe auch versuchte die JAR-Dateien in den /app/kafka/libs directory (Standard CLASSPATH) und sogar versucht, zu bewegen, um ein Unterverzeichnis /app/kafka/libs/connect_libs und füge hinzu, dass manuell mein CLASSPATH-Umgebungsvariable zu erstellen.
Nicht sicher, was mein nächster Schritt neben Logstash zwischen Kafka und Elastic ist.