2017-03-06 7 views
0


Ich bin neu auf dem ELK-Stack und ich habe LogStash, um Daten von MySQL zu ElasticSearch zu senden, und auf dem Terminal sieht es so aus, als ob es alle 40.000 Datensätze gesendet hat aber wenn ich in Kibana nachschaue, sehe ich, dass nur 200 Datensätze eingegeben wurden.
Hier ist meine LogStash-Konfigurationsdatei, die ich verwendet habe.Nicht alle Daten von logstash werden von elasticsearch indexiert

# file: simple-out.conf 
input { 
    jdbc { 
     # Postgres jdbc connection string to our database, mydb 
     jdbc_connection_string => "jdbc:mysql://localhost:3306/tweets_articles" 
     # The user we wish to execute our statement as 
     jdbc_user => "root" 
     # The path to our downloaded jdbc driver 
     jdbc_driver_library => "/etc/elasticsearch/elasticsearch-jdbc-2.3.3.1/lib/mysql-connector-java-5.1.38.jar" 
     # The name of the driver class for Postgresql 
     jdbc_driver_class => "com.mysql.jdbc.Driver" 
     jdbc_user => "**" 
     jdbc_password => "***" 
     # our query 
     statement => "SELECT * from tweets" 
    } 
} 
output { 
     elasticsearch { hosts => ["localhost:9200"] } 
     stdout { codec => rubydebug } 
} 

Wäre dies ein Problem mit den Daten? in MySQL, wenn ich die Zeit eines Datensatzes drucke, ist es in diesem Format.

+---------------------+ 
| PUBLISHED_AT  | 
+---------------------+ 
| 2017-03-06 03:43:51 | 
| 2017-03-06 03:43:45 | 
| 2017-03-06 03:43:42 | 
| 2017-03-06 03:43:30 | 
| 2017-03-06 03:43:00 | 
+---------------------+ 
5 rows in set (0.00 sec) 

Aber wenn ich die Ausgabe von der Konfig in Terminal sehe, sieht es so aus.

   "id" => 41298, 
     "author" => "b'Terk'", 
    "retweet_count" => "0", 
"favorite_count" => "0", 
"followers_count" => "49", 
    "friends_count" => "23", 
      "body" => "create an ad", 
    "published_at" => "2017-03-06T07:30:47.000Z", 
     "@version" => "1", 
    "@timestamp" => "2017-03-06T06:44:04.756Z" 

Kann jemand anderes sehen, warum ich nicht alle 40.000 Datensätze bekommen kann?
Danke.

+0

Haben Sie Ihr kibana so konfiguriert, dass es immer nach allen Protokolleinträgen sucht? – pandaadb

+0

Ich habe einen ELK-Stack-Tröpfchen von Digital Ocean nicht allzu sicher, wie es konfiguriert ist. Wie würde ich das tun? – Definity

+1

In der rechten oberen Ecke (glaube ich) können Sie die Zeitbereiche definieren, die Sie suchen – pandaadb

Antwort

Verwandte Themen