php - logstash寫入資料到elasticsearch 出現資料遺失怎麼解決
欧阳克
欧阳克 2017-07-01 09:11:55
0
1
1086

我日誌裡有600多條資料 但是寫到elasticsearch裡只有300多條
這是什麼原因造成的 有大神知道嘛?
這個是我的設定
input {

file {
    path => ["/usr/local/20170730.log"]
    type => "log_test_events"
    tags => ["log_tes_events"]
    start_position => "beginning"
    sincedb_path => "/data/logstash/sincedb/test.sincedb"
    codec => "json"
    close_older => "86400"
    #1 day
    ignore_older => "86400"
}
beats{port => 5044}

}
filter {

urldecode {
    all_fields => true
}

}

output{

   elasticsearch {
      hosts  => "localhost:9200"
      index  => "logstash_%{event_date}"
}

stdout { codec => json }
}

#
欧阳克
欧阳克

温故而知新,可以为师矣。 博客:www.ouyangke.com

全部回覆(1)
过去多啦不再A梦

因為讀取日誌的時候es的模版根據資料的格式自動建立資料型別 例如欄位a的值為int和字串 他所建立的索引第一個讀取到是數字就是int型別 索引

修改配置 做映射
output {

      elasticsearch {
        hosts  => "localhost:9200"
        index  => "test1"
        manage_template => true
        template_overwrite => true
        template => "/usr/local/logstash/templates/stat_day.json"
     }
     

stat_day.json模版格式

     {

"order" : 1,
"template" : "test1",
"mappings" : {

 "log_test": {
      "properties" : {
            "event_id": { "type": "string"}
       }
  }

}
}

熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板