大數(shù)據(jù)搜索與挖掘及可視化管理方案（第4版）

目錄

第1章概述1
1.1Elasticsearch概述3
1.1.1Elasticsearch的安裝與簡單配置4
1.1.2Elasticsearch API的使用方式7
1.2Logstash7
1.3Kibana8
1.4Beats8
1.5XPack9
1.6其他9
1.7擴展知識與閱讀9
1.8本章小結10
第2章文檔索引及管理11
2.1文檔索引概述11
2.2head： Elasticsearch用于數(shù)據(jù)管理的工具之一13
2.3建立索引15
2.4通過映像配置索引20
2.4.1在索引中使用映像20
2.4.2管理/配置映像21
2.4.3獲取映像信息22
2.4.4刪除映像23
2.5管理索引文件24
2.5.1打開、關閉、檢測、刪除索引文件24
2.5.2清空索引緩存25
2.5.3刷新索引文件25
2.5.4優(yōu)化索引文件26[1][2][1][3]2.5.5flush操作26
2.6設置中文分析器26
2.7對文檔的其他操作29
2.7.1獲取指定文檔的信息29
2.7.2刪除指定文檔的信息31
2.7.3更新指定文檔的信息31
2.7.4基于POST方式批量獲取文檔信息34
2.8實例36
2.9擴展知識與閱讀40
2.10本章小結41
第3章信息檢索與聚合42
3.1實驗數(shù)據(jù)集描述43
3.2基本檢索44
3.2.1檢索方式44
3.2.2query查詢45
3.2.3from/size查詢46
3.2.4檢索結果排序46
3.2.5高亮搜索詞49
3.2.6查詢模板50
3.3檢索進階51
3.3.1全文檢索51
3.3.2詞項檢索55
3.3.3復合查詢58
3.3.4跨度查詢61
3.3.5特殊查詢64
3.3.6腳本65
3.4聚合68
3.4.1metric聚合69
3.4.2bucket聚合74
3.4.3pipeline聚合83
3.4.4matrix聚合87
3.5實例88
3.6擴展知識與閱讀94
3.7本章小結95
第4章Elasticsearch API及其應用96
4.1Elasticsearch節(jié)點實例化96
4.1.1在Java中初始化Elasticsearch96
4.1.2在Python中初始化Elasticsearch100
4.2索引數(shù)據(jù)101
4.2.1準備JSON數(shù)據(jù)101
4.2.2為JSON數(shù)據(jù)生成索引103
4.3對索引文件的操作106
4.3.1獲取索引中的文檔數(shù)據(jù)106
4.3.2刪除索引文件中的文檔數(shù)據(jù)108
4.3.3更新索引文件中的文檔數(shù)據(jù)109
4.3.4對索引文件中的文檔進行批量操作110
4.4信息檢索112
4.4.1概述113
4.4.2multiSearch114
4.4.3查詢模板115
4.4.4Query DSL概述117
4.4.5matchAllQuery117
4.4.6全文檢索118
4.4.7詞項檢索121
4.4.8復合查詢125
4.4.9跨度查詢127
4.4.10特殊查詢130
4.5聚合132
4.5.1Metric聚合132
4.5.2bucket聚合136
4.6對檢索結果的進一步處理140
4.6.1控制每頁的顯示數(shù)量及排序依據(jù)140
4.6.2基于scroll分頁顯示檢索結果140
4.7Java High Level RESTful Client和Elasticsearch DSL142
4.7.1Java High Level RESTful Client142
4.7.2Elasticsearch DSL146
4.8實例148
4.8.1在Elasticsearch中建立索引148
4.8.2連接Elasticsearch149
4.8.3信息采集與索引構建150
4.8.4搜索模塊152
4.8.5推薦模塊153
4.8.6聚合模塊154
4.9擴展知識與閱讀155
4.10本章小結156
第5章Elasticsearch配置與集群管理157
5.1Elasticsearch的部分基本配置157
5.2索引文件和查詢優(yōu)化160
5.3監(jiān)控集群狀態(tài)161
5.4控制索引文件分片與副本分配163
5.5集群管理165
5.6擴展知識與閱讀166
5.7本章小結167
第6章基于Logstash的日志處理168
6.1概述169
6.2input： 處理輸入的日志數(shù)據(jù)171
6.2.1處理基于file方式輸入的日志信息172
6.2.2處理基于generator產(chǎn)生的日志信息173
6.2.3基于Filebeat處理log4j的日志信息174
6.2.4處理基于redis的日志信息176
6.2.5處理基于TCP傳輸?shù)娜罩緮?shù)據(jù)179
6.2.6處理基于UDP傳輸?shù)娜罩緮?shù)據(jù)183
6.3codec： 格式化日志數(shù)據(jù)185
6.3.1json格式185
6.3.2rubydebug格式187
6.3.3plain格式187
6.4基于filter的日志處理與轉換188
6.4.1json filter189
6.4.2grok filter190
6.4.3kv filter192
6.5output： 輸出日志數(shù)據(jù)195
6.5.1將處理后的日志輸出到Elasticsearch中195
6.5.2將處理后的日志輸出到文件中197
6.5.3將處理后的日志輸出到csv文件中198
6.5.4將處理后的日志輸出到redis中199
6.5.5將處理后的日志通過UDP輸出201
6.5.6將處理后的日志通過TCP輸出202
6.5.7將日志信息發(fā)送至Email206
6.6擴展知識與閱讀208
6.7本章小結209
第7章基于Kibana的數(shù)據(jù)分析及可視化210
7.1Kibana概述211
7.2安裝Kibana211
7.3使用Management組件管理配置212
7.3.1創(chuàng)建索引模式213
7.3.2高級設置214
7.3.3管理已保存的檢索、可視化和儀表板218
7.4使用Discover組件執(zhí)行查詢219
7.4.1設置時間選擇器219
7.4.2在索引模式中執(zhí)行搜索220
7.4.3字段過濾221
7.4.4查看文檔數(shù)據(jù)222
7.5使用Visualize組件創(chuàng)建統(tǒng)計圖表224
7.6使用Dashboard組件創(chuàng)建動態(tài)儀表板226
7.6.1創(chuàng)建新的動態(tài)儀表板227
7.6.2打開已保存的動態(tài)儀表板228
7.6.3分享動態(tài)儀表板228
7.7使用Timelion組件創(chuàng)建時間線229
7.8使用Dev Tools執(zhí)行命令行231
7.8.1在Console中執(zhí)行命令231
7.8.2Console快捷鍵233
7.8.3Console設置234
7.9網(wǎng)站性能監(jiān)控可視化應用實例234
7.9.1概述234
7.9.2使用Visualize實現(xiàn)可視化234
7.9.3使用Dashboard整合可視化結果238
7.10擴展知識與閱讀239
7.11本章小結240
第8章基于XPack的系統(tǒng)運行監(jiān)控241
8.1XPack概述241
8.2安裝XPack242
8.3Security插件與安全性243
8.3.1身份驗證機制與用戶管理243
8.3.2匿名訪問246
8.3.3基于域的用戶認證247
8.3.4基于角色的訪問權限配置248
8.3.5IP地址過濾251
8.3.6帶有身份認證的TransportClient253
8.3.7帶有身份認證的RESTful命令256
8.4使用Monitoring監(jiān)控系統(tǒng)運行狀態(tài)256
8.4.1系統(tǒng)運行狀態(tài)監(jiān)控256
8.4.2配置Monitoring260
8.4.3搭建獨立的Monitoring集群262
8.5Alerting插件與異常事件警報263
8.5.1通過RESTful方式設置監(jiān)視器264
8.5.2通過Java程序設置監(jiān)視器267
8.5.3使用Watcher UI管理監(jiān)視器269
8.6Reporting與報告生成270
8.6.1在程序中生成報告270
8.6.2通過監(jiān)視器自動生成報告271
8.7使用Graph探索數(shù)據(jù)關聯(lián)273
8.8使用Machine Learning發(fā)現(xiàn)數(shù)據(jù)趨勢異常275
8.9使用Search Profiler分析搜索查詢277
8.10使用Grok Debugger調(diào)試grok表達式279
8.11擴展知識與閱讀280
8.12本章小結280
第9章基于Beats的數(shù)據(jù)解析傳輸281
9.1基于packetbeat的網(wǎng)絡數(shù)據(jù)包傳輸282
9.1.1概述282
9.1.2安裝282
9.1.3配置283
9.1.4加載索引模板285
9.1.5啟動和關閉286
9.1.6使用Kibana進行可視化展示287
9.2基于Filebeat的日志傳輸288
9.2.1概述288
9.2.2安裝和配置288
9.2.3啟動和關閉291
9.2.4使用Kibana進行展示291
9.3基于metricbeat的系統(tǒng)指標數(shù)據(jù)傳輸292
9.3.1概述292
9.3.2安裝和配置293
9.3.3啟動和關閉294
9.3.4使用Kibana進行展示295
9.4基于winlogbeat的Windows事件日志數(shù)據(jù)傳輸296
9.4.1概述296
9.4.2安裝297
9.4.3配置298
9.4.4啟動和關閉301
9.4.5使用Kibana進行展示302
9.5基于auditbeat的用戶和進程活動審計304
9.5.1概述304
9.5.2安裝和配置304
9.5.3啟動和關閉305
9.5.4使用Kibana進行展示306
9.6基于heartbeat的服務狀態(tài)檢測308
9.6.1概述308
9.6.2安裝和配置308
9.6.3啟動和關閉311
9.6.4使用Kibana進行展示311
9.7擴展知識與閱讀313
9.8本章小結313
第10章信息檢索與分析實例（一）314
10.1基于Elasticsearch的行業(yè)信息存儲314
10.1.1環(huán)境準備314
10.1.2數(shù)據(jù)準備315
10.2基于Spring Boot的信息檢索及Web端設計317
10.2.1創(chuàng)建和配置工程317
10.2.2Web頁面設計319
10.3基于Logstash的日志處理327
10.3.1配置Spring Boot輸出日志327
10.3.2在Logstash中進行相關配置329
10.4基于Kibana的日志分析結果可視化330
10.4.1訪問量走勢分析331
10.4.2查詢參數(shù)比率分析333
10.4.3故障案例可視化334
10.4.4將圖表集成到儀表板中335
10.5擴展知識與閱讀336
10.6本章小結337
第11章信息檢索與分析實例（二）338
11.1面向動態(tài)網(wǎng)站的信息采集339
11.1.1軟件準備339
11.1.2瀏覽器驅動程序339
11.1.3創(chuàng)建索引和映像340
11.1.4導入依賴341
11.1.5數(shù)據(jù)采集342
11.2基于Spring MVC的信息檢索及Web程序設計348
11.2.1創(chuàng)建和配置Spring MVC項目348
11.2.2前端頁面設計351
11.2.3后端控制器類356
11.3基于Logstash的日志處理360
11.4基于Beats的數(shù)據(jù)傳輸361
11.5基于Kibana的數(shù)據(jù)可視化362
11.5.1可視化索引文件中的信息363
11.5.2對Logstash、Beats的可視化展示364
11.6基于XPack的系統(tǒng)監(jiān)控366
11.7擴展知識與閱讀369
11.8本章小結369
參考文獻370