谷粒商城doc文档 06 全文搜索_elasticsearch6.0

尚硅谷Elasticsearch6.0版本：V2.01、 ElasticSearch简介1.1、ElasticsearchElasticsearch是一个基于Apache Lucene(TM)的开源搜索引擎。无论在开源还是专有领域，Lucene可以被认为是迄今为止最先进、性能最好的、功能最全的搜索引擎库。特点：l 分布式的实时文件存储，每个字段都被索引并可被搜索l 分布式的实时分析搜索引擎-做不规则查询l 可以扩展到上百台服务器，处理PB级结构化或非结构化数据Elasticsearch也使用Java开发并使用Lucene作为其核心来实现所有索引和搜索的功能，但是它的目的是通过简单的RESTful API来隐藏Lucene的复杂性，从而让全文搜索变得简单。ES能做什么？全文检索（全部字段）、模糊查询（搜索）、数据分析（提供分析语法，例如聚合）1.2、Elasticsearch使用案例（1）2013年初，GitHub抛弃了Solr，采取ElasticSearch 来做PB级的搜索。 “GitHub使用ElasticSearch搜索20TB的数据，包括13亿文件和1300亿行代码”（2）维基百科：启动以elasticsearch为基础的核心搜索架构SoundCloud：“SoundCloud使用ElasticSearch为1.8亿用户提供即时而精准的音乐搜索服务”（3）百度：百度目前广泛使用ElasticSearch作为文本数据分析，采集百度所有服务器上的各类指标数据及用户自定义数据，通过对各种数据进行多维分析展示，辅助定位分析实例异常或业务层面异常。目前覆盖百度内部20多个业务线（包括casio、云分析、网盟、预测、文库、直达号、钱包、风控等），单集群最大100台机器，200个ES节点，每天导入30TB+数据（4）新浪使用ES 分析处理32亿条实时日志（5）阿里使用ES 构建挖财自己的日志采集和分析体系1.3、同类产品Solr、ElasticSearch、Hermes（腾讯）（实时检索分析）l Solr、ES1.源自搜索引擎，侧重搜索与全文检索。2.数据规模从几百万到千万不等，数据量过亿的集群特别少。有可能存在个别系统数据量过亿，但这并不是普遍现象（就像Oracle的表里的数据规模有可能超过Hive里一样，但需要小型机）。l Hermes1.一个基于大索引技术的海量数据实时检索分析平台。侧重数据分析。2.数据规模从几亿到万亿不等。最小的表也是千万级别。在腾讯17台TS5机器，就可以处理每天450亿的数据(每条数据1kb左右)，数据可以保存一个月之久。l Solr、ES区别全文检索、搜索、分析。基于lucene1. Solr 利用 Zookeeper 进行分布式管理，而 Elasticsearch 自身带有分布式协调管理功能;2. Solr 支持更多格式的数据，而 Elasticsearch 仅支持json文件格式；3. Solr 官方提供的功能更多，而 Elasticsearch 本身更注重于核心功能，高级功能多有第三方插件提供；4. Solr 在传统的搜索应用中表现好于 Elasticsearch，但在处理实时搜索应用时效率明显低于 Elasticsearch-附近的人Lucene是一个开放源代码的全文检索引擎工具包，但它不是一个完整的全文检索引擎，而是一个全文检索引擎的架构，提供了完整的查询引擎和索引引擎，部分文本分析引擎搜索引擎产品简介2、 ElasticSearch2.1、准备工作安装Centos7、建议内存2G以上、安装java1.8环境2.2、基本配置l 设置IP地址vi /etc/sysconfig/network-scripts/ifcfg-ens33# 网络重置service network restartl 添加用户rootlocalhost # adduser elkrootlocalhost # passwd elk以下授权步骤可省略rootlocalhost # whereis sudoersrootlocalhost # ls -l /etc/sudoersrootlocalhost # vi /etc/sudoers# Allow root to run any commands anywher root ALL=(ALL) ALL linuxidc ALL=(ALL) ALL #这个是新增的用户rootlocalhost # chmod -v u-w /etc/sudoersrootlocalhost # su elk2.3、Java环境安装l 解压安装包rootlocalhost jdk1.8# tar -zxvf jdk-8u171-linux-x64.tar.gzl 设置Java环境变量rootlocalhost jdk1.8.0_171# vi /etc/profile在文件最后添加export JAVA_HOME=/home/elk1/jdk1.8/jdk1.8.0_171export JRE_HOME=$JAVA_HOME/jreexport CLASSPATH=.:$JAVA_HOME/LIB:$JRE_HOME/LIB:$CLASSPATHexport PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATHrootlocalhost jdk1.8.0_171# source /etc/profilerootlocalhost jdk1.8.0_171# java -versionjava version 1.8.0_171Java(TM) SE Runtime Environment (build 1.8.0_171-b11)Java HotSpot(TM) 64-Bit Server VM (build 25.171-b11, mixed mode)2.4、ElasticSerach单机安装0 root elk/home/elk/softrootlocalhost elasticserach# tar -zxvf elasticsearch-6.3.1.tar.gzrootlocalhost elasticserach# cd elasticsearch-6.3.1/binrootlocalhost bin# ./elasticsearchrootlocalhost bin# su elk1elk1localhost bin$ ./elasticsearchrootlocalhost bin# chown -R elk1:elk1 /home/elk1/elasticsearchelk1localhost bin$ ./elasticsearchelk1localhost config$ vi jvm.optionselk1localhost bin$ ./elasticsearchrootlocalhost jdk1.8.0_171# curl :9200#后台启动elk1localhost bin$ ./elasticsearch -d#关闭程序elk1localhost bin$ ps -ef|grep elasticelk1localhost bin$ kill 10097#设置浏览器访问rootlocalhost binsystemctl stop firewalldrootlocalhost binvi config/elasticsearch.yml安装问题：1 2解决方案rootlocalhost bin# vi /etc/security/limits.confnofile - 打开文件的最大数目noproc - 进程的最大数目soft 指的是当前系统生效的设置值hard 表明系统中所能设定的最大值* hard nofile 655360* soft nofile 131072* hard nproc 4096* soft nproc 20483 解决方案rootlocalhost bin# vi /etc/sysctl.confrootlocalhost bin# sysctl -pvm.max_map_count=655360fs.file-max=655360vm.max_map_count=655360，因此缺省配置下，单个jvm能开启的最大线程数为其一半file-max是设置系统所有进程一共可以打开的文件数量# 测试Liunx执行：curl http:/localhost:9200/?pretty浏览器访问：http:/localhost:9200/?pretty# 状态查看命令语法：ip:post/_cat/args(?v|?format=json&pretty)（?v表示显示字段说明,?format=json&pretty表示显示成json格式）1、 查看所有索引GET _cat/indices?v2、 查看es集群状态GET _cat/health?v2.5、Elasticsearch的交互方式1、基于HTTP协议，以JSON为数据交互格式的RESTful APIGET POST PUT DELETE HEAD2、Elasticsearch官方提供了多种程序语言的客户端java，Javascript，.NET，PHP，Perl，Python，以及 Ruby还有很多由社区提供的客户端和插件https:/www.elastic.co/guide/en/elasticsearch/client/java-rest/6.3/java-rest-high-getting-started-maven.html2.6、Elasticsearch操作工具l REST访问ES方式（需要Http Method、URI）1. 浏览器（postman）2. Linux命令行请求：rootlocalcurl -XPOST 2:9200/atguig/doc -i -H Content-Type:application/json -dname:haha,age:10响应：HTTP/1.1 201 CreatedLocation: /atguig/doc/KF_t32QBxRaDZXTftAxgcontent-type: application/json; charset=UTF-8content-length: 172_index:atguig,_type:doc,_id:KF_t32QBxRaDZXTftAxg,_version:1,result:created,_shards:total:2,successful:1,failed:0,_seq_no:0,_primary_term:13. Kibana的Dev Tools4. Cerebro插件2.7、Elasticsearch数据存储方式(基本概念)2.7.1、Elasticsearch存储方式（1）面向文档Elasticsearch是面向文档(document oriented)的，这意味着它可以存储整个对象或文档(document)。然而它不仅仅是存储，还会索引(index)每个文档的内容使之可以被搜索。在Elasticsearch中，你可以对文档（而非成行成列的数据）进行索引、搜索、排序、过滤。这种理解数据的方式与以往完全不同，这也是Elasticsearch能够执行复杂的全文搜索的原因之一。（2）JSONELasticsearch使用Javascript对象符号(JavaScript Object Notation)，也就是JSON，作为文档序列化格式。JSON现在已经被大多语言所支持，而且已经成为NoSQL领域的标准格式。它简洁、简单且容易阅读。以下使用JSON文档来表示一个用户对象： email: , first_name: John, last_name: Smith, info: bio: Eco-warrior and defender of the weak, age: 25, interests: dolphins, whales , join_date: 2014/05/01尽管原始的user对象很复杂，但它的结构和对象的含义已经被完整的体现在JSON中了，在Elasticsearch中将对象转化为JSON并做索引要比在表结构中做相同的事情简单的多。2.7.2、Elasticsearch存储结构Mysql数据与ES数据转化（1） 元数据创建文档语句PUT atguigu/doc“name”:”zhangsan”,“age”:10_index:文档所在索引名称_type:文档所在类型名称_id:文档唯一id_uid:组合id，由_type和_id组成（6.x后，_type不再起作用，同_id）_source:文档的原始Json数据，包括每个字段的内容_all:将所有字段内容整合起来，默认禁用（用于对所有字段内容检索）（2）名词解释l 索引 index一个索引就是一个拥有几分相似特征的文档的集合。比如说，你可以有一个客户数据的索引，另一个产品目录的索引，还有一个订单数据的索引。一个索引由一个名字来标识（必须全部是小写字母的），并且当我们要对对应于这个索引中的文档进行索引、搜索、更新和删除的时候，都要使用到这个名字。在一个集群中，可以定义任意多的索引。l 类型 typeEs6之后，一个index中只能有一个type在一个索引中，你可以定义一种或多种类型。一个类型是你的索引的一个逻辑上的分类/分区，其语义完全由你来定。通常，会为具有一组共同字段的文档定义一个类型。比如说，我们假设你运营一个博客平台并且将你所有的数据存储到一个索引中。在这个索引中，你可以为用户数据定义一个类型，为博客数据定义另一个类型，当然，也可以为评论数据定义另一个类型。l 字段Field相当于是数据表的字段，对文档数据根据不同属性进行的分类标识l document一个文档是一个可被索引的基础信息单元。比如，你可以拥有某一个客户的文档，某一个产品的一个文档，当然，也可以拥有某个订单的一个文档。文档以JSON（Javascript Object Notation）格式来表示，而JSON是一个到处存在的互联网数据交互格式。在一个index/type里面，你可以存储任意多的文档。注意，尽管一个文档，物理上存在于一个索引之中，文档必须被索引/赋予一个索引的type。cluster整个elasticsearch 默认就是集群状态，整个集群是一份完整、互备的数据。node集群中的一个节点，一般只一个进程就是一个nodeshard分片，即使是一个节点中的数据也会通过hash算法，分成多个片存放，默认是5片。index相当于rdbms的database, 对于用户来说是一个逻辑数据库，虽然物理上会被分多个shard存放，也可能存放在多个node中。type类似于rdbms的table，但是与其说像table，其实更像面向对象中的class , 同一Json的格式的数据集合。document类似于rdbms的 row、面向对象里的objectfield相当于字段、属性2.8、Elasticsearch检索2.8.1、检索文档Mysql : select * from user where id = 1ES : GET /atguigu/doc/1响应： _index : megacorp, _type : employee, _id : 1, _version : 1, found : true, _source : first_name : John, last_name : Smith, age : 25, about : I love to go rock climbing, interests: sports, music 我们通过HTTP方法GET来检索文档，同样的，我们可以使用DELETE方法删除文档，使用HEAD方法检查某文档是否存在。如果想更新已存在的文档，我们只需再PUT一次。2.8.2、简单检索Mysql : select * from userES : GET /megacorp/employee/_search响应内容不仅会告诉我们哪些文档被匹配到，而且这些文档内容完整的被包含在其中我们在给用户展示搜索结果时需要用到的所有信息都有了。2.8.3、全文检索ES : GET /megacorp/employee/_search?q=haha查询出所有文档字段值为haha的文档2.8.4、搜索（模糊查询）ES : GET /megacorp/employee/_search?q=hello查询出所有文档字段值分词后包含hello的文档2.8.5、聚合PUT atguigu/_mapping/doc properties: interests: type: text, fielddata: true Group byElasticsearch有一个功能叫做聚合(aggregations)，它允许你在数据上生成复杂的分析统计。它很像SQL中的GROUP BY但是功能更强大。举个例子，让我们找到所有职员中最大的共同点（兴趣爱好）是什么：GET /atguigu/doc/_search aggs: all_interests: terms: field: interests 暂时先忽略语法只看查询结果： . hits: . , aggregations: all_interests: buckets: key: music, doc_count: 2 , key: forestry, doc_count: 1 , key: sports, doc_count: 1 我们可以看到两个职员对音乐有兴趣，一个喜欢林学，一个喜欢运动。这些数据并没有被预先计算好，它们是实时的从匹配查询语句的文档中动态计算生成的。如果我们想知道所有姓Smith的人最大的共同点（兴趣爱好），我们只需要增加合适的语句既可：GET /atguigu/doc/_search query: match: last_name: smith , aggs: all_interests: terms: field: interests all_interests聚合已经变成只包含和查询语句相匹配的文档了： . all_interests: buckets: key: music, doc_count: 2 , key: sports, doc_count: 1 PUT atguigu/_mapping/doc/ properties: interests: type: text, fielddata: true 2.9、Elasticsearch搜索原理/galles/visualization/Algorithms.html2.9.1、正排索引和倒排索引l 正排索引记录文档Id到文档内容、单词的关联关系尚硅谷：1，3docidcontent1尚硅谷是最好的培训机构2php是世界上最好的语言3机构尚硅谷是如何诞生的l 倒排索引记录单词到文档id的关联关系，包含：单词词典（Term DicTionary）：记录所有文档的单词，一般比较大倒排索引（Posting List）：记录单词倒排列表的关联信息例如：尚硅谷1、Term Dictionary尚硅谷2、Posting ListDocIdTFPositionOffset110310DocId：文档id，文档的原始信息TF：单词频率，记录该词再文档中出现的次数，用于后续相关性算分Position：位置，记录Field分词后，单词所在的位置，从0开始Offset：偏移量，记录单词在文档中开始和结束位置，用于高亮显示等3、 内存结构/galles/visualization/Algorithms.html B+Tree每个文档字段都有自己的倒排索引2.9.2、分词分词是指将文本转换成一系列单词（term or token）的过程，也可以叫做文本分析，在es里面称为Analysisl 分词机制Character Filter对原始文本进行处理例：去除html标签、特殊字符等Tokenizer将原始文本进行分词例：培训机构-培训，机构Token Filters分词后的关键字进行加工例：转小写、删除语气词、近义词和同义词等l 分词API1、 直接指定测试（指定分词器）Request:POST _analyze analyzer: standard, text:hello 1111Response: tokens: token: hello,#分词 start_offset: 0,#开始偏移 end_offset: 5,#结束偏移 type: ,#单词类型 position: 0#位置 , token: world, start_offset: 6, end_offset: 11, type: , position: 1 2、 针对索引的字段进行分词测试（利用该字段的分词器）Request：POST atguigu/_analyze field: name, text:hello worldResponse: tokens: token: hello, start_offset: 0, end_offset: 5, type: , position: 0 , token: world, start_offset: 6, end_offset: 11, type: , position: 1 3、 自定义分词器Request:POST _analyze tokenizer: standard, filter: lowercase, text:Hello WORLDResponse: tokens: token: hello, start_offset: 0, end_offset: 5, type: , position: 0 , token: world, start_offset: 6, end_offset: 11, type: , position: 1 l Elasticsearch自带的分词器分词器（Analyzer）特点Standard（es默认）支持多语言，按词切分并做小写处理Simple按照非字母切分，小写处理Whitespace按照空格来切分Stop去除语气助词，如the、an、的、这等Keyword不分词Pattern正则分词，默认w+,即非字词符号做分割符Language常见语言的分词器（30+）l 中文分词分词器名称介绍特点地址IK实现中英文单词切分自定义词库/medcl/elasticsearch-analysis-ikJiebapython流行分词系统，支持分词和词性标注支持繁体、自定义、并行分词/sing1ee/elasticsearch-jieba-pluginHanlp由一系列模型于算法组成的java工具包普及自然语言处理在生产环境中的应用/hankcs/HanLPTHULAC清华大学中文词法分析工具包具有中文分词和词性标注功能/microbun/elasticsearch-thulac-pluginl Character Filters在进行Tokenizer之前对原始文本进行处理，如增加、删除或替换字符等HTML Strip去除html标签和转换html实体Mapping字符串替换操作Pattern Replace正则匹配替换注意：进行处理后，会影响后续tokenizer解析的position和offsetRequest：POST _analyze tokenizer: keyword, char_filter: html_strip, text:B+TreesResponse: tokens: token: B+Trees, start_offset: 0, end_offset: 38, type: word, position: 0 l Token Filter对输出的单词（term）进行增加、删除、修改等操作Lowercase将所有term转换为小写stop删除stop wordsNGram和Edge NGram连词分割Synonym添加近义词的termRequest:POST _analyze tokenizer: standard, text:a Hello World, filter: stop, lowercase, type:ngram, min_gram:3, max_gram:4 Response: tokens: token: hel, start_offset: 2, end_offset: 7, type: , position: 1 , token: hell, start_offset: 2, end_offset: 7, type: , position: 1 , token: ell, start_offset: 2, end_offset: 7, type: , position: 1 , token: ello, start_offset: 2, end_offset: 7, type: , position: 1 , token: llo, start_offset: 2, end_offset: 7, type: , position: 1 , token: wor, start_offset: 8, end_offset: 13, type: , position: 2 , token: worl, start_offset: 8, end_offset: 13, type: , position: 2 , token: orl, start_offset: 8, end_offset: 13, type: , position: 2 , token: orld, start_offset: 8, end_offset: 13, type: , position: 2 , token: rld, start_offset: 8, end_offset: 13, type: , position: 2 l 自定义分词apiRequest:PUT my_analyzer settings: analysis: analyzer: my: tokenizer:punctuation, type:custom, char_filter:emoticons, filter:lowercase,english_stop , tokenizer: punctuation: type:pattern, pattern:.,!? , char_filter: emoticons: type:mapping, mappings: :)=_happy_, :(=_sad_ , filter: english_stop: type:stop, stopwords:_english_ 测试：POST my_analyzer/_analyze analyzer: my, text:lm a :) person,and you? tokens: token: lm a _happy_ person, start_offset: 0, end_offset: 15, type: word, position: 0 , token: and you, start_offset: 16, end_offset: 23, type: word, position: 1 l 分词使用场景1、 索引时分词：创建或更新文档时，会对相应得文档进行分词(指定字段分词)PUT my_test“mappings”:“doc”:“properties”:“title”:“type”:”text”,“analyzer”:”ik_smart”2、 查询时分词：查询时会对查询语句进行分词POST my_test/_search“query”:“match”:“message”:“query”:”hello”,“analyzer”:”standard”PUT my_test“mappings”:“doc”:“properties”:“title”:“type”:”text”,“analyzer”:”whitespace”,“search_analyzer”:”standard”#查询指定分词器一般不需要特别指定查询时分词器，直接使用索引时分词器即可，否则会出现无法匹配得情况，如果不需要分词将字段type设置成keyword，可以节省空间2.9.3、IK分词器l IK分词器的安装1） 下载地址：/medcl/elasticsearch-analysis-ik/releases下载与安装的ES相对应的版本2）解压，将解压后的elasticsearch文件夹拷贝到elasticsearch-5.6.8plugins下，并重命名文件夹为analysis-ik3）重新启动ElasticSearch，即可加载IK分词器l IK分词器测试IK提供了两个分词算法ik_smart 和 ik_max_word，其中 ik_smart 为最少切分，ik_max_word为最细粒度划分1） 最小切分：在浏览器地址栏输入地址:9200/_analyze?analyzer=ik_smart&pretty=true&text=我是程序员 输出的结果为：tokens : token : 我,start_offset : 0,end_offset : 1,type : CN_CHAR,position : 0,token : 是,start_offset : 1,end_offset : 2,type : CN_CHAR,position : 1,token : 程序员,start_offset : 2,end_offset : 5,type : CN_WORD,position : 22）最细切分：在浏览器地址栏输入地址:9200/_analyze?analyzer=ik_max_word&pretty=true&text=我是程序员输出的结果为：tokens : token : 我,start_offset : 0,end_offset : 1,type : CN_CHAR,p