当前位置: 首页 >服务端 > Elasticsearch入门和查询语法分析(ik中文分词)

Elasticsearch入门和查询语法分析(ik中文分词)

全文搜索现在已经是很常见的功能了,当然你也可以用mysql加Sphinx实现。但开源的Elasticsearch(简称ES)目前是全文搜索引擎的首选。目前像GitHub、维基百科都使用的是ES,它可以快速的存储,搜索和分析数据。

一、安装与启动

ES的运行需要依赖java环境,可以在命令行运行 java --version 。如果出现

Elasticsearch入门和查询语法分析(ik中文分词) _ JavaClub全栈架构师技术笔记

说明已经安装了,否则你就需要安装下java环境。

然后我们就可以开始装ES了。1、可以用docker容器安装。2、用压缩包安装。

我是用压缩包安装的。

wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.3.1.tar.gztar -xzf elasticsearch-6.3.1.tar.gzcd elasticsearch-6.3.1/

然后输入 ./bin/elasticsearch 就可以启动ES了。在浏览器上输入 localhost:9200 ,如果出现

Elasticsearch入门和查询语法分析(ik中文分词) _ JavaClub全栈架构师技术笔记

就说明ES成功跑起来了。

不了解ES的同学可以去看看阮老师的这篇文章http://www.ruanyifeng.com/blog/2017/08/elasticsearch.html

 二、IK分词

ES默认的分词是英文分词,对中文分词支持的并不好。所以我们就需要安装ik中文分词。让我们看看区别。

在这里需要说明的一点时,ES很多API请求都是GET带上了Request Body。所以通过浏览器或者postman等工具发起GET请求时会报错。有两种方法可以解决。

1、通过命令含的curl请求。

curl -X GET "localhost:9200/_analyze" -H 'Content-Type: application/json' -d'{  "analyzer" : "standard",  "text" : "this is a test"}'

2、在代码中通过curl请求。

// 通过php的guzzle包发起的请求
$client = new Client();$response = $client->get('localhost:9200/_analyze', ['json' => ['analyzer' => 'standard','text' => "功能进阶",]]);$res = ($response->getBody()->getContents());

然后我们来看看ik中文分词和ES默认的分词区别。同样是上面的请求

ES默认分词结果

{  "tokens": [{  "token": "",  "start_offset": 0,  "end_offset": 1,  "type": "<IDEOGRAPHIC>",  "position": 0},{  "token": "",  "start_offset": 1,  "end_offset": 2,  "type": "<IDEOGRAPHIC>",  "position": 1},{  "token": "",  "start_offset": 2,  "end_offset": 3,  "type": "<IDEOGRAPHIC>",  "position": 2},{  "token": "",  "start_offset": 3,  "end_offset": 4,  "type": "<IDEOGRAPHIC>",  "position": 3}  ]}

ik中文分词结果

ik分词也分两种分析器。ik_smart:尽可能少的进行中文分词。ik_max_word:尽可能多的进行中文分词。

$response = $client->get('localhost:9200/_analyze', ['json' => ['analyzer'  => 'ik_max_word','text'  => "功能进阶",]]);

得到的结果为:

{  "tokens": [{  "token": "功能",  "start_offset": 0,  "end_offset": 2,  "type": "CN_WORD",  "position": 1},{  "token": "能进",  "start_offset": 1,  "end_offset": 3,  "type": "CN_WORD",  "position": 2},{  "token": "进阶",  "start_offset": 2,  "end_offset": 4,  "type": "CN_WORD",  "position": 3}  ]}

而ik_smart

$response = $client->get('localhost:9200/_analyze', ['json' => ['analyzer'  => 'ik_smart','text'  => "功能进阶",]]);

的结果为

{  "tokens": [{  "token": "功能",  "start_offset": 0,  "end_offset": 2,  "type": "CN_WORD",  "position": 1},{  "token": "进阶",  "start_offset": 2,  "end_offset": 4,  "type": "CN_WORD",  "position": 3}  ]}

其实他们的区别通过名字你也可以略知一二。哈哈。。。

假如有人想问,我就想把“功能进阶”当成一个词来搜索,可以吗?

Of course!!

这时候我们就要自定义分词。进入你的ES目录,运行 cd config/analysis-ik/ 进去ik分词的配置。找到IKAnalyzer.cfg.xml文件,然后 vi IKAnalyzer.cfg.xml 。

Elasticsearch入门和查询语法分析(ik中文分词) _ JavaClub全栈架构师技术笔记

我在 elasticsearch-6.3.0/config/analysis-ik 目录下,创建了 custom/mydict.dic ,然后添加到上图的红色框框中,这就是你自定义分词的文件。如果有多个文件,可以用英文分号(;)隔开。

Elasticsearch入门和查询语法分析(ik中文分词) _ JavaClub全栈架构师技术笔记

可以看到,我在自定义中文分词文件中添加了“功能进阶”这个词。这时候用ik_smart分析器的结果是:

{  "tokens": [{  "token": "功能进阶",  "start_offset": 0,  "end_offset": 4,  "type": "CN_WORD",  "position": 0}  ]}

很好,这就是我们想要的。

三、Query DSL

  • match

    查询语法如下:title是需要查询的字段名,可以被替换成任何字段。query对应的是所需的查询。比如这里会被拆分成‘php’和‘后台’,应为operator是or,所以ES会去所有数据里的title字段查询包含‘后台’和‘php’的,如果operator为and,这查询的是即包含‘后台’又有‘php’的数据,这应该很好理解。

$response = $client->get('localhost:9200/accounts/person/_search', ['json' => ['query' => ['match' => ['title' => ['query' => '后台php','operator' => 'or',]]]]]);
  • multi_match

    如果想在多个字段中查找,那就需要用到multi_match查询,语法如下:

$response = $client->get('localhost:9200/accounts/person/_search', ['json' => ['query' => ['multi_match' => ['query' => '张三 php','fields' => ['title', 'desc', 'user']]]]]);
  • query_string

    查询语法如下:类似match查询的operator,在这里需要在query中用OR或AND实现。

$response = $client->get('localhost:9200/accounts/person/_search', ['json' => ['query' => ['query_string' => ['query' => '(张三) OR (php)','default_field' => 'title',]]]]);

多字段查询如下:

$response = $client->get('localhost:9200/accounts/person/_search', ['json' => ['query' => ['query_string' => ['query' => '(张三) OR (php)','fields' => ['title', 'user'],]]]]);
  • range query

    这是范围查询,例如查询年龄在10到20岁之间的。查询语法如下:

$response = $client->get('localhost:9200/accounts/person/_search', ['json' => ['query' => ['range' => ['age' => ['gte' => 10,'lte' => 20,],]]]]);

gte表示>=,lte表示<=,gt表示>,lt表示<。

  • bool查询

  bool查询的语法都是一样的。如下:

$response = $client->get('localhost:9200/accounts/person/_search', ['json' => ['query' => ['bool' => ['must/filter/should/must_not' => [['query_string' => ['query' => '研发',]],['range' => ['age' => ['gt' => 20]]],],]]]]);

  1)must:must查询是查询字段中必须满足上面两个条件,并且会计算到score中。

  2)filter:filter查询与must一样,都必须满足上面两个条件,只不过查询结果不会计算score,也就是score始终为0.

  3)should:should查询只需要满足上面两种查询条件中的一种即可。

  4)must_not:must_not查询是必须不满足上面两个查询条件。

 

以上也是我看文档总结出来的,如有不对的地方,望大神指点。

作者:JohnsonChung
来源链接:https://www.cnblogs.com/johnson108178/p/9295737.html

版权声明:
1、JavaClub(https://www.javaclub.cn)以学习交流为目的,由作者投稿、网友推荐和小编整理收藏优秀的IT技术及相关内容,包括但不限于文字、图片、音频、视频、软件、程序等,其均来自互联网,本站不享有版权,版权归原作者所有。

2、本站提供的内容仅用于个人学习、研究或欣赏,以及其他非商业性或非盈利性用途,但同时应遵守著作权法及其他相关法律的规定,不得侵犯相关权利人及本网站的合法权利。
3、本网站内容原作者如不愿意在本网站刊登内容,请及时通知本站(javaclubcn@163.com),我们将第一时间核实后及时予以删除。





本文链接:https://www.javaclub.cn/server/113390.html

分享给朋友:

“Elasticsearch入门和查询语法分析(ik中文分词)” 的相关文章