商品搜索需求
-
当用户在搜索框输入商品关键字后,我们要为用户提供相关的商品搜索结果
-
实现
- 可以选择使用模糊查询like关键字实现(效率极低,多字段查询不方便)
-
全文检索方案
- 引入全文检索的方案来实现商品搜索
- 全文检索即在指定的任意字段中进行检索查询
- 全文检索方案需要配合搜索引擎来实现
-
搜索引擎原理
- 搜索引擎进行全文检索时,会对数据库中的数据进行一遍预处理,单独建立起一份索引结构数据
- 索引结构数据类似"新华字典"的索引检索页,里面包含了关键词与词条的对应关系,并记录词条的位置
- 搜索引擎进行全文检索时,将关键字在索引数据中进行快速对比查找,进而找到数据的真实存储位置
Elasticsearch 介绍
-
实现全文检索的搜索引擎,首选的是 Elasticsearch
- Elasticsearch 是用 Java 实现的,开源的搜索引擎
- 它可以快速地储存、搜索和分析海量数据.维基百科、StackOverflow、Github 等都采用它
- Elasticsearch 的底层是开源库 Lucene.但是,没法直接使用 Lucene,必须自己写代码去调用它的接口
-
分词说明
- 搜索引擎在对数据构建索引时,需要进行分词处理
- 分词是指将一句话拆解成多个单字 或 词,这些字或词便是这句话的关键词
比如:我是中国人
分词后:我、是、中、国、人、中国等等都可以是这句话的关键字
- Elasticsearch 不支持对中文进行分词建立索引(老外写的),需要配合扩展elasticsearch-analysis-ik(国内大神)来实现中文分词处理
-
配置(服务端&客户端)
-
服务端部署在linux(docker)
-
django使用客户端
-
使用 Docker 安装 Elasticsearch
- 获取Elasticsearch-ik镜像
# 从仓库拉取镜像
$ sudo docker image pull delron/elasticsearch-ik:2.4.6-1.0
- 配置 Elasticsearch-ik
- 将教学资料中的elasticsearc-2.4.6目录拷贝到home目录下,并解压到当前目录
- 修改/home/anning/elasticsearc-2.4.6/config/elasticsearch.yml第54行
即更改 ip 地址为本机真实 ip 地址
- 使用docker运行Elasticsearch
sudo docker run -dti --name=elasticsearch --network=host -v /home/anning/elasticsearch-2.4.6/config:/usr/share/elasticsearch/config delron/elasticsearch-ik:2.4.6-1.0
- 检查docker服务是否跑起来
sudo docker container ls
如何对接 Elasticsearch 服务端---Haystack
- Haystack 介绍
- Haystack 是在 Django 中对接搜索引擎的框架,搭建了用户和搜索引擎之间的沟通桥梁
- 可以在 Django 中可以通过使用 Haystack 来调用 Elasticsearch 搜索引擎
- Haystack 可以在不修改代码的情况下使用不同的搜索后端(比如 Elasticsearch、Whoosh、Solr等等)
- Haystack 安装和配置
$ pip install django-haystack
$ pip install elasticsearch==2.4.1
### settings
INSTALLED_APPS = [
......
# 全文检索
'haystack',
]
......
# Haystack
HAYSTACK_CONNECTIONS = {
'default': {
'ENGINE': 'haystack.backends.elasticsearch_backend.ElasticsearchSearchEngine',
'URL': 'http://172.16.238.128:9200/', # Elasticsearch服务器ip地址,端口号固定为9200
'INDEX_NAME': 'meiduo_mall', # Elasticsearch建立的索引库的名称
},
}
# 当添加、修改、删除数据时,自动生成索引
# 该配置项保证了在 Django 运行起来后,有新的数据产生时,Haystack 仍然可以让 Elasticsearch 实时生成新数据的索引
HAYSTACK_SIGNAL_PROCESSOR = 'haystack.signals.RealtimeSignalProcessor'
### 总路由
......
url(r'^search/', include('haystack.urls')),
- Haystack 建立数据索引
- 通过创建索引类,来指明让搜索引擎对哪些字段建立索引,也就是可以通过哪些字段的关键字来检索数据
- 本项目中对 SKU 信息进行全文检索,所以在 goods 应用中新建 search_indexes.py 文件,用于存放索引类
### goods.search_indexes.py
from haystack import indexes
from .models import SKU
class SKUIndex(indexes.SearchIndex, indexes.Indexable):
"""SKU索引数据模型类"""
text = indexes.CharField(document=True, use_template=True)
def get_model(self):
"""返回建立索引的模型类"""
return SKU
def index_queryset(self, using=None):
"""返回要建立索引的数据查询集"""
return self.get_model().objects.filter(is_launched=True)
- 在 SKUIndex 建立的字段,都可以借助 Haystack 由 Elasticsearch 搜索引擎查询
- text 段我们声明为 document=True,表名该字段是主要进行关键字查询的字段
- text字段的索引值可以由多个数据库模型类字段组成,具体由哪些模型类字段组成,我们用 use_template=True 表示后续通过模板来指明
- 创建 text 字段索引值模板文件
- 在 templates 目录中创建 text 字段使用的模板文件
- 具体在 templates/search/indexes/goods/sku_text.txt 文件中定义
### templates.search.indexes.goods.sku_text.txt
{{ object.id }}
{{ object.name }}
{{ object.caption }}
- 模板文件说明:当将关键词通过text参数名传递时
此模板指明 SKU 的id、name、caption作为text字段的索引值来进行关键字索引查询
- 手动生成初始索引
$ python manage.py rebuild_index
- 其他逻辑
### goods.views
class SKUSearchViewSet(HaystackViewSet):
'''
SKU搜索
'''
index_models = [SKU] # 指定查询集
serializer_class = SKUSearchSerializer
### goods.serializers
class SKUSearchSerializer(HaystackSerializer):
object = SKUSerializer(read_only=True)
class Meta:
index_classes = [SKUIndex]
fields = {'text','object'}
### goods.urls
......
router = DefaultRouter()
router.register('skus/search',views.SKUSearchViewSet,base_name='skus_search')
urlpatterns += router.urls
# .../skus/search/?text=华为
......
标签:全文检索,text,搜索引擎,---,索引,搜索,Elasticsearch,Haystack,商城
From: https://www.cnblogs.com/qinganning/p/17130781.html