深度解析MySQL 5.7之中文全文检索

Mysql关系型数据库管理系统

mysql是一个开放源码的小型关联式数据库管理系统,开发者为瑞典mysql ab公司。mysql被广泛地应用在internet上的中小型网站中。由于其体积小、速度快、总体拥有成本低,尤其是开放源码这一特点,许多中小型网站为了降低网站总体拥有成本而选择了mysql作为网站数据库。

InnoDB默认的全文索引parser非常合适于Latin,因为Latin是通过空格来分词的。但对于像中文,日文和韩文来说,没有这样的分隔符。一个词可以由多个字来组成,所以我们需要用不同的方式来处理。在MySQL 5.7.6中我们能使用一个新的全文索引插件来处理它们:n-gram parser。

前言

其实全文检索在MySQL里面很早就支持了,只不过一直以来只支持英文。缘由是他从来都使用空格来作为分词的分隔符,而对于中文来讲,显然用空格就不合适,需要针对中文语义进行分词。这不,从MySQL 5.7开始,MySQL内置了ngram全文检索插件,用来支持中文分词,并且对MyISAM和InnoDB引擎有效。

在使用中文检索分词插件ngram之前,先得在MySQL配置文件里面设置他的分词大小,比如,

[mysqld]  ngram_token_size=2

这里把分词大小设置为2。要记住,分词的SIZE越大,索引的体积就越大,所以要根据自身情况来设置合适的大小。

示例表结构:

CREATE TABLE articles (     id INTUNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY,     titleVARCHAR(200),     body TEXT,     FULLTEXT (title,body) WITH PARSER ngram    ) ENGINE=InnoDBCHARACTER SET utf8mb4;

示例数据,有6行记录。

mysql> select * from articlesG  ***************************1. row ***************************    id: 1  title: 数据库管理   body: 在本教程中我将向你展示如何管理数据库  ***************************2. row ***************************    id: 2  title: 数据库应用开发   body: 学习开发数据库应用程序  ***************************3. row ***************************    id: 3  title: MySQL完全手册   body: 学习MySQL的一切  ***************************4. row ***************************    id: 4  title: 数据库与事务处理   body: 系统的学习数据库的事务概论  ***************************5. row ***************************    id: 5  title: NoSQL精髓   body: 学习了解各种非结构化数据库  ***************************6. row ***************************    id: 6  title: SQL 语言详解   body: 详细了解如果使用各种SQL  6 rows inset (0.00 sec)

显式指定全文检索表源

mysql> SETGLOBAL innodb_ft_aux_table="new_feature/articles";  Query OK, 0 rows affected (0.00 sec)

通过系统表,就可以查看到底是怎么划分articles里的数据。

mysql> SELECT *FROM information_schema.INNODB_FT_INDEX_CACHE LIMIT 20,10;  +------+--------------+-------------+-----------+--------+----------+  | WORD | FIRST_DOC_ID | LAST_DOC_ID | DOC_COUNT | DOC_ID| POSITION |  +------+--------------+-------------+-----------+--------+----------+  | 中我 |   2 |   2 |   1 |  2 |  28 |  | 习m |   4 |   4 |   1 |  4 |  21 |  | 习了 |   6 |   6 |   1 |  6 |  16 |  | 习开 |   3 |   3 |   1 |  3 |  25 |  | 习数 |   5 |   5 |   1 |  5 |  37 |  | 了解 |   6 |   7 |   2 |  6 |  19 |  | 了解 |   6 |   7 |   2 |  7 |  23 |  | 事务 |   5 |   5 |   1 |  5 |  12 |  | 事务 |   5 |   5 |   1 |  5 |  40 |  | 何管 |   2 |   2 |   1 |  2 |  52 |  +------+--------------+-------------+-----------+--------+----------+  10 rows in set (0.00 sec)

这里可以看到,把分词长度设置为2,所有的数据都只有两个一组。上面数据还包含了行的位置,ID等等信息。

接下来,我来进行一系列检索示范,使用方法和原来英文检索一致。

一、自然语言模式下检索:

1、得到符合条件的个数,

mysql>SELECT COUNT(*) FROM articles  -> WHERE MATCH (title,body) AGAINST ('数据库' IN NATURALLANGUAGE MODE);  +----------+  | COUNT(*) |  +----------+  |  4 |  +----------+  1 row in set (0.05 sec)

2、得到匹配的比率,

mysql>SELECT id, MATCH (title,body) AGAINST ('数据库' IN NATURAL LANGUAGE MODE)   AS score FROM articles;  +----+----------------------+  | id| score    |  +----+----------------------+  | 1 | 0.12403252720832825 |  | 2 | 0.12403252720832825 |  | 3 |     0 |  | 4 | 0.12403252720832825 |  | 5 | 0.062016263604164124|  | 6 |     0 |  +----+----------------------+  6rows in set (0.00 sec)

二、布尔模式下搜索,这个就相对于自然模式搜索来的复杂些:

1、匹配既有管理又有数据库的记录,

mysql> SELECT * FROM articles WHERE MATCH (title,body)    ->  AGAINST ('+数据库 +管理' IN BOOLEAN MODE);  +----+------------+--------------------------------------+  | id| title  | body         |  +----+------------+--------------------------------------+  | 1 | 数据库管理 | 在本教程中我将向你展示如何管理数据库  |  +----+------------+--------------------------------------+  1 rowin set (0.00 sec)

2、匹配有数据库,但是没有管理的记录,

mysql> SELECT * FROM articles WHERE MATCH (title,body)    ->  AGAINST ('+数据库 -管理' IN BOOLEAN MODE);  +----+------------------+----------------------------+  | id| title    | body      |  +----+------------------+----------------------------+  | 2 | 数据库应用开发  | 学习开发数据库应用程序   |  | 4 | 数据库与事务处理 | 系统的学习数据库的事务概论  |  | 5 | NoSQL 精髓  | 学习了解各种非结构化数据库  |  +----+------------------+----------------------------+  3 rows in set (0.00 sec)

3、匹配MySQL,但是把数据库的相关性降低,

mysql> SELECT * FROM articles WHERE MATCH (title,body)    ->  AGAINST ('>数据库 +MySQL' INBOOLEAN MODE);  +----+---------------+-----------------+  | id| title   | body   |  +----+---------------+-----------------+  | 3 | MySQL完全手册 |学习MySQL的一切 |  +----+---------------+-----------------+  1 rowin set (0.00 sec)

三、查询扩展模式,比如要搜索数据库,那么MySQL,oracle,DB2也都将会被搜索到,

mysql> SELECT * FROM articles    ->  WHERE MATCH (title,body)    ->  AGAINST ('数据库' WITH QUERY EXPANSION);  +----+------------------+--------------------------------------+  | id| title   | body         |  +----+------------------+--------------------------------------+  | 1 | 数据库管理  | 在本教程中我将向你展示如何管理数据库  |  | 4 | 数据库与事务处理 | 系统的学习数据库的事务概论    |  | 2 | 数据库应用开发  | 学习开发数据库应用程序     |  | 5 | NoSQL 精髓  | 学习了解各种非结构化数据库    |  | 6 | SQL 语言详解  | 详细了解如果使用各种SQL     |  | 3 | MySQL完全手册  | 学习MySQL的一切      |  +----+------------------+--------------------------------------+  6 rows in set (0.01 sec)

当然,我这里只是功能演示,更多的性能测试,大家有兴趣可以进行详细测试。由于N-grm是中文检索常用的分词算法,已经在互联网大量使用,这次集成到MySQL中,想必效果上不会有太大的问题。

以上就是深度解析MySQL 5.7之中文全文检索的内容,更多相关内容请关注PHP中文网(www.php.cn)!

© 版权声明
THE END
喜欢就支持一下吧
点赞5 分享