Mysql關係型資料庫管理系統
MySQL是一個開放式原始碼的小型關聯式資料庫管理系統,開發者為瑞典MySQL AB公司。 MySQL被廣泛地應用在Internet上的中小型網站。由於其體積小、速度快、整體擁有成本低,尤其是開放原始碼這一特點,許多中小型網站為了降低網站總體擁有成本而選擇了MySQL作為網站資料庫。
InnoDB預設的全文索引parser非常適合於Latin,因為Latin是透過空格來分詞的。但對於像中文,日文和韓文來說,沒有這樣的分隔符號。一個字可以由多個字來組成,所以我們需要用不同的方式來處理。在MySQL 5.7.6中我們可以使用一個新的全文索引外掛程式來處理它們:n-gram parser。
前言
其實全文檢索在MySQL裡面很早就支持了,只不過一直以來只支援英文。緣由是他從來都使用空格來作為分詞的分隔符,而對於中文來講,顯然用空格就不合適,需要針對中文語義進行分詞。不,從MySQL 5.7開始,MySQL內建了ngram全文檢索插件,用來支援中文分詞,並且對MyISAM和InnoDB引擎有效。
在使用中文檢索分詞外掛ngram之前,先得在MySQL設定檔裡面設定他的分詞大小,比如,
[mysqld] ngram_token_size=2
這裡把分詞大小設定為2。要記住,分詞的SIZE越大,索引的體積就越大,所以要根據自身情況來設定合適的大小。
範例表結構:
CREATE TABLE articles ( id INTUNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY, titleVARCHAR(200), body TEXT, FULLTEXT (title,body) WITH PARSER ngram ) ENGINE=InnoDBCHARACTER SET utf8mb4;
範例數據,有6行記錄。
mysql> select * from articles\G ***************************1. row *************************** id: 1 title: 数据库管理 body: 在本教程中我将向你展示如何管理数据库 ***************************2. row *************************** id: 2 title: 数据库应用开发 body: 学习开发数据库应用程序 ***************************3. row *************************** id: 3 title: MySQL完全手册 body: 学习MySQL的一切 ***************************4. row *************************** id: 4 title: 数据库与事务处理 body: 系统的学习数据库的事务概论 ***************************5. row *************************** id: 5 title: NoSQL精髓 body: 学习了解各种非结构化数据库 ***************************6. row *************************** id: 6 title: SQL 语言详解 body: 详细了解如果使用各种SQL 6 rows inset (0.00 sec)
明確指定全文檢索表源
mysql> SETGLOBAL innodb_ft_aux_table="new_feature/articles"; Query OK, 0 rows affected (0.00 sec)
通過系統表,就可以查看到底是怎麼劃分articles裡的資料。
mysql> SELECT *FROM information_schema.INNODB_FT_INDEX_CACHE LIMIT 20,10; +------+--------------+-------------+-----------+--------+----------+ | WORD | FIRST_DOC_ID | LAST_DOC_ID | DOC_COUNT | DOC_ID| POSITION | +------+--------------+-------------+-----------+--------+----------+ | 中我 | 2 | 2 | 1 | 2 | 28 | | 习m | 4 | 4 | 1 | 4 | 21 | | 习了 | 6 | 6 | 1 | 6 | 16 | | 习开 | 3 | 3 | 1 | 3 | 25 | | 习数 | 5 | 5 | 1 | 5 | 37 | | 了解 | 6 | 7 | 2 | 6 | 19 | | 了解 | 6 | 7 | 2 | 7 | 23 | | 事务 | 5 | 5 | 1 | 5 | 12 | | 事务 | 5 | 5 | 1 | 5 | 40 | | 何管 | 2 | 2 | 1 | 2 | 52 | +------+--------------+-------------+-----------+--------+----------+ 10 rows in set (0.00 sec)
這裡可以看到,把分詞長度設定為2,所有的資料都只有兩個一組。上面資料還包含了行的位置,ID等等資訊。
接下來,我來進行一系列檢索示範,使用方法和原來英文檢索一致。
一、自然語言模式下檢索:
1、得到符合條件的個數,
mysql>SELECT COUNT(*) FROM articles -> WHERE MATCH (title,body) AGAINST ('数据库' IN NATURALLANGUAGE MODE); +----------+ | COUNT(*) | +----------+ | 4 | +----------+ 1 row in set (0.05 sec)
2、得到匹配的比率,
mysql>SELECT id, MATCH (title,body) AGAINST ('数据库' IN NATURAL LANGUAGE MODE) AS score FROM articles; +----+----------------------+ | id| score | +----+----------------------+ | 1 | 0.12403252720832825 | | 2 | 0.12403252720832825 | | 3 | 0 | | 4 | 0.12403252720832825 | | 5 | 0.062016263604164124| | 6 | 0 | +----+----------------------+ 6rows in set (0.00 sec)
二、布爾模式下搜索,這個就相對於自然模式搜索來的複雜點:
1、匹配既有管理又有資料庫的記錄,
mysql> SELECT * FROM articles WHERE MATCH (title,body) -> AGAINST ('+数据库 +管理' IN BOOLEAN MODE); +----+------------+--------------------------------------+ | id| title | body | +----+------------+--------------------------------------+ | 1 | 数据库管理 | 在本教程中我将向你展示如何管理数据库 | +----+------------+--------------------------------------+ 1 rowin set (0.00 sec)
2、匹配有SQL,但是沒有管理的記錄,
mysql> SELECT * FROM articles WHERE MATCH (title,body) -> AGAINST ('+数据库 -管理' IN BOOLEAN MODE); +----+------------------+----------------------------+ | id| title | body | +----+------------------+----------------------------+ | 2 | 数据库应用开发 | 学习开发数据库应用程序 | | 4 | 数据库与事务处理 | 系统的学习数据库的事务概论 | | 5 | NoSQL 精髓 | 学习了解各种非结构化数据库 | +----+------------------+----------------------------+ 3 rows in set (0.00 sec)
3、匹配有SQL,但是把資料庫的相關性降低,
mysql> SELECT * FROM articles WHERE MATCH (title,body) -> AGAINST ('>数据库 +MySQL' INBOOLEAN MODE); +----+---------------+-----------------+ | id| title | body | +----+---------------+-----------------+ | 3 | MySQL完全手册 |学习MySQL的一切 | +----+---------------+-----------------+ 1 rowin set (0.00 sec)
三、查詢擴充模式,例如要搜尋資料庫,那麼MySQL,oracle,DB2也都會被搜尋到,
mysql> SELECT * FROM articles -> WHERE MATCH (title,body) -> AGAINST ('数据库' WITH QUERY EXPANSION); +----+------------------+--------------------------------------+ | id| title | body | +----+------------------+--------------------------------------+ | 1 | 数据库管理 | 在本教程中我将向你展示如何管理数据库 | | 4 | 数据库与事务处理 | 系统的学习数据库的事务概论 | | 2 | 数据库应用开发 | 学习开发数据库应用程序 | | 5 | NoSQL 精髓 | 学习了解各种非结构化数据库 | | 6 | SQL 语言详解 | 详细了解如果使用各种SQL | | 3 | MySQL完全手册 | 学习MySQL的一切 | +----+------------------+--------------------------------------+ 6 rows in set (0.01 sec)
當然,我這裡只是功能演示,更多的效能測試,大家有興趣可以進行詳細測試。由於N-grm是中文檢索常用的分詞演算法,已經在網路上大量使用,這次整合到MySQL中,想必效果上不會有太大的問題。
以上就是深度解析MySQL 5.7之中文全文檢索的內容,更多相關內容請關注PHP中文網(m.sbmmt.com)!