Maison > base de données > tutoriel mysql > À quoi fait référence mysql ft ?

À quoi fait référence mysql ft ?

PHPz
Libérer: 2023-04-14 17:42:03
avant
1603 Les gens l'ont consulté

mysql ft fait référence à FullText, c'est-à-dire à l'index de texte intégral ; l'index de texte intégral sert à résoudre les requêtes qui doivent être basées sur la similarité, plutôt que sur une comparaison numérique précise ; le visage d'une grande quantité de données, et la vitesse n'est pas un ordre de grandeur .

Index de texte intégral MySQL (FullText)

1. Introduction

Concepts de base

L'index de texte intégral sert à résoudre des requêtes qui doivent être basées sur la similarité, plutôt que sur une comparaison numérique précise.

Bien que la correspondance floue puisse également être obtenue en utilisant like + %, elle est inimaginable pour la récupération de grandes quantités de données texte. Face à une grande quantité de données, l'indexation de texte intégral peut être N fois plus rapide que like, mais la vitesse n'est pas un ordre de grandeur. like + % 也可以实现模糊匹配,但是对于大量的文本数据检索,是不可想象的。全文索引在大量的数据面前,能比 like 快 N 倍,速度不是一个数量级。

版本支持

  1. MySQL 5.6 以前的版本,只有 MyISAM 存储引擎支持全文索引

  2. MySQL 5.6 及以后的版本,MyISAMInnoDB 存储引擎均支持全文索引

  3. MySQL 5.7.6 中,提供了支持中文、日文和韩文(CJK)的内置全文 ngram 解析器,以及用于日文的可安装 MeCab 全文解析器插件

  4. 全文索引只能用于InnoDBMyISAM表,只能为CHARVARCHARTEXT列创建

  5. 对于大型数据集,将数据加载到没有全文索引的表中然后创建索引要比将数据加载到具有现有全文索引的表中快得多

  6. RDS MySQL 5.6 虽然也支持中文全文检索,但存在BUG

限制与缺点

  • 导致磁盘资源的大量占用。全文索引本身就是一个利用磁盘空间换取性能的方法。全文索引大的原因是,按照某种语言来进行分词

  • 全文索引创建速度慢,而且对有全文索引的各种数据修改操作也慢

  • 使用全文索引并不是对应用透明的。如果要想利用全文索引,必须修改查询语句。原有的查询语句是不可能利用全文索引的,需要改成全文索引规定的语法

  • 不区分大小写

  • 分区表不支持全文搜索

  • 由多列组合而成的全文检索的索引必须使用相同的字符集与排序规则

  • 全文索引可能存在精度问题,即全文索引找到的数据,可能和like

    Version Support

    1. MySQL 5.6 Versions précédentes, uniquement stockage MyISAM Le le moteur prend en charge l'index en texte intégral

    2. MySQL 5.6 et les versions ultérieures, les moteurs de stockage MyISAM et InnoDB prennent en charge l'index en texte intégral

    3. MySQL 5.7.6 fournit un analyseur ngram de texte intégral intégré qui prend en charge le chinois, le japonais et le coréen (CJK), ainsi qu'un installable. MeCab pour le code japonais> Plug-in d'analyseur de texte intégral

    L'index de texte intégral ne peut être utilisé que pour les tables InnoDB ou MyISAM, et ne peut être utilisé que pour la création de colonnes CHAR, VARCHAR, TEXT

    Pour les grands ensembles de données, Charger des données dans une table sans index de texte intégral, puis créer un index est beaucoup plus rapide que charger des données dans une table avec un index de texte intégral existant

    RDS MySQL 5.6 Bien que la recherche en texte intégral en chinois soit également prise en charge, il existe des BUG
      entraînant une perte de ressources disque. Beaucoup d'utilisation . L'indexation de texte intégral elle-même est une méthode d'utilisation de l'espace disque pour améliorer les performances. La raison pour laquelle l'index de texte intégral est volumineux est que la segmentation des mots basée sur une certaine langue est lente à créer un index de texte intégral, et qu'elle est également lente à modifier diverses données avec un index de texte intégral à l'aide d'un index de texte intégral. L'index n'est pas transparent pour l'application. Si vous souhaitez utiliser l'index de recherche en texte intégral, vous devez modifier l'instruction de requête. Il est impossible d'utiliser l'index de texte intégral pour l'instruction de requête d'origine. Il doit être modifié selon la syntaxe spécifiée par l'index de texte intégral. Les tables partitionnées ne prennent pas en charge la recherche en texte intégral. composé de plusieurs colonnes. L'index pour la recherche en texte intégral doit utiliser le même jeu de caractères et les mêmes règles de tri, c'est-à-dire que les données trouvées par l'index en texte intégral peuvent être incohérent avec les données trouvées par like Les colonnes de la fonction MATCH() doivent être exactement les mêmes que les colonnes définies dans l'index FULLTEXT, sauf si une recherche en texte intégral utilisant EN MODE BOOLÉEN Le mode est utilisé dans la table MyISAM (la recherche sur des colonnes non indexées peut être effectuée, mais la vitesse est très lente) Lors de la création d'index de texte intégral pour des colonnes uniques séparément, les requêtes floues multi-colonnes ne prendront pas effetLes index de texte intégral de différentes tables ne peuvent pas être interrogés ensemble. Vous pouvez ajouter OR aux deux instructions 2. Fonctionnement de l'index de texte intégral 2.1 Configurer la longueur minimale de recherche Nous pouvons afficher la longueur minimale actuellement configurée. longueur de recherche (longueur de segmentation des mots) via la commande SQL : Variable_name

      Limitations et Inconvénients

      L'index en texte intégral peut avoir des problèmes d'exactitude
      SHOW VARIABLES LIKE 'ft%';
      Copier après la connexion
      Value🎜🎜🎜🎜🎜🎜ft_boolean_syntax🎜🎜+ ->< 🎜🎜 ft_max_word_len🎜🎜84🎜🎜🎜🎜ft_min_word_len🎜🎜1🎜🎜🎜🎜ft_query_expansion_limit🎜🎜20🎜🎜🎜 🎜ft_stopword_file🎜🎜 (intégré)🎜 🎜🎜🎜

      全文索引的相关参数都无法进行动态修改,必须通过修改 MySQL 的配置文件来完成。修改最小搜索长度的值为 1,首先打开 MySQL 的配置文件 /etc/my.cnf,在 [mysqld] 的下面追加以下内容:

      [mysqld]
      innodb_ft_min_token_size = 1
      # 最短的索引字符串,默认值为4
      ft_min_word_len = 1
      Copier après la connexion

      配置完后重启 MySQL 服务器,并修复或重建全文索引方可生效。
      可使用下面的命令修复:

      repair table test quick;
      Copier après la connexion

      2.2 创建索引

      • 建表时创建全文索引

      CREATE TABLE fulltext_test (
        id int(11) NOT NULL AUTO_INCREMENT,
      	content TEXT NOT NULL,
      	tag VARCHAR(255),
      	PRIMARY KEY (id),
      	FULLTEXT KEY content_tag_fulltext(content, tag) WITH PARSER ngram
      ) ENGINE = InnoDB DEFAULT CHARSET=utf8mb4;
      Copier après la connexion
      • 在已存在的表上创建全文索引

      CREATE FULLTEXT INDEX content_fulltext ON fulltext_test(content) with parser ngram;
      Copier après la connexion
      • 通过 SQL 语句 ALTER TABLE 创建全文索引

      ALTER TABLE fulltext_test ADD FULLTEXT INDEX content_fulltext(content) with parser ngram;
      Copier après la connexion

      2.3 删除索引

      • 使用 DROP INDEX 删除全文索引

      DROP INDEX content_fulltext ON fulltext_test;
      Copier après la connexion
      • 通过 SQL 语句 ALTER TABLE 删除全文索引

      ALTER TABLE fulltext_test DROP INDEX content_fulltext;
      Copier après la connexion

      三、检索数据

      3.1 自然语言的全文检索

      默认情况下,或者使用 in natural language mode 修饰符时,match() 函数对文本集合执行自然语言搜索。

      SELECT * FROM 表名 WHERE Match(列名1,列名2) Against (检索内容1 检索内容2);
      Copier après la connexion

      检索内容不需要用逗号隔开!

      自然语言搜索引擎将计算每一个文档对象和查询的相关度。这里,相关度是基于匹配的关键词的个数,以及关键词在文档中出现的次数。在整个索引中出现次数越少的词语,匹配时的相关度就越高。相反,非常常见的单词将不会被搜索,如果一个词语的在超过 50% 的记录中都出现了,那么自然语言的搜索将不会搜索这类词语。
      Copier après la connexion

      3.2 布尔全文检索

      在布尔搜索中,我们可以在查询中自定义某个被搜索的词语的相关性,当编写一个布尔搜索查询时,可以通过一些前缀修饰符来定制搜索。

      • 空(也就是默认状况),表示可选的,包含该词的顺序较高

      • + 表示必须包含

      • - 表示必须排除

      • “>” 表示出现该单词时增加相关性,查询的结果靠前

      • “<” 表示出现该单词时降低相关性,查询的结果靠后

      • * 表示通配符,只能接在词后面

      • ~ 允许出现该单词,但是出现时相关性为负,表示拥有该字会下降相关性,但不像「-」将之排除,只是排在较后面

      • "" 双引号表示短语,表示要彻底相符,不可拆字效果,类同于 like '%keyword%'

      • () 经过括号来使用字条件:

      +aaa +(>bbb <ccc) aaa="aaa" sql="sql" select="select" from="from" test="test" where="where" match="match" against="against" in="in" boolean="boolean" mode="mode" select="select" from="from" tommy="tommy" where="where" match="match" against="against" in="in" boolean="boolean" mode="mode" select="select" from="from" tommy="tommy" where="where" match="match" against="against">李秀琴 <练习册 <不是人>是个鬼&#39; in boolean mode);
      Copier après la connexion

      四、测试结果

      测试环境:本机4核16G Windows10,MySQL 8.0
      测试数据量salebilldetail1276万行,salebill269 万行, customer30 万行, goods75 万行。

      争对测试用的SQL语句,增加了以下全文索引:

      CREATE FULLTEXT INDEX billno_fulltext ON salebill(billno) WITH PARSER ngram;
      CREATE FULLTEXT INDEX remarks_fulltext ON salebill(remarks) WITH PARSER ngram;
      CREATE FULLTEXT INDEX remarks_fulltext ON salebilldetail(remarks) WITH PARSER ngram;
      CREATE FULLTEXT INDEX goodsremarks_fulltext ON salebilldetail(goodsremarks) WITH PARSER ngram;
      CREATE FULLTEXT INDEX remarks_goodsremarks_fulltext ON salebilldetail(remarks, goodsremarks) WITH PARSER ngram;
      CREATE FULLTEXT INDEX custname_fulltext ON customer(custname) WITH PARSER ngram;
      CREATE FULLTEXT INDEX goodsname_fulltext ON goods(goodsname) WITH PARSER ngram;
      CREATE FULLTEXT INDEX goodscode_fulltext ON goods(goodscode) WITH PARSER ngram;
      Copier après la connexion

      测试结果,总的来说很魔幻。
      为什么魔幻,看下面几个语句:

      test_1
      -- 测试1,原始 like 查询方式,用时 0.765s
      select 1 from salebilldetail d where d.tid=260434 and ((d.remarks like concat(&#39;%&#39;,&#39;葡萄&#39;,&#39;%&#39;)) or (d.goodsremarks like concat(&#39;%&#39;,&#39;葡萄&#39;,&#39;%&#39;)));
      Copier après la connexion
      test_2
      -- 测试2,使用全文索引 remarks_fulltext、goodsremarks_fulltext, 用时 0.834s
      select 1 from salebilldetail d where d.tid=260434 and ((match(d.remarks) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode)) or (match(d.goodsremarks) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;)  in boolean mode)));
      Copier après la connexion
      test_3
      -- 测试3,使用全文索引 remarks_goodsremarks_fulltext, 用时 0.242s
      select 1 from salebilldetail d where d.tid=260434 and ((match(d.remarks,d.goodsremarks) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode)));
      Copier après la connexion
      test_4
      -- 测试4,原始 like 查询方式,不过滤 tid ,用时 22.654s
      select t from salebilldetail d where ((d.remarks like concat(&#39;%&#39;,&#39;葡萄&#39;,&#39;%&#39;)) or (d.goodsremarks like concat(&#39;%&#39;,&#39;葡萄&#39;,&#39;%&#39;)));
      Copier après la connexion
      test_5
      -- 测试5,使用全文索引 remarks_fulltext、goodsremarks_fulltext,  不过滤 tid ,用时 24.855s
      select 1 from salebilldetail d where ((match(d.remarks) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode)) or (match(d.goodsremarks) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;)  in boolean mode)));
      Copier après la connexion
      test_6
      -- 测试6,使用全文索引 remarks_goodsremarks_fulltext, 不过滤 tid ,用时 0.213s
      select 1 from salebilldetail d where ((match(d.remarks,d.goodsremarks) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode)));
      Copier après la connexion
      test_7
      -- 测试7,使用全文索引 remarks_goodsremarks_fulltext, 用时 0.22s
      select count(1) from salebilldetail d where d.tid=260434 and  ((match(d.remarks,d.goodsremarks) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode)));
      Copier après la connexion
      test_8
      -- 测试8,使用全文索引 remarks_goodsremarks_fulltext, 不过滤 tid ,用时 0.007s
      select count(1) from salebilldetail d where ((match(d.remarks,d.goodsremarks) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode)));
      Copier après la connexion

      从上面的测试语句可以看出,数据量越多,查询越简单,全文索引的效果越好

      再来看看我们的业务测试SQL:

      test_9
      -- 测试9
      select 
          i.billid
          ,if(0,0,i.qty) as qty  
          ,if(0,0,i.goodstotal) as total          
          ,if(0,0,i.chktotal) as selfchktotal   
          ,if(0,0,i.distotal) as distotal 
          ,if(0,0,i.otherpay) as feetotal  
          ,if(0,0,ifnull(d.costtotal,0)) as costtotal  
          ,if(0,0,ifnull(d.maoli,0)) as maoli         
          ,i.billno
          ,from_unixtime(i.billdate,&#39;%Y-%m-%d&#39;) as billdate /*单据日期*/
          ,from_unixtime(i.createdate,&#39;%Y-%m-%d %H:%i:%s&#39;) as createdate /*制单日期*/
          ,if(i.sdate=0,&#39;&#39;,from_unixtime(i.sdate,&#39;%Y-%m-%d  %H:%i:%s&#39;)) as sdate /*过账日期*/
          ,from_unixtime(i.udate,&#39;%Y-%m-%d %H:%i:%s&#39;) as udate /*最后修改时间*/
          ,i.custid ,c.custname
          ,i.storeid ,k.storename
          ,i.empid ,e.empname
          ,i.userid ,u.username
          ,i.remarks                               /*单据备注*/
          ,i.effect,i.settle,i.redold,i.rednew     /*单据状态*/
          ,i.printtimes /* 打印次数 */
          ,(case  when i.rednew=1 then 1  when i.redold=1 then 2  when i.settle=1 then 3  when i.effect=1 then 4  else 9 end) as state /*单据状态*/
          ,(case  when i.rednew=1 then &#39;红冲单&#39;  when i.redold=1 then &#39;已红冲&#39;  when i.settle=1 then &#39;已结算&#39;  when i.effect=1 then &#39;已过账&#39;  else &#39;草稿&#39; end) as statetext
          ,&#39;&#39; as susername /* 操作人 */
          ,&#39;&#39; as accname /* 科目 */
      from salebill i
      left join coursecentersale d on d.tid=i.tid and d.billid=i.billid
      left join customer c on c.tid=i.tid and c.custid=i.custid
      left join store k on k.tid=i.tid and k.storeid=i.storeid
      left join employee e on e.tid=i.tid and e.empid=i.empid
      left join user u on u.tid=i.tid and u.userid=i.userid
      where i.tid=260434 and (i.billtype = 5 or i.effect = 1)
          and (&#39;_billdate_f_&#39;!=&#39;&#39;)
          and (&#39;_billdate_t_&#39;!=&#39;&#39;)
          and (&#39;_sdate_f_&#39;!=&#39;&#39;)
          and (&#39;_sdate_t_&#39;!=&#39;&#39;)
          and (&#39;_udate_f_&#39;!=&#39;&#39;)
          and (&#39;_udate_t_&#39;!=&#39;&#39;)
          and (&#39;_cdate_f_&#39;!=&#39;&#39;)
          and (&#39;_cdate_t_&#39;!=&#39;&#39;)
          and (&#39;_billid_&#39;!=&#39;&#39;)      /*单据id*/
          and (&#39;_custid_&#39;!=&#39;&#39;)      /*客户ID*/
          and (&#39;_storeid_&#39;!=&#39;&#39;)     /*店仓ID*/
          and (&#39;_empid_&#39;!=&#39;&#39;)       /*业务员ID*/
          and (&#39;_custstop_&#39;!=&#39;&#39;)       /*客户是否停用*/
          and (
              (i.billno like concat(&#39;%&#39;,&#39;葡萄&#39;,&#39;%&#39;))
              or (i.remarks like concat(&#39;%&#39;,&#39;葡萄&#39;,&#39;%&#39;))
              or exists(select 1 from salebilldetail d where d.tid=260434 and d.billid=i.billid and ((d.remarks like concat(&#39;%&#39;,&#39;葡萄&#39;,&#39;%&#39;)) or (d.goodsremarks like concat(&#39;%&#39;,&#39;葡萄&#39;,&#39;%&#39;))))
              or exists(select 1 from customer c where c.tid=260434 and c.custid=i.custid and (c.custname like concat(&#39;%&#39;,&#39;葡萄&#39;,&#39;%&#39;)))
              or exists(select 1 from goods g join salebilldetail d on d.tid=g.tid and d.goodsid=g.goodsid where d.tid=260434 and d.billid=i.billid and ((g.goodsname like concat(&#39;%&#39;,&#39;葡萄&#39;,&#39;%&#39;)) or (g.goodscode like concat(&#39;%&#39;,&#39;葡萄&#39;,&#39;%&#39;))))
          )
          and i.rednew=0 /*单据列表不含红冲单*/ 
          and i.billid not in (select billid from coursecenter_del t where t.tid=260434)
          and ((i.settle=1 and i.effect=1 and i.redold=0 and i.rednew=0)) /*已结算*/
      order by udate desc,billno desc
      limit 0,100;
      Copier après la connexion

      执行时间约 1.6 秒,使用的是 like 方式。

      改成使用全文索引方式:

      test_10
      -- 测试10
      select 
          i.billid
          ,if(0,0,i.qty) as qty         
          ,if(0,0,i.goodstotal) as total   
          ,if(0,0,i.chktotal) as selfchktotal  
          ,if(0,0,i.distotal) as distotal 
          ,if(0,0,i.otherpay) as feetotal  
          ,if(0,0,ifnull(d.costtotal,0)) as costtotal 
          ,if(0,0,ifnull(d.maoli,0)) as maoli  
          ,i.billno
          ,from_unixtime(i.billdate,&#39;%Y-%m-%d&#39;) as billdate /*单据日期*/
          ,from_unixtime(i.createdate,&#39;%Y-%m-%d %H:%i:%s&#39;) as createdate /*制单日期*/
          ,if(i.sdate=0,&#39;&#39;,from_unixtime(i.sdate,&#39;%Y-%m-%d  %H:%i:%s&#39;)) as sdate /*过账日期*/
          ,from_unixtime(i.udate,&#39;%Y-%m-%d %H:%i:%s&#39;) as udate /*最后修改时间*/
          ,i.custid ,c.custname
          ,i.storeid ,k.storename
          ,i.empid ,e.empname
          ,i.userid ,u.username
          ,i.remarks                               /*单据备注*/
          ,i.effect,i.settle,i.redold,i.rednew     /*单据状态*/
          ,i.printtimes /* 打印次数 */
          ,(case  when i.rednew=1 then 1  when i.redold=1 then 2  when i.settle=1 then 3  when i.effect=1 then 4  else 9 end) as state /*单据状态*/
          ,(case  when i.rednew=1 then &#39;红冲单&#39;  when i.redold=1 then &#39;已红冲&#39;  when i.settle=1 then &#39;已结算&#39;  when i.effect=1 then &#39;已过账&#39;  else &#39;草稿&#39; end) as statetext
          ,&#39;&#39; as susername /* 操作人 */
          ,&#39;&#39; as accname /* 科目 */
      from salebill i
      left join coursecentersale d on d.tid=i.tid and d.billid=i.billid
      left join customer c on c.tid=i.tid and c.custid=i.custid
      left join store k on k.tid=i.tid and k.storeid=i.storeid
      left join employee e on e.tid=i.tid and e.empid=i.empid
      left join user u on u.tid=i.tid and u.userid=i.userid
      where i.tid=260434 and (i.billtype = 5 or i.effect = 1)
          and (&#39;_billdate_f_&#39;!=&#39;&#39;)
          and (&#39;_billdate_t_&#39;!=&#39;&#39;)
          and (&#39;_sdate_f_&#39;!=&#39;&#39;)
          and (&#39;_sdate_t_&#39;!=&#39;&#39;)
          and (&#39;_udate_f_&#39;!=&#39;&#39;)
          and (&#39;_udate_t_&#39;!=&#39;&#39;)
          and (&#39;_cdate_f_&#39;!=&#39;&#39;)
          and (&#39;_cdate_t_&#39;!=&#39;&#39;)
          and (&#39;_billid_&#39;!=&#39;&#39;)      /*单据id*/
          and (&#39;_custid_&#39;!=&#39;&#39;)      /*客户ID*/
          and (&#39;_storeid_&#39;!=&#39;&#39;)     /*店仓ID*/
          and (&#39;_empid_&#39;!=&#39;&#39;)       /*业务员ID*/
          and (&#39;_custstop_&#39;!=&#39;&#39;)       /*客户是否停用*/
          and (
              (match(i.billno) against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode))
              or (match(i.remarks) against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode))
              or exists(select 1 from salebilldetail d where d.tid=260434 and d.billid=i.billid and ((match(d.remarks) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode)) or (match(d.goodsremarks) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;)  in boolean mode))))
              or exists(select 1 from customer c where c.tid=260434 and c.custid=i.custid and (match(c.custname) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode)))
              or exists(select 1 from goods g join salebilldetail d on d.tid=g.tid and d.goodsid=g.goodsid where d.tid=260434 and d.billid=i.billid 
           and ((match(g.goodsname) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode))
           or (match(g.goodscode) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode))))
          )
          and i.rednew=0 /*单据列表不含红冲单*/ 
          and i.billid not in (select billid from coursecenter_del t where t.tid=260434)
          and ((i.settle=1 and i.effect=1 and i.redold=0 and i.rednew=0)) /*已结算*/
      order by udate desc,billno desc
      limit 0,100;
      Copier après la connexion

      执行时间约 1.6 秒,与使用的是 like 方式差不多。

      最魔幻的地方来了,如果将上面的SQL语句中(salebilldetail表使用全文索引 remarks_fulltextgoodsremarks_fulltext的地方)

      exists(select 1 from salebilldetail d where d.tid=260434 and d.billid=i.billid and ((match(d.remarks) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode)) or (match(d.goodsremarks) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;)  in boolean mode))))
      Copier après la connexion
      test_11

      改成使用全文索引 remarks_goodsremarks_fulltext

      -- 测试11
      exists(select 1 from salebilldetail d where d.tid=260434 and d.billid=i.billid and ((match(d.remarks,d.goodsremarks) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode))))
      Copier après la connexion

      执行时间无限长(跑了半天没成功)?
      经分析,在 where 子句中,一个条件子句中包含一个以上 match 时会出现这样的情况。即:

      -- and 中只有一个全文检索时正常, 用时0.2秒
      select xxx from xxx
      ...
      and (
      	exists(select 1 from salebilldetail d where d.tid=260434 and d.billid=i.billid and ((match(d.remarks,d.goodsremarks) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode))))
      )
      ...
      
      -- 下面这样就异常了,会慢成百上千倍,用时 160 秒, 如果有更多的 match ,会更夸张的慢下去
      select xxx from xxx
      ...
      and (
      	exists(select 1 from salebilldetail d where d.tid=260434 and d.billid=i.billid and ((match(d.remarks,d.goodsremarks) Against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode))))
      	or match(i.billno) against(concat(&#39;"&#39;,&#39;葡萄&#39;,&#39;"&#39;) in boolean mode)
      )
      ...
      Copier après la connexion

      测试结果汇总

      查询用时(秒)备注
      test 10.765原始like查询
      test 20.834全文索引 remarks_fulltextgoodsremarks_fulltext
      test 30.242全文索引 remarks_goodsremarks_fulltext
      ---

      test 422.654原始like查询,不过滤 tid
      test 524.855全文索引 remarks_fulltextgoodsremarks_fulltext, 不过滤 tid
      test 60.213全文索引 remarks_goodsremarks_fulltext, 不过滤 tid
      ---

      test 70.22全文索引 remarks_goodsremarks_fulltext, count
      test 80.007全文索引 remarks_goodsremarks_fulltext, 不过滤 tid, count
      ---

      test 91.6业务测试SQL,原始like查询
      test 101.6业务测试SQL,全文索引 remarks_fulltextgoodsremarks_fulltext
      test 11失败业务测试SQL,全文索引 remarks_goodsremarks_fulltext

      五、MySQL 版本升级

      因线上系统目前是 RDS MySQL 5.6,故简单描述升级相关问题。

      • Group By: 在 MySQL 5.7 之后,默认使用增加了限制,一些在 MySQL 5.6 可执行的Group By语句,在 5.7 之后会报错,可以更改新版本 MySQL 的 sqlModel

        -- 查询 sql_mode
        select @@SESSION.sql_mode;
        -- 设置
        SET GLOBAL sql_mode = &#39;STRICT_TRANS_TABLES,NO_ZERO_IN_DATE,NO_ZERO_DATE,ERROR_FOR_DIVISION_BY_ZERO,NO_ENGINE_SUBSTITUTION&#39;;
        -- 或 设置 (修改于当前会 话,关闭当前会话后失效)
        SET SESSION sql_mode = &#39;STRICT_TRANS_TABLES,NO_ZERO_IN_DATE,NO_ZERO_DATE,ERROR_FOR_DIVISION_BY_ZERO,NO_ENGINE_SUBSTITUTION&#39;;
        -- 刷新
        flush PRIVILEGES;
        
        Copier après la connexion
        • ONLY_FULL_GROUP_BY: 对于GROUP BY聚合操作,如果在SELECT中的列,没有在GROUP BY中出现,那么这个SQL是不合法的,因为列不在GROUP BY从句中

        • NO_AUTO_VALUE_ON_ZERO: 该值影响自增长列的插入。默认设置下,插入0NULL代表生成下一个自增长值。如果用户希望插入的值为0,而该列又是自增长的,那么这个选项就有用了。

        • STRICT_TRANS_TABLES:在该模式下,如果一个值不能插入到一个事务中,则中断当前的操作,对非事务表不做限制

        • NO_ZERO_IN_DATE:在严格模式下,不允许日期和月份为零

        • NO_ZERO_DATE:设置该值,mysql数据库不允许插入零日期,插入零日期会抛出错误而不是警告

        • ERROR_FOR_DIVISION_BY_ZERO:在insertupdate过程中,如果数据被零除,则产生错误而非警告。如果未给出该模式,那么数据被零除时MySql返回NULL

        • NO_AUTO_CREATE_USER: 禁止GRANT创建密码为空的用户

        • NO_ENGINE_SUBSTITUTION:如果需要的存储引擎被禁用或未编译,那么抛出错误。不设置此值时,用默认的存储引擎替代,并抛出一个异常

        • PIPES_AS_CONCAT:将"||"视为字符串的连接操作符而非或运算符,这和Oracle数据库是一样是,也和字符串的拼接函数Concat想类似

        • ANSI_QUOTES:启用后,不能用双引号来引用字符串,因为它被解释为识别符

        • 方式2:在配置文件中添加 sql_mode = &#39;对应需要的模式&#39;

        • sql_mode 模式说明:

        • 方式1:重启 MySQL 后失效

      • MySQL8.0 修改了账号密码加密策略 (默认的认证插件由mysql_native_password更改为caching_sha2_password),导致一些可视化软件无法连接 mysql8.0 版本的数据库。如果需要,可以修改默认的策略或者账号密码的认证策略

        [mysqld]
        default_authentication_plugin = mysql_native_password
        
        Copier après la connexion

        -- 修改加密规则 
        ALTER USER &#39;root&#39;@&#39;localhost&#39; IDENTIFIED BY &#39;password&#39; PASSWORD EXPIRE NEVER; 
        -- 更新用户密码
        ALTER USER &#39;账号&#39;@&#39;%&#39; IDENTIFIED WITH mysql_native_password BY &#39;密码&#39;;
        -- 刷新权限
        FLUSH PRIVILEGES;
        
        Copier après la connexion

        • 方式2:执行语句修改某账号密码验证策略

        • 方式1:配置文件中添加, 让mysql使用原密码策略 (需重启mysql服务)

      • MySQL8.0 授权用户账号语法变更,创建用户的操作已经不支持grant的同时创建用户方式,需要先创建用户再进行授权。

        -- 原来的流程:
        mysql> grant all on *.* to &#39;admin&#39;@&#39;%&#39; identified by &#39;admin&#39;;
        -- 新的正确流程:
        mysql> create user &#39;admin&#39;@&#39;%&#39; identified by &#39;admin&#39;;
        mysql> grant all on *.* to &#39;admin&#39;@&#39;%&#39; ;
        mysql> flush privileges;
        
        Copier après la connexion
      • 数据库连接区别

        jdbc:mysql://{ip}:{port}/{db}&#63;characterEncoding=utf8&useSSL=false&serverTimezone=UTC
        // useSSL  如果不配置false 项目可以正常启动但是会提示ssl问题
        // serverTimezone=UTC 必须配置【时区设置成自己对应的时区】否则项目会报错
        
        Copier après la connexion

        show variables like &#39;%time_zone%&#39;;
        set global time_zone=&#39;+8:00&#39;;
        
        Copier après la connexion

        • 如果时区问题还不能解决:

        • JDBC 连接串修改如下(首先需要驱动使用8.0对应连接的驱动):

      • MySQL 5.7 原生支持JSON类型,并引入了众多JSON函数

      • MySQL 8.0 JSON字段的部分更新(JSON Partial Updates)

      • MySQL 8.0 默认字符集由latin1修改为utf8mb4

      • MySQL 8.0 正则表达式的增强,新增了4个相关函数,REGEXP_INSTR()REGEXP_LIKE()REGEXP_REPLACE()REGEXP_SUBSTR()

      • MySQL 8.0 GROUP BY语句不再隐式排序 (忽略在Group By中的排序命令,如 desc, asc)

      • Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

      Étiquettes associées:
      source:yisu.com
      Déclaration de ce site Web
      Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn
      Tutoriels populaires
      Plus>
      Derniers téléchargements
      Plus>
      effets Web
      Code source du site Web
      Matériel du site Web
      Modèle frontal