文字列の観点から見ると、中国語は英語ほどきちんとしていて標準化されていません。これは避けられない現実です。この記事では、オンライン情報と個人的な経験を組み合わせて、Python 言語を例として簡単にまとめます。間違いの追加や修正を歓迎します。
ちょっとした経験
repr() 関数を使用すると、文字列の元の形式を表示できます。これは正規表現を記述する場合に役立ちます。
Python の re モジュールには、re.match()、re.search という 2 つの類似した関数があります。 2 つの関数のマッチング プロセスはまったく同じですが、開始点が異なります。 match は文字列の先頭からのみ一致し、失敗した場合は検索を中止し、一致する文字列が見つかるまで検索を継続し、文字列の最後まで検索すると失敗します。 match の特性を理解していれば (場合によってはより高速です)、それを自由に使用できます。そうでない場合でも、通常は検索が必要な機能です。
テキストの山から一致する可能性のあるものをすべて検索し、リストの形式で返します。この場合は、findall() 関数を使用します。例については、以下のコードを参照してください。
utf8 では、各漢字は 3 つの文字位置を占め、正規表現は [x80-xff]{3} です。これは皆さんもご存知でしょう。
Unicode では、中国語の文字の形式は uXXXX です。対応する文字セットの範囲がわかれば、対応する文字列と一致するため、多言語のテキストから必要な言語のテキストを選択するのに便利です。 。ただし、漢字とひらがな、カタカナの両方を含む日本語のような粘着性のある言語では、結果が偏る可能性があります。
2 つの文字クラスを並べて使用できます。たとえば、ひらがな、カタカナ、中国語を一緒に使用し、u"[u4e00-u9fa5u3040-u309fu30a0-u30ff]+" を使用して、一致させる必要があるテキストをカスタマイズします。
中国語を照合する場合、正規表現の形式とターゲット文字列が同じである必要があります。これは非常に重要です。または、デフォルトの utf8 を使用します。現時点では何もする必要はありません。Unicode の場合は、正規表現の前に u"" 形式を追加する必要があります。
Unicode 文字列は次のように定義できます: string=u"正規表現が大好きです"。文字列が Unicode でない場合は、unicode() 関数を使用して変換できます。ソース文字列のエンコーディングがわかっている場合は、newstr=unicode(oldstring,original_coding_name) を使用して変換できます。たとえば、Linux では unicode(string, "utf8") が使用され、Windows I では cp936 が使用されます。テストしていません。
プログラム例
#!/usr/bin/python # -*- coding: utf-8 -*- # #author: rex #blog: http://iregex.org #filename py_utf8_unicode.py #created: 2010-06-27 09:11 import re def findPart(regex, text, name): res=re.findall(regex, text) if res: print "There are %d %s parts:\n"% (len(res), name) for r in res: print "\t",r print #sample is utf8 by default. sample='''en: Regular expression is a powerful tool for manipulating text. zh: 正则表达式是一种很有用的处理文本的工具。 jp: 正規表現は非常に役に立つツールテキストを操作することです。 jp-char: あアいイうウえエおオ kr:정규 표현식은 매우 유용한 도구 텍스트를 조작하는 것입니다. puc: 。？！、，；：“ ”‘ '——……·－·《》〈〉！￥％＆＊＃ ''' #let's look its raw representation under the hood: print "the raw utf8 string is:\n", repr(sample) print #find the non-ascii chars: findPart(r"[\x80-\xff]+",sample,"non-ascii") #convert the utf8 to unicode usample=unicode(sample,'utf8') #let's look its raw representation under the hood: print "the raw unicode string is:\n", repr(usample) print #get each language parts: findPart(u"[\u4e00-\u9fa5]+", usample, "unicode chinese") findPart(u"[\uac00-\ud7ff]+", usample, "unicode korean") findPart(u"[\u30a0-\u30ff]+", usample, "unicode japanese katakana") findPart(u"[\u3040-\u309f]+", usample, "unicode japanese hiragana") findPart(u"[\u3000-\u303f\ufb00-\ufffd]+", usample, "unicode cjk Punctuation")
出力結果は次のとおりです:
the raw utf8 string is: 'en: Regular expression is a powerful tool for manipulating text.\nzh: \xe6\xad\xa3\xe5\x88\x99\xe8\xa1\xa8\xe8\xbe\xbe\xe5\xbc\x8f\xe6\x98\xaf\xe4\xb8\x80\xe7\xa7\x8d\xe5\xbe\x88\xe6\x9c\x89\xe7\x94\xa8\xe7\x9a\x84\xe5\xa4\x84\xe7\x90\x86\xe6\x96\x87\xe6\x9c\xac\xe7\x9a\x84\xe5\xb7\xa5\xe5\x85\xb7\xe3\x80\x82\njp: \xe6\xad\xa3\xe8\xa6\x8f\xe8\xa1\xa8\xe7\x8f\xbe\xe3\x81\xaf\xe9\x9d\x9e\xe5\xb8\xb8\xe3\x81\xab\xe5\xbd\xb9\xe3\x81\xab\xe7\xab\x8b\xe3\x81\xa4\xe3\x83\x84\xe3\x83\xbc\xe3\x83\xab\xe3\x83\x86\xe3\x82\xad\xe3\x82\xb9\xe3\x83\x88\xe3\x82\x92\xe6\x93\x8d\xe4\xbd\x9c\xe3\x81\x99\xe3\x82\x8b\xe3\x81\x93\xe3\x81\xa8\xe3\x81\xa7\xe3\x81\x99\xe3\x80\x82\njp-char: \xe3\x81\x82\xe3\x82\xa2\xe3\x81\x84\xe3\x82\xa4\xe3\x81\x86\xe3\x82\xa6\xe3\x81\x88\xe3\x82\xa8\xe3\x81\x8a\xe3\x82\xaa\nkr:\xec\xa0\x95\xea\xb7\x9c \xed\x91\x9c\xed\x98\x84\xec\x8b\x9d\xec\x9d\x80 \xeb\xa7\xa4\xec\x9a\xb0 \xec\x9c\xa0\xec\x9a\xa9\xed\x95\x9c \xeb\x8f\x84\xea\xb5\xac \xed\x85\x8d\xec\x8a\xa4\xed\x8a\xb8\xeb\xa5\xbc \xec\xa1\xb0\xec\x9e\x91\xed\x95\x98\xeb\x8a\x94 \xea\xb2\x83\xec\x9e\x85\xeb\x8b\x88\xeb\x8b\xa4.\npuc: \xe3\x80\x82\xef\xbc\x9f\xef\xbc\x81\xe3\x80\x81\xef\xbc\x8c\xef\xbc\x9b\xef\xbc\x9a\xe2\x80\x9c \xe2\x80\x9d\xe2\x80\x98 \xe2\x80\x99\xe2\x80\x94\xe2\x80\x94\xe2\x80\xa6\xe2\x80\xa6\xc2\xb7\xef\xbc\x8d\xc2\xb7\xe3\x80\x8a\xe3\x80\x8b\xe3\x80\x88\xe3\x80\x89\xef\xbc\x81\xef\xbf\xa5\xef\xbc\x85\xef\xbc\x86\xef\xbc\x8a\xef\xbc\x83\n' There are 14 non-ascii parts: 正则表达式是一种很有用的处理文本的工具。 正規表現は非常に役に立つツールテキストを操作することです。 あアいイうウえエおオ 정규 표현식은 매우 유용한 도구 텍스트를 조작하는 것입니다 。？！、，；：“ ”‘ '——……·－·《》〈〉！￥％＆＊＃ the raw unicode string is: u'en: Regular expression is a powerful tool for manipulating text.\nzh: \u6b63\u5219\u8868\u8fbe\u5f0f\u662f\u4e00\u79cd\u5f88\u6709\u7528\u7684\u5904\u7406\u6587\u672c\u7684\u5de5\u5177\u3002\njp: \u6b63\u898f\u8868\u73fe\u306f\u975e\u5e38\u306b\u5f79\u306b\u7acb\u3064\u30c4\u30fc\u30eb\u30c6\u30ad\u30b9\u30c8\u3092\u64cd\u4f5c\u3059\u308b\u3053\u3068\u3067\u3059\u3002\njp-char: \u3042\u30a2\u3044\u30a4\u3046\u30a6\u3048\u30a8\u304a\u30aa\nkr:\uc815\uaddc \ud45c\ud604\uc2dd\uc740 \ub9e4\uc6b0 \uc720\uc6a9\ud55c \ub3c4\uad6c \ud14d\uc2a4\ud2b8\ub97c \uc870\uc791\ud558\ub294 \uac83\uc785\ub2c8\ub2e4.\npuc: \u3002\uff1f\uff01\u3001\uff0c\uff1b\uff1a\u201c \u201d\u2018 \u2019\u2014\u2014\u2026\u2026\xb7\uff0d\xb7\u300a\u300b\u3008\u3009\uff01\uffe5\uff05\uff06\uff0a\uff03\n' There are 6 unicode chinese parts: 正则表达式是一种很有用的处理文本的工具 正規表現 非常 役 立 操作 There are 8 unicode korean parts: 정규 표현식은 매우 유용한 도구 텍스트를 조작하는 것입니다 There are 6 unicode japanese katakana parts: ツールテキスト ア イ ウ エ オ There are 11 unicode japanese hiragana parts: は に に つ を することです あ い う え お There are 5 unicode cjk Punctuation parts: 。 。 。？！、，；： － 《》〈〉！￥％＆＊＃
Python 中国語正規表現メモに関連するその他の記事については、PHP 中国語 Web サイトに注目してください。
![[Web フロントエンド] Node.js クイック スタート](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
