먼저 Python 크롤러를 사용하여 시를 크롤링하고 말뭉치를 만듭니다. 크롤링된 페이지는 다음과 같습니다:
크롤링된 시
이 글은 주로 프로젝트의 아이디어를 보여주기 위한 것이므로 당나라 시 300개, 고대 시 300개, 노래 가사 3개만 포함합니다. 이 페이지에서 100개가 크롤링되었습니다. 선택한 노래 가사, 총 1,100개 이상의 시. 크롤러 속도를 높이려면 동시성을 사용하여 크롤러를 구현하고 poem.txt 파일에 저장하세요. 전체 Python 프로그램은 다음과 같습니다.
import re import requests from bs4 import BeautifulSoup from concurrent.futures import ThreadPoolExecutor, wait, ALL_COMPLETED # 爬取的诗歌网址 urls = ['https://so.gushiwen.org/gushi/tangshi.aspx', 'https://so.gushiwen.org/gushi/sanbai.aspx', 'https://so.gushiwen.org/gushi/songsan.aspx', 'https://so.gushiwen.org/gushi/songci.aspx' ] poem_links = [] # 诗歌的网址 for url in urls: # 请求头部 headers = {: 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.87 Safari/537.36'} req = requests.get(url, headers=headers) soup = BeautifulSoup(req.text, "lxml") content = soup.find_all('div', class_="sons")[0] links = content.find_all('a') for link in links: poem_links.append('https://so.gushiwen.org'+link['href']) poem_list = [] # 爬取诗歌页面 def get_poem(url): #url = 'https://so.gushiwen.org/shiwenv_45c396367f59.aspx' # 请求头部 headers = {: 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.87 Safari/537.36'} req = requests.get(url, headers=headers) soup = BeautifulSoup(req.text, "lxml") poem = soup.find('div', class_='contson').text.strip() poem = poem.replace(' ', '') poem = re.sub(re.compile(r"([sS]*?)"), '', poem) poem = re.sub(re.compile(r"([sS]*?)"), '', poem) poem = re.sub(re.compile(r"。([sS]*?)"), '', poem) poem = poem.replace('!', '!').replace('?', '?') poem_list.append(poem) # 利用并发爬取 executor = ThreadPoolExecutor(max_workers=10) # 可以自己调整max_workers,即线程的个数 # submit()的参数: 第一个为函数, 之后为该函数的传入参数,允许有多个 future_tasks = [executor.submit(get_poem, url) for url in poem_links] # 等待所有的线程完成,才进入后续的执行 wait(future_tasks, return_when=ALL_COMPLETED) # 将爬取的诗句写入txt文件 poems = list(set(poem_list)) poems = sorted(poems, key=lambda x:len(x)) for poem in poems: poem = poem.replace('《','').replace('》','') .replace(':', '').replace('“', '') print(poem) with open('F://poem.txt', 'a') as f: f.write(poem) f.write(' ')
이 프로그램은 1100개 이상의 시를 크롤링하고 시를 poem.txt 파일에 저장하여 시 코퍼스를 구성합니다. 물론 이러한 시는 직접 사용할 수 없으며 데이터를 정리해야 합니다. 예를 들어 구두점이 불규칙한 시도 있고, 시가 아닌 시의 서문일 뿐인 경우도 있습니다. 이 과정에는 수동 작업이 필요합니다. 조금 번거롭긴 하지만, 이어지는 시의 표현에 있어서도 그 효과는 상당합니다.
시 말뭉치에서는 시를 분할하는 기준이 다음과 같습니다. ? ! 절 분리의 경우 정규식을 사용하여 이를 수행할 수 있습니다. 그 후, 좋은 문장이 담긴 시들을 사전에 적으세요: 키(key)는 문장의 첫 단어의 병음이고, 값(value)은 그 병음에 해당하는 시이고, 사전을 피클로 저장합니다. 파일. 전체 Python 코드는 다음과 같습니다.
import re import pickle from xpinyin import Pinyin from collections import defaultdict def main(): with open('F://poem.txt', 'r') as f: poems = f.readlines() sents = [] for poem in poems: parts = re.findall(r'[sS]*?[。?!]', poem.strip()) for part in parts: if len(part) >= 5: sents.append(part) poem_dict = defaultdict(list) for sent in sents: print(part) head = Pinyin().get_pinyin(sent, tone_marks='marks', splitter=' ').split()[0] poem_dict[head].append(sent) with open('./poemDict.pk', 'wb') as f: pickle.dump(poem_dict, f) main()
피클 파일(poemDict.pk)의 내용을 확인할 수 있습니다.
피클 파일의 내용(일부)
물론 한 병음도 가능합니다. 여러 시에 해당합니다.
피클 파일을 읽고, 프로그램을 작성하고, 해당 프로그램을 exe 파일로 실행해 보세요. exe 파일을 컴파일할 때 오류를 방지하려면 xpinyin 모듈의init.py 파일을 다시 작성하고 파일의 모든 코드를 mypinyin.py에 복사한 후 코드에 다음 코드
data_path = os.path.join(os.path.dirname(os.path.abspath(__file__)), 'Mandarin.dat')
를 다시 작성해야 합니다.
data_path = os.path.join(os.getcwd(), 'Mandarin.dat')
의 경우 mypinyin.py 파일이 완성됩니다. 다음으로 시 솔리테어용 코드(Poem_Jielong.py)를 작성해야 합니다. 전체 코드는 다음과 같습니다.
import pickle from mypinyin import Pinyin import random import ctypes STD_INPUT_HANDLE = -10 STD_OUTPUT_HANDLE = -11 STD_ERROR_HANDLE = -12 FOREGROUND_DARKWHITE = 0x07 # 暗白色 FOREGROUND_BLUE = 0x09 # 蓝色 FOREGROUND_GREEN = 0x0a # 绿色 FOREGROUND_SKYBLUE = 0x0b # 天蓝色 FOREGROUND_RED = 0x0c # 红色 FOREGROUND_PINK = 0x0d # 粉红色 FOREGROUND_YELLOW = 0x0e # 黄色 FOREGROUND_WHITE = 0x0f # 白色 std_out_handle = ctypes.windll.kernel32.GetStdHandle(STD_OUTPUT_HANDLE) # 设置CMD文字颜色 def set_cmd_text_color(color, handle=std_out_handle): Bool = ctypes.windll.kernel32.SetConsoleTextAttribute(handle, color) return Bool # 重置文字颜色为暗白色 def resetColor(): set_cmd_text_color(FOREGROUND_DARKWHITE) # 在CMD中以指定颜色输出文字 def cprint(mess, color): color_dict = { : FOREGROUND_BLUE, : FOREGROUND_GREEN, : FOREGROUND_SKYBLUE, : FOREGROUND_RED, : FOREGROUND_PINK, : FOREGROUND_YELLOW, : FOREGROUND_WHITE } set_cmd_text_color(color_dict[color]) print(mess) resetColor() color_list = ['蓝色','绿色','天蓝色','红色','粉红色','黄色','白色'] # 获取字典 with open('./poemDict.pk', 'rb') as f: poem_dict = pickle.load(f) #for key, value in poem_dict.items(): #print(key, value) MODE = str(input('Choose MODE(1 for 人工接龙, 2 for 机器接龙): ')) while True: try: if MODE == '1': enter = str(input(' 请输入一句诗或一个字开始:')) while enter != 'exit': test = Pinyin().get_pinyin(enter, tone_marks='marks', splitter=' ') tail = test.split()[-1] if tail not in poem_dict.keys(): cprint('无法接这句诗。 ', '红色') MODE = 0 break else: cprint(' 机器回复:%s'%random.sample(poem_dict[tail], 1)[0], random.sample(color_list, 1)[0]) enter = str(input('你的回复:'))[:-1] MODE = 0 if MODE == '2': enter = input(' 请输入一句诗或一个字开始:') for i in range(10): test = Pinyin().get_pinyin(enter, tone_marks='marks', splitter=' ') tail = test.split()[-1] if tail not in poem_dict.keys(): cprint('------>无法接下去了啦...', '红色') MODE = 0 break else: answer = random.sample(poem_dict[tail], 1)[0] cprint('(%d)--> %s' % (i+1, answer), random.sample(color_list, 1)[0]) enter = answer[:-1] print(' (*****最多展示前10回接龙。*****)') MODE = 0 except Exception as err: print(err) finally: if MODE not in ['1','2']: MODE = str(input(' Choose MODE(1 for 人工接龙, 2 for 机器接龙): '))
이제 전체 프로젝트의 구조는 다음과 같습니다(Mandarin.dat 파일은 해당 폴더에서 복사됩니다). xpinyin 모듈):
Project file
이 폴더로 전환하고 다음 명령을 입력하여 exe 파일을 생성합니다.
pyinstaller -F Poem_jielong.py
생성된 exe 파일은 Poem_jielong.exe이며 이 폴더의 dist 폴더에 있습니다. exe가 성공적으로 실행되기 위해서는 poemDict.pk 및 Mandarin.dat 파일을 dist 폴더에 복사해야 합니다.
Poem_jielong.exe 파일을 실행하면 페이지는 다음과 같습니다.
exe 파일 시작 페이지
이 프로젝트에는 시 솔리테어 모드가 두 가지 있습니다. 하나는 수동 솔리테어입니다. 먼저 시나 단어를 입력하면 컴퓨터가 문장으로 응답하고 사용자는 문장으로 응답합니다. 이는 시 솔리테어의 규칙을 담당합니다. 다른 모드는 기계 솔리테어입니다. 단어를 입력하면 기계가 자동으로 다음 솔리테어 구절(최대 10개)을 출력합니다. 수동 솔리테어 모드를 먼저 테스트하세요:
수동 솔리테어
그런 다음 기계 솔리테어 모드를 테스트하세요:
위 내용은 Python을 사용하여 시 솔리테어 프로그램을 작성하는 방법의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!