Implementing a distributed search engine using go-zero-Golang-php.cn

Implementing a distributed search engine using go-zero

WBOY

Release： 2023-06-22 17:59:18

Original

1433 people have browsed it

随着互联网时代的来临，搜索引擎的作用越来越重要。作为网民最常用的工具之一，搜索引擎不仅为我们提供了便捷的检索方式，也为网络信息的筛选和分类提供了支持。但对于大规模的数据量和用户访问量的处理，传统的搜索引擎架构已经不能满足需求。

分布式搜索引擎架构能够有效解决传统架构中的瓶颈问题，通过将不同的任务分配到不同的节点上执行，充分利用集群的计算资源，提高系统的响应速度和稳定性。在当前分布式架构技术中，go-zero框架是一个非常优秀的选择。

go-zero是一个基于Golang开发的轻量级开源微服务框架。它提供了一整套工具链，包括代码生成、参数校验、路由、日志、错误处理、缓存、限流等功能，大大简化了微服务的开发和维护工作。在分布式搜索引擎构建中，go-zero框架可以帮助我们快速实现高性能、高可用的系统。

下面，我们将结合实例来介绍如何使用go-zero构建分布式搜索引擎。

第一步：搭建环境

首先，我们需要安装Golang和go-zero框架。安装完毕后，使用go-zero提供的工具命令行生成一个项目模板。在命令行中输入：

goctl api new search

Copy after login

即可生成一个新项目。在此基础上，我们可以开始进行开发。

第二步：设置配置

在开发分布式搜索引擎时，最重要的一步是定义系统的分布式配置。我们需要在项目根目录下创建一个名为search-api.yaml的配置文件，并在其中定义以下配置信息：

Name: search # 服务名
Description: "搜索服务" # 服务描述
Version: 1.0.0 # 服务版本

Host: 127.0.0.1 # 服务绑定IP地址
Port: 8888 # 服务绑定端口号

Redis:
  Host: 127.0.0.1 # Redis服务地址
  Port: 6379 # Redis服务端口号
  Password: "" # Redis密码

Etcd:
  Hosts:
    - 127.0.0.1:2379 # Etcd集群地址

Copy after login

在配置文件中，我们定义了服务名、描述、版本、服务绑定地址和端口号，还包括了Redis和Etcd的配置信息。其中，Redis用于缓存搜索结果，Etcd用于实现服务注册和发现。

第三步：定义API接口

接下来，我们需要定义搜索引擎的API接口。在search/api/search.api中，定义以下内容：

syntax = "proto3";

package search.api;

option go_package = "search/api/search";

message Request {
    string keyword = 1;
    int32 page = 2;
    int32 size = 3;
}

message Response {
    repeated Result result = 1;
}

message Result {
    string title = 1;
    string url = 2;
    string abstract = 3;
}

service Search {
    rpc Query(Request) returns (Response);
}

Copy after login

在搜索API中，我们定义了Request请求和Response响应参数，以及Result搜索结果结构体。搜索API包含一个Query接口，接受用户搜索关键词、分页信息等参数，返回搜索结果。

第四步：实现业务逻辑

有了API接口定义之后，我们可以开始编写业务逻辑代码。在search/internal/search/search.go中，实现搜索请求的处理和搜索结果的缓存功能。具体代码实现详见注释：

package search

import (
    "context"
    "encoding/json"

    "github.com/Yesterday17/go-search-engine/global"
    "github.com/Yesterday17/go-search-engine/internal/search/model"
    "github.com/Yesterday17/go-search-engine/internal/search/service"
    "github.com/Yesterday17/go-zero/core/stores/redis"
    "github.com/Yesterday17/go-zero/rest/httpx"
)

type Search struct {
    redis      *redis.Redis
    searchFunc func(string, int32, int32) ([]model.Result, error)
}

func NewSearch(redis *redis.Redis) *Search {
    return &Search{
        redis: redis,
        searchFunc: service.Search.implement,
    }
}

func (s *Search) Query(ctx context.Context, req *model.Request) (*model.Response, error) {
    resp := &model.Response{}
    key := generateKey(req.Keyword, req.Page, req.Size)

    // 搜索结果缓存
    result, err := s.redis.Get(key).Result()
    if err == nil {
        if err := json.Unmarshal([]byte(result), resp); err != nil {
            return nil, err
        }
        return resp, nil
    }

    result, err = s.searchFunc(req.Keyword, req.Page, req.Size)
    if err != nil {
        return nil, err
    }

    // 将搜索结果序列化为json，存储至redis
    data, err := json.Marshal(result)
    if err != nil {
        return nil, err
    }

    if err := s.redis.Set(key, string(data), global.SearchResultExpire).Err(); err != nil {
        return nil, err
    }

    resp.Result = result
    return resp, nil
}

func generateKey(keyword string, page, size int32) string {
    return "search_" + keyword + "_" + httpx.ConvertIntToString(int(page)) + "_" +
        httpx.ConvertIntToString(int(size))
}

Copy after login

在代码中，我们实现了Query方法，接收用户请求，从Redis中检索搜索结果。如果Redis中存在该搜索结果，则直接返回缓存结果；如果不存在，则调用service.Search.implement方法执行搜索，同时将搜索结果序列化为json并缓存至Redis中。

第五步：启动服务

最后一步是将搜索服务启动起来。我们在search目录中，在命令行运行以下命令：

go run search.go -f api/search.api -s svc.yaml -c search-api.yaml

Copy after login

在服务成功启动后，我们可以通过访问localhost:8888/search/query接口测试搜索功能的实现。

总结

本文介绍了如何使用go-zero框架快速构建分布式搜索引擎。在分布式系统开发中，go-zero框架的灵活性和高效性得到了广泛认可，并在微服务、高并发业务场景中得到了广泛的应用。希望本文对想要掌握分布式系统开发技术的读者有所帮助。

The above is the detailed content of Implementing a distributed search engine using go-zero. For more information, please follow other related articles on the PHP Chinese website!