如何优雅地在进程内管理多个服务实例?

2026-05-27 16:221阅读0评论SEO基础
  • 内容介绍
  • 文章标签
  • 相关推荐

本文共计1206个文字,预计阅读时间需要5分钟。

如何优雅地在进程内管理多个服务实例?

前言:在go-zero社区中,经常会遇到同学问,API gateway和RPC service是否可以放在同一个进程内?怎么配置?

解答:可以放在同一个进程内。配置方式如下:

前言

在 go-zero 社区里,经常会有同学问,把 API gatewayRPC service 放在同一个进程内可不可以?怎么弄?有时也会有同学把对外服务和消费队列放在一个进程内。咱们姑且不说此种用法合理与否,因为各个公司的业务场景和开发模式的差异,我们就只来看看此类问题怎么解比较优雅。

问题举例

我们用两个 HTTP 服务来举例,我们有这样两个服务,需要启动在一个进程内的两个不同端口。代码如下:

package main import ( "fmt" "net/localhost:8080/morning HTTP/1.1 200 OK Date: Mon, 18 Apr 2022 02:10:34 GMT Content-Length: 9 Content-Type: text/plain; charset=utf-8 morning! $ curl -i localhost:8081/evening curl: (7) Failed to connect to localhost port 8081 after 4 ms: Connection refused

为什么只有 morning 成功,而 evening 无法请求呢?

我们在 main 里面加上打印语句试试

func main() { fmt.Println("Start morning service...") var morning Morning morning.Start() defer morning.Stop() fmt.Println("Start evening service...") var evening Evening evening.Start() defer evening.Stop() }

重新启动

$ go run main.go Start morning service...

发现只打印了 Start morning service…,原来 evening 服务压根没有启动。究其原因,是因为 morning.Start() 阻塞了当前 goroutine,后续代码就得不到执行了。

第二次尝试

这时,WaitGroup 就可以派上用场了。WaitGroup 顾名思义,就是用来 wait 一组操作,等待它们通知可以继续。让我们来尝试一下。

func main() { var wg sync.WaitGroup wg.Add(2) go func() { defer wg.Done() fmt.Println("Start morning service...") var morning Morning defer morning.Stop() morning.Start() }() go func() { defer wg.Done() fmt.Println("Start evening service...") var evening Evening defer evening.Stop() evening.Start() }() wg.Wait() }

启动试试

如何优雅地在进程内管理多个服务实例?

$ go run main.go Start evening service... Start morning service...

好,两个服务都起来了,我们用 curl 验证一下

$ curl -i localhost:8080/morning HTTP/1.1 200 OK Date: Mon, 18 Apr 2022 02:28:33 GMT Content-Length: 9 Content-Type: text/plain; charset=utf-8 morning! $ curl -i localhost:8081/evening HTTP/1.1 200 OK Date: Mon, 18 Apr 2022 02:28:36 GMT Content-Length: 9 Content-Type: text/plain; charset=utf-8 evening!

确实都可以了,我们看到我们使用 WaitGroup 的流程是

  1. 记得我们有几个需要 wait 的服务
  2. 一个一个添加服务
  3. 等待所有服务结束

让我们看看 go-zero 是怎么做的~

第三次尝试

go-zero 里,我们提供了一个 ServiceGroup 工具,方便管理多个服务的启动和停止。让我们看看带入我们的场景是怎么做的。

import "github.com/zeromicro/go-zero/core/service" // more code func main() { group := service.NewServiceGroup() defer group.Stop() group.Add(Morning{}) group.Add(Evening{}) group.Start() }

可以看到,代码的可读性好了很多,并且我们也不会不小心算错该给 WaitGroup 加几了。并且 ServiceGroup 还保证了后启动的服务先 Stop,跟 defer 效果一致,这样的行为便于资源的清理。

ServiceGroup 不光只是管理了每个服务的 Start/Stop,同时也提供了 graceful shutdown,当收到 SIGTERM 信号的时候会主动调用每个服务的 Stop 方法,对于 HTTP 服务,可以通过 server.Shutdown 来优雅退出,对于 gRPC 服务来说,可以通过 server.GracefulStop() 来优雅退出。

总结

ServiceGroup 的实现其实也是比较简单的,代码一共82行。

$ cloc core/service/servicegroup.go ------------------------------------------------------------------ Language files blank comment code ------------------------------------------------------------------ Go 1 22 14 82 ------------------------------------------------------------------

虽然代码短小精悍,但是在 go-zero 里却每个服务(Restful, RPC, MQ)基本都是通过 ServiceGroup 来管理的,可以说非常方便,代码值得一读。

项目地址

github.com/zeromicro/go-zero

欢迎使用 go-zerostar 支持我们!

微信交流群

关注『微服务实践』公众号并点击 交流群 获取社区群二维码。

本文共计1206个文字,预计阅读时间需要5分钟。

如何优雅地在进程内管理多个服务实例?

前言:在go-zero社区中,经常会遇到同学问,API gateway和RPC service是否可以放在同一个进程内?怎么配置?

解答:可以放在同一个进程内。配置方式如下:

前言

在 go-zero 社区里,经常会有同学问,把 API gatewayRPC service 放在同一个进程内可不可以?怎么弄?有时也会有同学把对外服务和消费队列放在一个进程内。咱们姑且不说此种用法合理与否,因为各个公司的业务场景和开发模式的差异,我们就只来看看此类问题怎么解比较优雅。

问题举例

我们用两个 HTTP 服务来举例,我们有这样两个服务,需要启动在一个进程内的两个不同端口。代码如下:

package main import ( "fmt" "net/localhost:8080/morning HTTP/1.1 200 OK Date: Mon, 18 Apr 2022 02:10:34 GMT Content-Length: 9 Content-Type: text/plain; charset=utf-8 morning! $ curl -i localhost:8081/evening curl: (7) Failed to connect to localhost port 8081 after 4 ms: Connection refused

为什么只有 morning 成功,而 evening 无法请求呢?

我们在 main 里面加上打印语句试试

func main() { fmt.Println("Start morning service...") var morning Morning morning.Start() defer morning.Stop() fmt.Println("Start evening service...") var evening Evening evening.Start() defer evening.Stop() }

重新启动

$ go run main.go Start morning service...

发现只打印了 Start morning service…,原来 evening 服务压根没有启动。究其原因,是因为 morning.Start() 阻塞了当前 goroutine,后续代码就得不到执行了。

第二次尝试

这时,WaitGroup 就可以派上用场了。WaitGroup 顾名思义,就是用来 wait 一组操作,等待它们通知可以继续。让我们来尝试一下。

func main() { var wg sync.WaitGroup wg.Add(2) go func() { defer wg.Done() fmt.Println("Start morning service...") var morning Morning defer morning.Stop() morning.Start() }() go func() { defer wg.Done() fmt.Println("Start evening service...") var evening Evening defer evening.Stop() evening.Start() }() wg.Wait() }

启动试试

如何优雅地在进程内管理多个服务实例?

$ go run main.go Start evening service... Start morning service...

好,两个服务都起来了,我们用 curl 验证一下

$ curl -i localhost:8080/morning HTTP/1.1 200 OK Date: Mon, 18 Apr 2022 02:28:33 GMT Content-Length: 9 Content-Type: text/plain; charset=utf-8 morning! $ curl -i localhost:8081/evening HTTP/1.1 200 OK Date: Mon, 18 Apr 2022 02:28:36 GMT Content-Length: 9 Content-Type: text/plain; charset=utf-8 evening!

确实都可以了,我们看到我们使用 WaitGroup 的流程是

  1. 记得我们有几个需要 wait 的服务
  2. 一个一个添加服务
  3. 等待所有服务结束

让我们看看 go-zero 是怎么做的~

第三次尝试

go-zero 里,我们提供了一个 ServiceGroup 工具,方便管理多个服务的启动和停止。让我们看看带入我们的场景是怎么做的。

import "github.com/zeromicro/go-zero/core/service" // more code func main() { group := service.NewServiceGroup() defer group.Stop() group.Add(Morning{}) group.Add(Evening{}) group.Start() }

可以看到,代码的可读性好了很多,并且我们也不会不小心算错该给 WaitGroup 加几了。并且 ServiceGroup 还保证了后启动的服务先 Stop,跟 defer 效果一致,这样的行为便于资源的清理。

ServiceGroup 不光只是管理了每个服务的 Start/Stop,同时也提供了 graceful shutdown,当收到 SIGTERM 信号的时候会主动调用每个服务的 Stop 方法,对于 HTTP 服务,可以通过 server.Shutdown 来优雅退出,对于 gRPC 服务来说,可以通过 server.GracefulStop() 来优雅退出。

总结

ServiceGroup 的实现其实也是比较简单的,代码一共82行。

$ cloc core/service/servicegroup.go ------------------------------------------------------------------ Language files blank comment code ------------------------------------------------------------------ Go 1 22 14 82 ------------------------------------------------------------------

虽然代码短小精悍,但是在 go-zero 里却每个服务(Restful, RPC, MQ)基本都是通过 ServiceGroup 来管理的,可以说非常方便,代码值得一读。

项目地址

github.com/zeromicro/go-zero

欢迎使用 go-zerostar 支持我们!

微信交流群

关注『微服务实践』公众号并点击 交流群 获取社区群二维码。