嗯嗯


认真的过好每一天.


Oh What a World

连接池

连接池的定义与主要功能

在软件工程中,连接池(英语:connection pool)是维护的数据库连接的缓存,以便在将来需要对数据库发出请求时可以重用连接。连接池用于提高在数据库上执行命令的性能。为每个用户打开和维护数据库连接,尤其是对动态数据库驱动的网站应用程序发出的请求,既昂贵又浪费资源。在连接池中,创建连接之后,将连接放在池中并再次使用,这样就不必建立新的连接。如果所有连接都正在使用,则创建一个新连接并将其添加到池中。连接池还减少了用户必须等待建立与数据库的连接的时间。1

连接池的数据结构

一般来说连接池的大小是一个动态的范围,连接池内部的连接实例2数量会随着应用程序的峰值而变化; 高峰时期连接池内连接实例2数量高,低峰时期连接池内连接实例2数量低;在应用程序的高低峰 转变过程中,利用堆栈3的数据结构(先入后出)快速标记出闲置实例,方便定期清理;

结构示意图

数据结构

连接池的使用

连接池的使用我个人认为有两种方法:第一种是块使用法,第二种是行使用法;其中的的定义标准是以代码作用域为参考标准;

块使用法

块使用法就是我们在使用连接池时候将连接实例取出后自行放回; 该种使用方法一般在代码中代码作用域比较大块;

伪代码如下类似:

 1package main
 2
 3import "time"
 4
 5func main() {
 6    // 从连接池中取出实例
 7    instance := pool.pop()
 8  
 9    defer pool.push(instance)
10    
11    instance.do("hello world 1")
12    time.Sleep(time.Millisecond * 10)
13
14    instance.do("hello world 2")
15    time.Sleep(time.Millisecond * 10)
16
17    instance.do("hello world 3")
18    time.Sleep(time.Millisecond * 10)
19}

行使用法

行使用法是我们利用代理类或代理方法接管对连接实例的操作; 在业务代码上是无需从连接池中取出实例再操作;

 1package main
 2
 3func proxy(command string) {
 4    instance := pool.pop()
 5    defer pool.push(instance)
 6
 7    // proxy command
 8    instance.do(command)
 9}
10
11func main() {
12    proxy("hello world 1")
13    time.Sleep(time.Millisecond * 10)
14
15    proxy("hello world 2")
16    time.Sleep(time.Millisecond * 10)
17
18    proxy("hello world 3")
19    time.Sleep(time.Millisecond * 10)
20}

两种使用法优缺点对比

块使用法优点是在对连接实例的密集操作中减少了对连接池的取出放置操作(仅1次); 但是缺点也显而易见,连接实例被长时间(相对来说)持有,如果处于高并发接口,很容易吃空连接池,导致连接池资源耗尽;

行使用法的优缺点与块使用法的优缺点是相对的;理念是对连接实例的快拿快放,执行完单行指令立马将连实例回收,保障其他资源在从连接池取资源时等待时间更短; 更像是交替使用;

两种使用法对比示意图

示意图

两种使用法推荐场景

块使用法在连接池达到最大连接数之前的执行时间是快于行使用法;但是行使用法在高并发场景下,总体的执行时间是远快于块使用法;

  • 块使用法:推荐在子进程中长时间持有单个实例连接的持续性高频操作;
  • 行使用法:在高并发业务场景加快对资源的释放,避免由于连接池资源耗尽导致问题;

并且当并发高于甚至远高于连接池最大连接数时;两种使用方法的差距会非常明显;可以参考BenchMark;

Benchmark

环境:

1goos: darwin
2goarch: amd64
3cpu: Intel(R) Core(TM) i9-9880H CPU @ 2.30GHz

样本

  • 测试1:最小连接数10,最大连接数30
  • 测试2:最小连接数10,最大连接数100
  • 测试3:最小连接数10,最大连接数300

对比图

y轴越高速度越慢,ns/op指每次处理需要多少纳秒

benchmark

样本结果

 1# 样本一
 2goos: darwin
 3goarch: amd64
 4cpu: Intel(R) Core(TM) i9-9880H CPU @ 2.30GHz
 5BenchmarkConnectionBlock
 6BenchmarkConnectionBlock-16              810       1452375 ns/op
 7BenchmarkConnectionInline
 8BenchmarkConnectionInline-16            2670        488782 ns/op
 9
10# 样本二
11goos: darwin
12goarch: amd64
13cpu: Intel(R) Core(TM) i9-9880H CPU @ 2.30GHz
14BenchmarkConnectionBlock
15BenchmarkConnectionBlock-16             2161        538600 ns/op
16BenchmarkConnectionInline
17BenchmarkConnectionInline-16            3250        370422 ns/op
18
19# 样本三
20goos: darwin
21goarch: amd64
22cpu: Intel(R) Core(TM) i9-9880H CPU @ 2.30GHz
23BenchmarkConnectionBlock
24BenchmarkConnectionBlock-16             3247        376621 ns/op
25BenchmarkConnectionInline
26BenchmarkConnectionInline-16            3169        376633 ns/op

测试代码

example/connection-pool_benchmark.go

  1package connection_pool
  2
  3import (
  4    "fmt"
  5    "github.com/gomodule/redigo/redis"
  6    "sync"
  7    "testing"
  8    "time"
  9)
 10
 11func getPool() *redis.Pool {
 12    return &redis.Pool{
 13        MaxActive:   30,
 14        IdleTimeout: time.Second * 10,
 15        MaxIdle:     10,
 16        Wait:        true,
 17        Dial: func() (redis.Conn, error) {
 18            return redis.Dial("tcp", "localhost:6379")
 19        },
 20    }
 21}
 22
 23//TestSingle 测试联通性
 24func TestSingle(t *testing.T) {
 25    pool := getPool()
 26    defer pool.Close()
 27
 28    conn := pool.Get()
 29    defer conn.Close()
 30
 31    _, err := conn.Do("INFO", "all")
 32    if err != nil {
 33        t.Error(err)
 34        return
 35    }
 36    //log.Println(err)
 37    //log.Println(string(res.([]byte)))
 38}
 39
 40func BenchmarkConnectionBlock(b *testing.B) {
 41    pool := getPool()
 42    defer pool.Close()
 43
 44    do := func(idx int) {
 45        conn := pool.Get()
 46
 47        defer conn.Close()
 48
 49        cacheKey := fmt.Sprintf("%s-%d", b.Name(), idx)
 50
 51        conn.Do("SET", cacheKey, 0)
 52        <-time.After(time.Millisecond * 10)
 53
 54        conn.Do("INCR", cacheKey, 1)
 55        <-time.After(time.Millisecond * 10)
 56
 57        conn.Do("DECR", cacheKey, 1)
 58        <-time.After(time.Millisecond * 10)
 59
 60        conn.Do("DEL", cacheKey)
 61
 62    }
 63
 64    //pool.Conn()
 65    b.ResetTimer()
 66
 67    wg := sync.WaitGroup{}
 68    // 模拟并发请求
 69    for i := 0; i < b.N; i++ {
 70        wg.Add(1)
 71        go func(i int) {
 72            defer wg.Done()
 73            do(i)
 74        }(i)
 75    }
 76
 77    wg.Wait()
 78}
 79
 80func BenchmarkConnectionInline(b *testing.B) {
 81    pool := getPool()
 82    defer pool.Close()
 83
 84    proxy := func(command string, args ...any) {
 85        conn := pool.Get()
 86        defer conn.Close()
 87        conn.Do(command, args...)
 88    }
 89
 90    do := func(idx int) {
 91        cacheKey := fmt.Sprintf("%s-%d", b.Name(), idx)
 92
 93        proxy("SET", cacheKey, 0)
 94        <-time.After(time.Millisecond * 10)
 95
 96        proxy("INCR", cacheKey, 1)
 97        <-time.After(time.Millisecond * 10)
 98
 99        proxy("DECR", cacheKey, 1)
100        <-time.After(time.Millisecond * 10)
101
102        proxy("DEL", cacheKey)
103    }
104
105    b.ResetTimer()
106
107    wg := sync.WaitGroup{}
108    // 模拟并发请求
109    for i := 0; i < b.N; i++ {
110        wg.Add(1)
111        go func(i int) {
112            defer wg.Done()
113            do(i)
114        }(i)
115    }
116
117    wg.Wait()
118}

参考资料


  1. wiki-连接池 ↩︎

  2. 连接实例: 面向对象的一种抽象说法,将连接实例化; ↩︎ ↩︎ ↩︎

  3. wiki-堆栈 ↩︎

更早的文章

Hello World

hello world …

继续阅读