Skip to content

Commit 14bfc98

Browse files
winlinvipwinlinvip
committedFeb 27, 2021
RTC: Support object cache pool. 4.0.75
·
v6.0.48v5.0-a0
1 parent 36f5524 commit 14bfc98

File tree

2 files changed

+2
-1
lines changed

2 files changed

+2
-1
lines changed
 

‎README.md

Lines changed: 1 addition & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -156,6 +156,7 @@ For previous versions, please read:
156156

157157
## V4 changes
158158

159+
* v4.0, 2021-02-27, RTC: Support object cache pool. 4.0.75
159160
* v4.0, 2021-02-12, RTC: Support high performance timer about 25ms resolution. 4.0.72
160161
* v4.0, 2021-02-10, RTC: Refine performance about 700+ streams. 4.0.71
161162
* v4.0, 2021-02-08, RTC: Print stat for pli and timer every 5s. 4.0.70

‎trunk/src/core/srs_core_version4.hpp

Lines changed: 1 addition & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -24,6 +24,6 @@
2424
#ifndef SRS_CORE_VERSION4_HPP
2525
#define SRS_CORE_VERSION4_HPP
2626

27-
#define SRS_VERSION4_REVISION 74
27+
#define SRS_VERSION4_REVISION 75
2828

2929
#endif

2 commit comments

Comments
 (2)

winlinvip commented on Feb 28, 2021

@winlinvip
winlinvip
on Feb 28, 2021
MemberAuthor

RTC有非常多的RTP包，由于对于实时性要求很高，所以每个Player每个时刻能处理的包却并不能太多（也就是服务器不能做延迟批量处理包）。
而直播很不一样，直播服务器可以主动缓存几百毫秒甚至秒级别的数据，批量处理和发送，以获得更高的性能。

因此，RTC对于对象的缓存就很重要，不断的new和delete对象，会导致性能低下。

首先，我们要将RTP Packet的缓存区分配，改成对象自己管理：

  • 改进代码，避免外部分配内存：ccb24a1 和 8bdf71b
  • RTP Packet自己管理内存：2ae7e22 和 58d71c2
  • 将RTP Packet的底层缓冲区，改成1500字节大小，这样不同对象分配的内存块可以复用：d7f4de6

然后，我们使用对象池分配内存和对象：

  • 使用池分配RTP Packet和共享的Shared Message： 1833780
  • 不直接new对象，而是由池分配和回收：439a7fa
  • RTP Packet和Shared Message应该由不同的池分配，他们生命周期不同：d5b210a
  • 将RTP Packet的Payload，也改成由池管理：bffe9c5

关于对象池的性能优化：

其他重要说明：

  • 完善的统计信息，验证多少对象是new的，多少是由对象池分配的：e79293a
  • 只缓存1500字节的RTC UDP的包，因为只有RTC在消耗包，如果所有的Shared Message都回收到池中，在RTMP转RTC时池会不断变大：30809ae
  • 限制对象池的大小，按照MB估算，超过后丢包：7b3b738 和 a29d6cb
  • 支持Reload对象池的开关和配置，可以动态观察池的作用：36f5524

winlinvip commented on May 14, 2021

@winlinvip
winlinvip
on May 14, 2021
MemberAuthor

Object Cache Pool，压测发现作用有限，已经从4.0的代码删除：f7b3225

代码保留在：feature/object_cache_pool

数据请看如下两个图对比：

  • 从感受来说，开启Cache后卡顿更多，在最卡的之前也会有卡；而关闭Cache后，前面一段没有卡顿。
  • CPU分布看，开启Cache后用户空间占用更多，关闭后内核空间更多，说明用户空间的效率提升了。
  • 发送的包数目是差不多的，带宽趋势差不多，关闭Cache后，用户空间函数更低，比如SrsRtpPacket2::encode等。

开启Cache

image

关闭Cache

image

Please sign in to comment.