flume 监听nginx日志丢失问题

wxmimperio
  • 720

flume监听nginx日志是否是增量监听?

场景:

nginx日志不断产生,flume agent一直监听,但由于网络原因,网断了。
channel为memary类型
此时nginx日志依然产生,但是flume此时无法发送,这个过程1小时。

一小时后网络恢复,flume继续发送数据。

请问,这1小时的断网时间,nginx日志是否丢失?
如果因为超出channel的memary丢失,则设置channel为File类型是否丢失?

回复
阅读 3.3k
1 个回答
Lunatictwo
  • 2
新手上路,请多包涵

flume常见的channel有memory/file/kafka等,如果用memory的话,在flume agent意外中断停止的时候,数据会丢失,如果发送失败,会暂存在memory中,不会丢失,除非oom。

撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进
宣传栏