加入收藏 | 设为首页 | 会员中心 | 我要投稿 柳州站长网 (https://www.0772zz.cn/)- 基础存储、数据迁移、云安全、数据计算、数据湖!
当前位置: 首页 > 站长资讯 > 动态 > 正文

Kafka读写硬盘为什么速度还那么快

发布时间:2021-03-13 16:20:19 所属栏目:动态 来源:互联网
导读:了,在Linux操作系统中,Linux会将磁盘中的一些数据读取到内存当中,我们称之为内存页。当需要读写硬盘的时候,都优先在内存页中进行处理。读的话大家比较好理解,就是缓存嘛,写的话如果只写在缓存没有落盘不是会形成脏数据么?的确如此,只有当脏页到达一定



了,在Linux操作系统中,Linux会将磁盘中的一些数据读取到内存当中,我们称之为内存页。当需要读写硬盘的时候,都优先在内存页中进行处理。读的话大家比较好理解,就是缓存嘛,写的话如果只写在缓存没有落盘不是会形成脏数据么?的确如此,只有当脏页到达一定比例之后,Linux操作系统才会把数据刷到磁盘当中。在机器发生掉电的时候,的确会出现脏数据。但是,我们更应该使用分布式写到多台机器上来从根本上解决这个问题。

并且,写在内存页的另外一个好处是减少应用内存的使用,我们都知道Apache Kafka是用Java语言编写的,不得不避免的便是Java的GC问题,随着应用内存的增多,垃圾回收的时间会更多,带来整体性能的下降。

零拷贝技术的使用

作为一个消息系统,不可避免的便是消息的拷贝,常规的操作,一条消息,需要从创建者的socket到应用,再到操作系统内核,然后才能落盘。同样,一条消息发送给消费者也要从磁盘到内核到应用再到接受者的socket,中间经过了多次不是很有必要的拷贝。

在Linux操作系统中,同样为我们提供了零拷贝技术,零拷贝技术并非真的不用拷贝,而是大大地减少了拷贝次数。举个例子,原本从磁盘到接收者Socket中,需要见过内核态,又要经过Apache Kafka应用,那么有没有可能直接越过这两层状态,达到更少的拷贝次数呢?Java 的NIO库,帮我们实现了这一切,借用JavaNIO库封装的API,我们可以直接使用Linux操作系统的零拷贝技术,让系统更快。

总结

以上三点,便是Apache Kafka虽然使用了硬盘存储,但是仍然可以速度很快的原因,当然,除此之外,Apache Kafka还有很多特性让他很快,如果你有兴趣,欢迎大家关注我,共同学习,共同进步。大家的支持是我继续唠嗑的动力。

(编辑:柳州站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    热点阅读