MesosCon 2014

by Iven Hsu — on  , 

cover-image

最近有计划重拾 Blog,写一些工作相关的事情。目前做的工作和 Mesos、Docker、Spark 等相关,所以主要也就是这些。

Mesos 和 MesosCon

Apache Mesos 是伯克利 AMPLab 开发的一套集群资源管理系统,简单来说就是能将各种长短任务、服务、大数据计算(比如 Hadoop、Spark、Storm)等等全都整合在一个集群中的一套系统。

MesosCon 顾名思义,就是 Mesos 的技术峰会,各种使用 Mesos 技术,或者相关的公司(Twitter、Netflix、Google 等)会轮番到上面吹牛。这次是第一次 MesosCon,8 月 21 日在芝加哥举行。

下面就说说一些吹牛中的亮点,完整的日程在这里

Mesos 0.20.0

首先是 Mesos 的新版本特性:

  • 原生的 Docker 支持。也就是用 Docker 来隔离任务,这无疑是众望所归。
  • 支持在一台机器上使用多个 Containerizer。如果我没理解错,意思就是现在可以让 Hadoop 运行在 CGroups 隔离上,而 Marathon 运行在 Docker 基础上。这样 Docker 更加实用化了,因为为 Hadoop 这种不怎么需要文件系统隔离的框架做个 Docker 镜像,实在不怎么值得。不过 Docker 支持应该还是处于早期状态,估计不会太稳定。
  • Container 级别 Containerizer 的网络监控,会将数据暴露在 HTTP endpoint 里。
  • 框架的用户管理功能,允许授权用户来提交任务,乃至远程关闭框架。
  • 框架的频次限制功能,这样可以保证重要性较低的框架(开发、测试的框架)不会抢占重要性较高的框架(线上框架)。
  • 一些原本 bundle 的第三方库(glog、libev 等)被分离出来,用户可以使用系统自带的库了。
  • 一些 HTTP endpoint 的修改。

到目前为止,Mesos 0.20.0 还没正式发布,不过根据邮件列表,rc2 应该就是正式版本了。

第一天

第一天主要是各大公司介(chui)绍(xu)自己的产品,视频和 Slides 似乎还没有放出来。其中的亮点有:

  • Singularity: HubSpot 开发的新的 Mesos 框架,亮点是可以同时运行和管理长短任务、一次性任务和定时任务等。从截图来看似乎还比较早期,不过文档比较全。
  • eBay 演示了 Mesos 上运行 YARN。
  • Twitter 再次演示了 Aurora。
  • 另外 Google、Netflix、Docker、Airbnb、Atlassian、Mesosphere 等公司也都介绍了自己的相关经验。

第二天

MesosCon 第二天举行了黑客马拉松,涌现了一批有趣的项目,比如:

  • Tachyon-Mesos: 在 Mesos 上运行 Tachyon
  • mesoshub: Marathon 和 HAProxy 整合的 Web UI。
  • pesos: 纯 Python 实现的 Mesos 框架 API。
  • Jenkins on Mesos 的改进:在 Docker 中运行 Jenkins Slave。
  • HA HDFS on Mesos。
  • riak-mesos: 在 Mesos 上运行分布式数据库 Riak

总结

总体来说 Mesos 还是欣欣向荣的,各种知名公司来抛头露面。没怎么关注 YARN 社区,不知道那边怎么样。

评论