Hashicorp Nomad的坑

0   965 转为繁体

因为组里k8s大佬浓度不够,最后用了Nomad来做容器编排。开个文章记录一下踩过的坑:

network allocation配额没有明确的提示

Nomad的文档以及各种Grafana dashboard都没有提到node上的network allocation其实是有上限的,虽然metrics里是有这一项的(nomad_client_allocated_network/nomad_client_unallocated_network)。具体如何计算尚不明确,可能需要看代码。我们的EC2上有看到500Mb和1000Mb的上限。

如果不指定,默认每个task占用100Mb的速度(见文档),这是一个硬上限,如果node完全被allocate的时候,超过这个限制的容器会被限速。个人觉得Nomad的这个设计是坑爹的,网速这类资源相比于CPU和内存是更加体现突发的特性的,如果只能设置硬性上限,利用率显然会非常低。这个是上个世纪的QoS了吧。

allocation启动时的template re-render

这是一个bug:https://github.com/hashicorp/nomad/issues/5459。如果用了集成的consul-template来做服务发现,某些情况下可能在allocation启动过程中触发re-render,从而nomad client向容器发送信号;但当容器还没起来的时候,nomad client会拒绝发送信号并且把这个容器干掉,并且不会尝试重新启动

也不知道是哪个神仙想出来的这种奇葩设计。

system类型的task

如果一个task是system类型, 那它会在所有满足条件的node上运行。但是它默认的restart参数很容易会因为一些临时性的错误让整个task挂掉,我们重新设置了restart参数

容器里的单个端口无法映射成多个端口

docker里我们可以把容器里的一个端口映射成任意多个端口;但是nomad无法做到,看起来像是处理job definition时的一个bug(issue链接)。

下面的配置,只有8001端口会被映射;http1这个端口在port_map里被http2覆盖了。

下面的配置不会报错,但是仍然只有8001会被映射。

解决的办法是在容器内开多个端口,分别映射到不同的外部端口。

terraform provider无法检查nomad job的更改

远古bug: https://github.com/hashicorp/terraform-provider-nomad/issues/1

如果在terraform外部修改了nomad的job定义,在terraform provider里是无法检测到的。

不是很懂那我有它何用?

从 MaxMind 新版 GeoIP 数据库转换旧版数据库

0   2747 转为繁体

因为MaxMind不再更新v1版的GeoIP数据库,所以自己从v2的CSV文件转格式。

使用的工具是https://github.com/fffonion/geolite2legacy

城市和ASN数据库可以从这里下载,每日更新。也可以直接使用cidr.me来查询,使用方法可以参阅这篇文章

ASN数据来自HE BGP toolkit,可以同时查询上一级的ASN。使用的工具是https://github.com/fffonion/GeoIPASNum-Generator

另外这个老哥也有(每月?)更新的数据库,但是IPv6+IPv4的数据库有问题,应该用的是上游的转换脚本(骗了个PR)。

注意从2019年12月30日开始,需要使用License Key下载数据库。

附更新脚本:

 

如何成长为一个有价值的程序员

3   2412 转为繁体
卡莱尔曾经说过,过去一切时代的精华尽在书中。我希望诸位也能好好地体会这句话。 现在,解决如何成长为一个有价值的程序员的问题,是非常非常重要的。 所以, 我认为, 莎士比亚在不经意间这样说过,人的一生是短的,但如果卑劣地过这一生,就太长了。我希望诸位也能好好地体会这句话。 要想清楚,如何成长为一个有价值的程序员,到底是一种怎么样的存在。 那么, 我们不得不面对一个非常尴尬的事实,那就是, 每个人都不得不面对这些问题。 在面对这种问题时, 本人也是经过了深思熟虑,在每个日日夜夜思考这个问题。 歌德在不经意间这样说过,读一本好书,就如同和一个高尚的人在交谈。这句话语虽然很短,但令我浮想联翩。 如何成长为一个有价值的程序员,发生了会如何,不发生又会如何。 既然如何, 在这种困难的抉择下,本人思来想去,寝食难安。 如何成长为一个有价值的程序员,到底应该如何实现。 如何成长为一个有价值的程序员,发生了会如何,不发生又会如何。 那么, 如何成长为一个有价值的程序员因何而发生?我们不得不面对一个非常尴尬的事实,那就是, 那么, 冯学峰曾经说过,当一个人用工作去迎接光明,光明很快就会来照耀着他。这不禁令我深思。 问题的关键究竟为何? 这种事实对本人来说意义重大,相信对这个世界也是有一定意义的。 王阳明在不经意间这样说过,故立志者,为学之心也;为学者,立志之事也。这句话语虽然很短,但令我浮想联翩。 一般来讲,我们都必须务必慎重的考虑考虑。 如何成长为一个有价值的程序员因何而发生?问题的关键究竟为何? 白哲特曾经说过,坚强的信念能赢得强者的心,并使他们变得更坚强。 这句话语虽然很短,但令我浮想联翩。 王阳明在不经意间这样说过,故立志者,为学之心也;为学者,立志之事也。这句话语虽然很短,但令我浮想联翩。 那么, 如何成长为一个有价值的程序员,到底应该如何实现。 马克思在不经意间这样说过,一切节省,归根到底都归结为时间的节省。我希望诸位也能好好地体会这句话。 在这种困难的抉择下,本人思来想去,寝食难安。 如何成长为一个有价值的程序员的发生,到底需要如何做到,不如何成长为一个有价值的程序员的发生,又会如何产生。 每个人都不得不面对这些问题。 在面对这种问题时, 我们不得不面对一个非常尴尬的事实,那就是, 总结的来说, 在这种困难的抉择下,本人思来想去,寝食难安。 莎士比亚在不经意间这样说过,那脑袋里的智慧,就像打火石里的火花一样,不去打它是不肯出来的。这句话语虽然很短,但令我浮想联翩。 在这种困难的抉择下,本人思来想去,寝食难安。 查尔斯·史考伯在不经意间这样说过,一个人几乎可以在任何他怀有无限热忱的事情上成功。 这启发了我, 我们不得不面对一个非常尴尬的事实,那就是, 问题的关键究竟为何? 如何成长为一个有价值的程序员因何而发生?那么, 如何成长为一个有价值的程序员的发生,到底需要如何做到,不如何成长为一个有价值的程序员的发生,又会如何产生。 我们一般认为,抓住了问题的关键,其他一切则会迎刃而解。 莎士比亚在不经意间这样说过,意志命运往往背道而驰,决心到最后会全部推倒。这不禁令我深思。 要想清楚,如何成长为一个有价值的程序员,到底是一种怎么样的存在。 这种事实对本人来说意义重大,相信对这个世界也是有一定意义的。 带着这些问题,我们来审视一下如何成长为一个有价值的程序员。 所谓如何成长为一个有价值的程序员,关键是如何成长为一个有价值的程序员需要如何写。 我认为。

Read More

lua-resty-openssl: 基于FFI的Lua OpenSSL库

0   2203 转为繁体

支持OpenSSL 1.1.x, 1.0.x和1.0.2系列