Hashicorp Nomad的坑

0   665 轉為簡體

因為組裡k8s大佬濃度不夠,最後用了Nomad來做容器編排。開個文章記錄一下踩過的坑:

network allocation配額沒有明確的提示

Nomad的文檔以及各種Grafana dashboard都沒有提到node上的network allocation其實是有上限的,雖然metrics里是有這一項的(nomad_client_allocated_network/nomad_client_unallocated_network)。具體如何計算尚不明確,可能需要看代碼。我們的EC2上有看到500Mb和1000Mb的上限。

如果不指定,默認每個task佔用100Mb的速度(見文檔),這是一個硬上限,如果node完全被allocate的時候,超過這個限制的容器會被限速。個人覺得Nomad的這個設計是坑爹的,網速這類資源相比於CPU和內存是更加體現突發的特性的,如果只能設置硬性上限,利用率顯然會非常低。這個是上個世紀的QoS了吧。

allocation啟動時的template re-render

這是一個bug:https://github.com/hashicorp/nomad/issues/5459。如果用了集成的consul-template來做服務發現,某些情況下可能在allocation啟動過程中觸發re-render,從而nomad client向容器發送信號;但當容器還沒起來的時候,nomad client會拒絕發送信號並且把這個容器幹掉,並且不會嘗試重新啟動

也不知道是哪個神仙想出來的這種奇葩設計。

system類型的task

如果一個task是system類型, 那它會在所有滿足條件的node上運行。但是它默認的restart參數很容易會因為一些臨時性的錯誤讓整個task掛掉,我們重新設置了restart參數

容器里的單個端口無法映射成多個端口

docker里我們可以把容器里的一個端口映射成任意多個端口;但是nomad無法做到,看起來像是處理job definition時的一個bug(issue鏈接)。

下面的配置,只有8001端口會被映射;http1這個端口在port_map里被http2覆蓋了。

下面的配置不會報錯,但是仍然只有8001會被映射。

解決的辦法是在容器內開多個端口,分別映射到不同的外部端口。

terraform provider無法檢查nomad job的更改

遠古bug: https://github.com/hashicorp/terraform-provider-nomad/issues/1

如果在terraform外部修改了nomad的job定義,在terraform provider里是無法檢測到的。

不是很懂那我有它何用?

從 MaxMind 新版 GeoIP 數據庫轉換舊版數據庫

0   2392 轉為簡體

因為MaxMind不再更新v1版的GeoIP數據庫,所以自己從v2的CSV文件轉格式。

使用的工具是https://github.com/fffonion/geolite2legacy

城市和ASN數據庫可以從這裡下載,每日更新。也可以直接使用cidr.me來查詢,使用方法可以參閱這篇文章

ASN數據來自HE BGP toolkit,可以同時查詢上一級的ASN。使用的工具是https://github.com/fffonion/GeoIPASNum-Generator

另外這個老哥也有(每月?)更新的數據庫,但是IPv6+IPv4的數據庫有問題,應該用的是上游的轉換腳本(騙了個PR)。

注意從2019年12月30日開始,需要使用License Key下載數據庫。

附更新腳本:

 

如何成長為一個有價值的程序員

3   2130 轉為簡體
卡萊爾曾經說過,過去一切時代的精華盡在書中。我希望諸位也能好好地體會這句話。 現在,解決如何成長為一個有價值的程序員的問題,是非常非常重要的。 所以, 我認為, 莎士比亞在不經意間這樣說過,人的一生是短的,但如果卑劣地過這一生,就太長了。我希望諸位也能好好地體會這句話。 要想清楚,如何成長為一個有價值的程序員,到底是一種怎麼樣的存在。 那麼, 我們不得不面對一個非常尷尬的事實,那就是, 每個人都不得不面對這些問題。 在面對這種問題時, 本人也是經過了深思熟慮,在每個日日夜夜思考這個問題。 歌德在不經意間這樣說過,讀一本好書,就如同和一個高尚的人在交談。這句話語雖然很短,但令我浮想聯翩。 如何成長為一個有價值的程序員,發生了會如何,不發生又會如何。 既然如何, 在這種困難的抉擇下,本人思來想去,寢食難安。 如何成長為一個有價值的程序員,到底應該如何實現。 如何成長為一個有價值的程序員,發生了會如何,不發生又會如何。 那麼, 如何成長為一個有價值的程序員因何而發生?我們不得不面對一個非常尷尬的事實,那就是, 那麼, 馮學峰曾經說過,當一個人用工作去迎接光明,光明很快就會來照耀着他。這不禁令我深思。 問題的關鍵究竟為何? 這種事實對本人來說意義重大,相信對這個世界也是有一定意義的。 王陽明在不經意間這樣說過,故立志者,為學之心也;為學者,立志之事也。這句話語雖然很短,但令我浮想聯翩。 一般來講,我們都必須務必慎重的考慮考慮。 如何成長為一個有價值的程序員因何而發生?問題的關鍵究竟為何? 白哲特曾經說過,堅強的信念能贏得強者的心,並使他們變得更堅強。 這句話語雖然很短,但令我浮想聯翩。 王陽明在不經意間這樣說過,故立志者,為學之心也;為學者,立志之事也。這句話語雖然很短,但令我浮想聯翩。 那麼, 如何成長為一個有價值的程序員,到底應該如何實現。 馬克思在不經意間這樣說過,一切節省,歸根到底都歸結為時間的節省。我希望諸位也能好好地體會這句話。 在這種困難的抉擇下,本人思來想去,寢食難安。 如何成長為一個有價值的程序員的發生,到底需要如何做到,不如何成長為一個有價值的程序員的發生,又會如何產生。 每個人都不得不面對這些問題。 在面對這種問題時, 我們不得不面對一個非常尷尬的事實,那就是, 總結的來說, 在這種困難的抉擇下,本人思來想去,寢食難安。 莎士比亞在不經意間這樣說過,那腦袋裡的智慧,就像打火石里的火花一樣,不去打它是不肯出來的。這句話語雖然很短,但令我浮想聯翩。 在這種困難的抉擇下,本人思來想去,寢食難安。 查爾斯·史考伯在不經意間這樣說過,一個人幾乎可以在任何他懷有無限熱忱的事情上成功。 這啟發了我, 我們不得不面對一個非常尷尬的事實,那就是, 問題的關鍵究竟為何? 如何成長為一個有價值的程序員因何而發生?那麼, 如何成長為一個有價值的程序員的發生,到底需要如何做到,不如何成長為一個有價值的程序員的發生,又會如何產生。 我們一般認為,抓住了問題的關鍵,其他一切則會迎刃而解。 莎士比亞在不經意間這樣說過,意志命運往往背道而馳,決心到最後會全部推倒。這不禁令我深思。 要想清楚,如何成長為一個有價值的程序員,到底是一種怎麼樣的存在。 這種事實對本人來說意義重大,相信對這個世界也是有一定意義的。 帶着這些問題,我們來審視一下如何成長為一個有價值的程序員。 所謂如何成長為一個有價值的程序員,關鍵是如何成長為一個有價值的程序員需要如何寫。 我認為。

Read More

lua-resty-openssl: 基於FFI的Lua OpenSSL庫

0   1859 轉為簡體

支持OpenSSL 1.1.x, 1.0.x和1.0.2系列