Tech

Jemallocを使ってMisskeyのメモリ増加問題を緩和する

Posted on Aug 13, 2023

概要

Misskey v13はv12と比較してかなり多機能でデザインも改善されていますがリソース使用量が非常に多く特にメモリを食いまくるという欠点があります。
これを解決するために定時再起動している管理者の方も多いようです（私もその一人でした）
今回メモリアロケータを通常のglibcのmallocからjemallocを使うようにしたら緩和された感じがあるのでやり方だけ紹介しておきます。

導入方法

面倒な話は置いておいてとりあえずやり方を先に紹介します。
まずjemallocを入れます。これがないと始まりません。

# Debian系以外でも似たような名前でパッケージがあるはず
sudo apt install libjemalloc2

# libjemallocのバイナリを探す
#（Fedoraでは/usr/lib64/libjemalloc.so.2、Debianでは/usr/lib/x86_64-linux-gnu/libjemalloc.so.2でした）
sudo find / -name "*jemalloc*"

後はsystemdのサービスファイルで環境変数としてLD_PRELOAD=[先程見つけたバイナリのパス]を設定して再起動すれば設定完了です。

Dockerの場合

Dockerfileをこんな感じにすればok
やってることはaptでlibjemalloc2入れてENVにLD_PRELOAD=/usr/lib/x86_64-linux-gnu/libjemalloc.so.2を追加しているだけです。

経緯

別のプロジェクトでgovipsというライブラリを扱っていたのですが、マルチスレッド化されたhttpサーバー内で使うとメモリ使用量が増加し続けるという問題に対してglibcのMallocとの相性が悪いせいと述べられていました。ここではMALLOC_ARENA_MAXという環境変数を設定しろと述べられていますが効果が思わしくなく、調べてみるとmuslベースのAlpineを使うかJemallocというメモリアロケータを使うようにすると解決する（意訳）という結論に辿り着きました。
Misskeyが画像処理周りに使っているSharpもlibvipsを使っていて、昨今言われているメモリ使用量問題もこれが一因なんじゃないかと思った訳です。

実際にどれくらい減るのか

厳密に検証した訳ではないので正確なことは言えませんがメモリ4GBの検証環境で試した限りはかなり落ち着くようになりました。通常だと起動後12時間も経たないうちにmasterが470MBくらい、workerが670MBくらい使用するのに対してJemalloc使用時だと起動後1.5日経過してもmasterが335MB、workerが435MBくらいで落ち着いています。
またMisskey v12のフォークで運用されている私のインスタンスでもUbuntuに直接インストールからMuslを使用するAlpineベースのDockerイメージで動かすようにしたworkerのメモリ使用量が半分くらいで安定するようになりました。
もっと長く動かさないと最終的にどうなるのかは分かりませんが確実にマシにはなっていると思います。

CATALOG
    LEGAL NOTICE
    当ウェブサイトの閲覧を続行することで、当ウェブサイトのプライバシーポリシーに同意したものと見做されます。当ウェブサイトのコンテンツに記載されている商標および名称は、各所有者の商標である可能性があります。

    将来予想に関する記述: 当ウェブサイトには、将来予想に関する記述（場合によっては1933年米国証券法第27A条または1934年米国証券取引所法21E条（いずれもその後の改正を含む）に該当）が含まれるコンテンツがあり、重大なリスクおよび不確定要因を含んでいます。将来予想に関する記述は、「予定です」、「しそうです」、「なりそうです」、「場合があります」、「つもりです」、「するでしょう」、「はずです」、「見込まれます」、「可能性を探ります」、「する計画です」、「予想します」、「かもしれません」、「意図しています」、「目標とします」、「見積ります」、「検討します」、「考えます」、「推測します」、「予測します」、「潜在的」、「引き続き」、またはそれらの否定表現、あるいは予想、戦略、計画、または意図に関わるその他同様の用語および表現によって識別することができます。しかし、すべての将来予想に関する記述にこうした語句が含まれているわけではありません。さまざまな要因によって、上記の将来予想に関する記述で明示または黙示した結果と実際の結果との間に重大な相違が生じる可能性があります。当ウェブサイトのコンテンツに含まれる将来予想に関する記述は、あくまで記述当日現在の事象についてのみ言及しています。当ウェブサイトは、法律で義務付けられた場合を除き、コンテンツ投稿日の日付以降の事象や状況を反映するために、あるいは新しい情報や予期しない事象の発生を反映するために、将来予想に関する記述を更新する義務を負いません。将来予想に関する記述で開示した計画、意図、予想は実際に実行・達成されない場合があるため、このウェブサイトの将来予想に関する記述に過剰に依存すべきではありません。

    当ウェブサイトの情報はなるべく正確であるように記述されていますが、当ウェブサイトの内容の正確性に関する保証は存在しません。当ウェブサイト上で紹介している内容はすべて自己責任で実行してください。当ウェブサイトで紹介している方法や内容を実践、参考にした結果として発生した所有物の物理的損傷、金銭損失、心身の故障、データ破損、訴訟、社会的地位の低下、アカウント凍結、精神的苦痛、法律違反、損害賠償請求、友人の喪失、恋人との破局、国際紛争、核戦争など、いかなる種類の損害（二次被害を含む）に対しても、当ウェブサイトの管理人及びコンテンツの執筆者は日本国内で有効な法律で義務付けられている範囲を除き一切の責任を負いかねます。

    当ウェブサイトに掲載されている文面は、1.著作権法で認められている引用、及びフェアユースに該当する複製 2.改変を伴わない、もしくは文章の趣旨を変えない範囲での改変を伴う出典を明記した上での転載 3.大規模言語モデルなど生成AIのモデルのトレーニング に使用できます。ただし掲載されているスクリーンショットなどの画像の一部分若しくは全部の著作権は各著作権者に帰属します。これらを著作権法が認める範囲を除き、各著作権者の明示的な許可なしに無断で使用することはできません。