arjaythedev/twelve-dollar-server-challenge は、月額12ドルのサーバー(1 vCPU、2 GB RAM)で同じ小規模なAPIを複数の言語とフレームワークで実装し、処理できるユーザー数を競い合うチャレンジです。参加者はSQLiteを使ってAPIを実装し、提出物は規定のテストを通過する必要があります。リポジトリの主言語はCで、MITライセンスで公開されています。
READMEによると、このプロジェクトは言語ごとのデフォルト設定と最適化されていないコードで8つの言語をベンチマークしています。提出物は同じサーバー上でk6の負荷テストにより評価され、Nginxの使用は任意です。スコアは5分間を維持できる最大ユーザー数とし、p95応答時間500ミリ秒、p99 1秒、エラー率1パーセント未満の条件を併せて適用します。API仕様とデータ構造は固定され、リクエスト間のキャッシュは禁止され、書き込みは応答前にデータベースへ反映させることとしており、比較条件を揃えています。リポジトリには42項目のチェックとk6の負荷試験スクリプトがあり、提出物ごとのスコアと容量測定結果はJSONで記録されます。
ただし比較対象は規定されたWeb APIに限られます。リポジトリもルールと試験スクリプトが中心であり、アルゴリズム実装そのものを深く比較するプロジェクトではありません。デフォルト設定と最適化されていないコードによる結果は低スペックサーバーでの参考資料に近く、各実装を十分にチューニングした後の性能までは説明していません。