OpenAIは公式ブログで、自社のオンラインストレージ基盤「Habitat」を10億人規模のChatGPTユーザーに対応させるためどのようにスケールさせてきたかを解説しました。HabitatはDevDay 2023でGPTs向けに初公開されて以来、過去3年間で年10倍以上のペースで成長してきたといいます。
現在Habitatは毎秒7,000万件以上のリクエストを処理し、週に10億人以上のユーザーを支え、約500ペタバイト以上のデータを約40の地理的地域で保有しています。基盤層にはAzure Cosmos DB(Microsoftのクラウドデータベースサービス)を使用しています。
しかし2025年半ばにクライアント側実装が限界に達したため、OpenAIはHabitatをPythonからRustへ全面的に書き換えることを決断しました。この大規模な書き換えはエンジニア2名によって進められ、2026年第2四半期に完了したとのことです。
書き換えの結果、Rust版はPython版と比較してCPU効率が6倍、メモリ効率が15倍向上し、現在は本番リクエストの95%を処理しているといいます。
出典が伝えている要点
- Habitatは毎秒7000万以上のリクエストを処理している
- Habitatは週に10億人以上のユーザーをサポートしている
- Habitatは約500ペタバイト以上のデータを保有している
- Habitatは約40の地理的地域で展開されている
- Habitatは過去3年間、年間10倍以上のペースで成長してきた
- HabitatはDevDay 2023でGPTs向けに初公開された
- Habitatは2025年半ばにクライアント側実装の限界に到達した
- OpenAIはHabitatをPythonからRustへ完全に書き換えた
- このPythonからRustへの書き換えはQ2 2026に完了した
- この書き換えはエンジニア2名で実施された
- Habitatの基盤層にはAzure Cosmos DBが使われている
- Rust版はPython版と比較してCPU効率が6倍、メモリ効率が15倍高く、本番リクエストの95%を処理している
原文より
Often, system engineers build for 10x scale...In our case, we've grown more than 10x year-over-year for the last three years.
出典: openai.com