litelmは、多機能なLLM(大規模言語モデル)ルーティングライブラリ「litellm」からコア機能だけを抜き出し、約2,900行のコードで実装した軽量版です。「provider/model-name」という構文で19のプロバイダーへのルーティングと、各社のメッセージ形式間の翻訳を行うことを主目的としています。
対応プロバイダーの例としてOpenAI、Anthropic、Groq、Mistral、Azure、Bedrock、Geminiが挙げられ、すべてのOpenAI互換エンドポイントも利用可能です。ストリーミング、ツール呼び出し、埋め込み機能には対応しますが、ルーター機能やプロキシサーバー、キャッシング、コスト追跡、トークンカウント、画像生成などは非対応とのことです。
コードの多くはClaude Code(Claude Opus 4.6/4.7使用)によって書かれたとされ、現状はアルファ版ながら262件のテストに合格しています。
出典が伝えている要点
- litelmはlitellmの軽量版として作られたライブラリである
- litelmのコードは約2,900行で実装されている
- 「provider/model-name」という構文でモデルをルーティングする
- 19のプロバイダーに対応している
- 対応プロバイダーの例としてOpenAI、Anthropic、Groq、Mistral、Azure、Bedrock、Geminiが挙げられている
- すべてのOpenAI互換エンドポイントも利用可能である
- Anthropic、Bedrock、Cloudflareなど複数のメッセージ形式間の翻訳に対応する
- ストリーミング、ツール呼び出し、テキスト埋め込みの各機能に対応する
- ルーター機能、プロキシサーバー、キャッシング、コスト追跡、トークンカウント、画像生成などの機能は含まれていない
- コードの多くはClaude Code（Claude Opus 4.6/4.7使用）を用いて書かれた
- 現在のステータスはアルファ版である
- 262件のテストに合格している
原文より
litellm routes LLM calls across providers and translates between message formats
Much of the code was written with Claude Code using Claude Opus 4.6/4.7
出典: github.com