LLMアーキテクチャの研究者・解説者であるSebastian Raschka氏は2026年9月9日、GPT-6 Astraをめぐる噂とその背景にあるとされるアーキテクチャについて解説する記事を公開しました。The InformationはOpenAIの公式発表の2日前、Astraが「recurrent depth」または「looped transformers」(同じtransformerブロックに中間表現を複数回通す設計)を使っているという未確認の内部情報をスクープ報道していました。
Astraはベンチマーク「ARC-AGI-3」で99.9%を達成したと報告されており、同じベンチマークで7.8%だったGPT-5.6 Solを大きく上回ります。3Dレンダリング・アニメーションタスクや数学・コーディングでも前身モデルを大幅に上回るとされ、PaintやBlenderなどのGUIを操作できるコンピュータ使用機能も備えます。OpenAIは強化学習用に「数万台のMac MiniとMac Studio」を購入したと報じられており、NVIDIAのCEOはAstraが約10万個のGrace Blackwell GPUで学習されたと述べています。
一方でOpenAIは公式に、Astraを含む現行フロンティアモデルの「計算グラフの深さはGPT-4の2倍以内」だと説明しています。Chief ScientistのJakub Pachocki氏は「混乱した報道によって引き起こされる、監視不能性への競争を防ぎたい」という趣旨の発言をしています。Raschka氏はこの記事で、Astraが短い推論トレースを使う傾向はモデルの能力向上による自然な結果であり、looped transformersが意図的に推論を隠しているという証拠はないとの立場を示しています。
出典が伝えている要点
- OpenAIは2026年9月にGPT-6 Astraを公式リリースした
- The InformationはOpenAIの公式発表の2日前にAstraについてスクープ報道した
- The Informationのリポートは、Astraが「recurrent depth」または「looped transformers」を使用しているという未確認の内部情報を伝えた
- Astraはベンチマーク「ARC-AGI-3」で99.9%を達成したと報告されている
- 比較対象のGPT-5.6 Solは同じARC-AGI-3ベンチマークで7.8%だった
- Astraは3Dレンダリング・アニメーションタスクで特に優れているとされる
- Astraは数学・コーディングで前身モデルを大幅に上回るとされる
- Astraはグラフィカルユーザーインターフェース(PaintやBlenderなど)を操作できるコンピュータ使用機能を持つ
- OpenAIは強化学習用に「数万台のMac MiniとMac Studio」を購入したと報告されている
- NVIDIAのCEOは、Astraは約100,000個のGrace Blackwell GPUで学習されたと述べた
- OpenAIは、Astraを含む現行のフロンティアモデルの計算グラフの深さはGPT-4の2倍以内であると公式に述べている
- OpenAIのChief ScientistであるJakub Pachockiは「混乱した報道によって引き起こされる、監視不能性への競争を防ぎたい」という趣旨の発言をした
原文より
depth of the computation graph for our present frontier models, including Astra, is within a factor of two of GPT-4
I want to prevent a race into unmonitorability kicked off by confused reporting
essentially an architectural tweak, with the main idea being to pass the intermediate representations through the same transformer blocks multiple times