OpenAI応用研究責任者、研究の8〜9割はGPT-7以降のモデルに集中

OpenAIの応用研究責任者であるBoris Power氏によると、同社の研究の80%から90%はGPT-7、GPT-8およびそれ以降のモデルに注力されている。Power氏は、現行モデルの改善は短期的な学習加速には有効だが長期戦略ではないと指摘。大型のフロンティアモデルを教師として小型で安価なモデルを蒸留する手法が有効であり、高性能な汎用モデルを先に構築することが小型専用モデル開発の鍵であると述べた。また、現在の最大の課題はモデルの性能ではなく、ユーザーが既存のAIの能力を十分に理解していないことだと語った。