OpenAI、GPT-3.5 Turboのファインチューニング機能をリリース

OpenAIは2023年8月23日、GPT-3.5 Turboのファインチューニング（微調整）機能のリリースとAPIの更新を発表した。このアップデートにより、開発者は独自のデータを持ち込んでモデルを個々のユースケース向けにカスタマイズできるようになる。現在、GPT-3.5 Turboのファインチューニングが可能となっており、GPT-4のファインチューニングも今秋に予定されている。

本アップデートの特徴としては、初期のテストでGPT-3.5 Turboのファインチューニングバージョンが、特定のタスクにおいて「GPT-4と同等またはそれ以上の性能を発揮した」点が挙げられる。すなわち、ファインチューニングを使用することによってGPT-4以上の性能を持つサービスを開発できる可能性があるということだ。

またファインチューニングを使用する際、データは顧客自身が管理し、OpenAIや他の組織がトレーニングに使用することはない。したがって、企業におけるファインチューニング機能の活用も後押しされる形となっている。

本アップデートの利点

プライベート・ベータ版では、ファインチューニングを行った顧客が、以下のような一般的なユースケースにおいて、モデルのパフォーマンスを有意義に向上可能なことが確認された。

操縦性の向上：出力を簡潔にし、指定された言語で応答することが可能となる。開発者はファインチューニングを活用し、プロンプトが表示されたときにモデルが常に特定の言語で応答するように設定できる。

信頼性の高い出力フォーマット：開発者は、ファインチューニングを使用して、ユーザーからのプロンプトを高品質のJSONスニペットに変換可能となる。特定のレスポンス形式を要求するアプリケーションにとって重要な要素。

カスタムトーン：ファインチューニングを使用して、モデル出力のトーンを磨くことが可能となる。これにより、ブランドアイデンティティを保ちながらモデルを調整できる。

また、ファインチューニングを行うことでプロンプトを短縮し、APIコールの高速化が可能となる。結果としてコストを削減することも可能だ。GPT-3.5 Turboによるファインチューニングでは、4000トークンを扱うことができる。そのため初期のテストではプロンプトのサイズを最大90%削減し、APIコールの効率を向上させた。

そしてファインチューニングは、プロンプトエンジニアリング、情報検索、関数呼び出しなどの他の技術と組み合わせて真価を発揮するとされている。関数呼び出しと「gpt-3.5-turbo-16k」によるファインチューニングのサポートは、今秋以降に実装される予定だ。