米OpenAIは5月8日（現地時間）、同社のAIモデルがどのように振る舞うべきかを規定する「Model Spec（モデル仕様）」の最初のドラフト（2024年5月8日版）を公開した。

CEOのサム・アルトマン氏は「何かが起こった際に、バグなのか、それとも判断によるものなのか、明確にするためにとても役立つと思う」と述べている。モデル仕様を共有することでOpenAIは、AI開発の目的、ルール、既定事項に関して、多くの人々の意見を集め、議論し、適応させることを望んでいる。

最初のドラフトに関して、5月8日から22日まで、The Model Spec Feedbackというページでフィードバックを募集する。その後の約1年間で、モデル仕様の変更点、フィードバックへの対応、モデルの挙動を形成するための研究の進捗など新たな情報を共有していく。

OpenAIによれば、モデル仕様の公開は、すべてのユーザーにとって有益で安全な方法でAI技術が運用されることを保証するより広範なミッションの一環である。

発表では、モデル仕様がAIモデルの動作にどのような影響を与えるのか、具体的には明らかにしていない。モデル仕様は「目的」「ルール」「デフォルトの行動」の3つを中心に構成されており、これらの要素は、AIモデルと人とのインタラクションを導くためのバックボーンとして、そして倫理基準として機能する。

  • 目的：望ましい行動の方向性を示す、広範で包括的な原則を定めている。開発者やエンドユーザーが効果的に目標を達成できるよう支援すること、多様なステークホルダーへの潜在的な影響を考慮すること、社会規範と適用される法律を尊重することなどが含まれる。
  • ルール：複雑さに対処し、安全性と合法性を確保するためのルールを定めている。指揮系統に従う方法、適用される法律の遵守、知的財産の尊重、プライバシーの保護、危険な情報や不適切なコンテンツ（NSFW）への対応などを定めている。
  • デフォルトの行動：「ユーザーや開発者の最善の意図を想定する」「必要に応じて明確な質問をする」「不確実性を表現する」など、目的とルールに合致したガイドラインであり、さまざまなユーザーやユースケースの多様なニーズに対し、目的の優先順位とバランスの取り方を示している。

OpenAIは同社のモデル仕様が進化する文書であることを認めている。それは組織の現在の実践を反映したものであり、進行中の研究やコミュニティからのフィードバックに基づいて適応していくダイナミックなフレームワークでもある。

モデルの行動を形作るには、さまざまな疑問、考慮事項、ニュアンスを検討する必要がある。あるモデルがユーザーにとって広く有益で役に立つことを意図していたとしても、その目的が矛盾することがある。たとえば、セキュリティ会社が顧客を保護する目的で、フィッシングメールの合成データを生成することを考えるかもしれないが、同じ技術が詐欺師に利用されると有害になり得る。

OpenAIは一般の人々も議論に参加する協議的アプローチを継続していく方針であり、さらに政策立案者、信頼できる専門機関や関係分野の専門家を含む世界のステークホルダーとの関わりを深め、学びの機会を拡大していくことを目指す。