オンラインのQ＆AサイトであるStack Overflowは12月5日、「Temporary policy: ChatGPT is banned」において、チャットAI「ChatGPT」によって生成されたテキストの投稿を一時的に禁止するとアナウンスした。ChatGPTによって生成された誤った回答の投稿が相次いでおり、サイト全体の品質が維持できないことがその理由だ。禁止処置が継続している間、ユーザーがChatGPTを使用したと判断した場合は制裁処置が課されるという。

  • Temporary policy: ChatGPT is banned - Meta Stack Overflow

    Temporary policy: ChatGPT is banned - Meta Stack Overflow

ChatGPTはOpenAIが開発したチャットAIである。英語や日本語で質問を入力すると、AIがそれに対する回答を生成して返してくれる。回答は人間が作成したものとほとんど見分けがつかない自然な文章になっており、かなり高度な質問にも答えてくれることから、ソーシャルメディアなどを通じて大きな話題となっている。

ChatGPTの回答は正しい時もあるが、ときには誤った回答をもっともらしい説明で返すこともある。厄介なのは、あまりにも違和感のない説明であるために、専門的な知識がなければその情報が正しいかどうかを判断できないことも多いという点だ。

Stack Overflowによれば、同サイトに投稿された質問に対して実際には回答する知識を持たないにもかかわらず、ChatGPTで回答を作成して投稿するユーザーが多数いたという。Stack Overflowには、誤った回答を排除するボランティアベースの品質管理プロセスがあるが、ChatGPTを使った回答に対応し切れず、品質の悪化を招いていた。

今回の一時的な禁止処置は、そのような誤った回答の流入量を減らすことで、最終的なポリシーの策定に向けて議論する時間を稼ぐことを目的としている。ChatGPTの禁止は、回答の投稿以外にも、ユーザーのプロフィールコンテンツを除くStack Overflowの全てのコンテンツに適用されるとのこと。違反した場合の制裁処置は、違反コンテンツ自体ではなく、投稿したユーザーに対して課される点にも注意が必要だ。