ヤフー(Yahoo! JAPAN)は3月6日、インターネットニュース配信サービス「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント」において、暴力的、差別的、過度に品位に欠けるなどの違反コメントへの対策を強化したと発表した。
「Yahoo!ニュース」はこれまで、ユーザーから違反報告のある記事、閲覧数の多い記事、特定ジャンルの記事など優先順位をつけ、人力やAIを用いてパトロールし、人力を中心に違反コメントの削除、悪質なユーザーのアカウント停止などを行ってきたという。
このたびYahoo! JAPANは、新たに開発した最先端の「深層学習を用いた自然言語処理による判定モデル(AI)」と、独自開発した深層学習特化型スーパーコンピュータ「kukai」の活用を開始した。
実際に1週間分のコメントデータを使って、「従来の機械学習を用いた自然言語処理による判定モデル(AI)」と比較したところ、違反コメントの検知数が約2.2倍に向上したという。
今回導入した判定モデルで判断された結果は今後、コメント表示順の改善にも採用。ニュースを多角的に理解するきっかけになるコメントなど、より多くの人に読んでほしいコメントが上位に表示されるようになるという。