ドリーム・トレイン・インターネット（DTI）は7月30日、MVNOサービス「トーンモバイル」で提供している自画撮り被害防止機能「TONEカメラ（for iPhone）」が、東京都青少年健全育成条例で推奨する機能として東京都から認定されたと発表した。カメラアプリの認定は初めて。合わせて、東京都を含む関東の九都県市（埼玉県、千葉県、東京都、神奈川県、横浜市、川崎市、千葉市、さいたま市、相模原市）で推奨されることも発表した。

  • トーンモバイル独自の自画撮り被害防止機能「TONEカメラ（for iPhone）」が、東京都青少年健全育成条例で推奨する機能として東京都から認定された（写真はTONEカメラを搭載する同社のAndroidスマホ）

TONEカメラ（for iPhone）は、裸などの不適切な画像をAIが検知して撮影できないようにする機能。iPhone向けの格安SIM「TONE SIM（for iPhone）」（月額1,650円）に標準搭載している。SNSなどで知り合った人の求めに応じて子どもが自分の裸の写真を送ってしまい、バラまくぞと脅されてさらに過激な写真を送る、といった「自画撮り」の被害が増えていることを受け、トーンモバイルが独自に開発した。

撮影した写真の被写体をAIが分析し、撮影したのが人物の裸だと判断した場合は警告を出すとともに、写真は端末に保存されずに破棄される。カメラアプリだけでなく、スクリーンショットでも検知機能が働く。合わせて、保護者のスマホに不適切な写真を撮影したことが通知され、そのような写真を撮ろうとしたことを親が認識できる。

トーンモバイルの調査では、新型コロナ感染症拡大下の自粛生活や長期休暇によるスマホ利用環境の変化を調査したところ、「あんしんAI」による不適切画像や動画撮影の検知数が増加していることが判明。子どものスマホ依存傾向や自画撮り被害の懸念が高まっていることが分かった。

また、今年6月に内閣府が発表した「青少年のインターネット利用に関する第5次基本計画」には、不適切な写真を撮影できない技術をスマホに取り入れることなどを含め、青少年を技術的に保護する措置をとるべきであるとの文言が盛り込まれている。今後、TONEカメラ（for iPhone）のような機能が各社から登場し、スマートフォンや通信サービス選びのポイントの1つになる可能性もある。