児童のわいせつな自撮りをAIで検知するアプリ「コドマモ」が正式リリース

藤田医科大学は3月30日、愛知県警、スマートブックスと連携して、子どものわいせつな自撮り画像をAIで検知・削除するアプリ「コドマモ」を開発。同日より正式リリースされることを発表した。

近年は幅広い世代におけるSNSの普及に伴って、児童による性的な自撮り被害が増加している。愛知県警は2021年秋ごろ、SNS性被害の防止に向けて、東海地区の17大学で構成される若手起業家育成プロジェクト「Tongali」に、対策方法の相談を持ち掛けたという。

この相談に対し、同プロジェクトに参画している藤田医科大が賛同し、同大学で起業家教育を推進する産官学連携推進センターの村川修一准教授が、2021年12月の医療科学部における社会課題解決の講義として、SNS性被害防止をテーマとしたワークショップを実施したとのこと。その中で提案されたのが、アプリとしての実装だったとする。そしてその後、同大学の冨田直人客員講師が代表取締役を務めるスマートブックスの協力のもと、コドマモの開発が進められてきた。

コドマモは、児童がわいせつな画像をスマートフォンで撮影・保存した際、それらがインターネットサービス上で他者に送信される前に、AIで画像の撮影や保存自体の検知を行う。そして、スマートフォン上で該当画像の削除を推奨するとともに、保護者のスマートフォンにも通知するという。

藤田医科大によると、コドマモは、従来の性的自撮り防止カメラアプリと異なり、どんなカメラアプリで撮影された画像でも検知対象になるとする。また、コドマモのアプリ内で子どもの位置情報を確認することもできる。

同大学は、コドマモの提供が犯罪を減らす抑止力となると同時に、親子の対話を促進する効果を期待しているとする。また想定される活用法として、学校で配布される学習用タブレット端末にインストールすることで、学校内の性的な自撮りや盗撮を防ぐことができるとしている。