大手ネット企業が青少年や女性のネット利用被害を防ぐ対策を急いでいる。ミクシィが同社SNSの利用者の行動を自動監視したり、出会い系犯罪目的とみられる投稿を検知したりする技術を開発し成果を上げている。グリーは青少年にネットの適切な利用を啓発するスマホゲームを開発。LINEも小中学生のコミュニケーショントラブルの実態調査に乗り出した。青少年にもスマホが普及し、ネットいじめや不用意な投稿による炎上、出会い系犯罪などの危険性が高まっていることが背景にある。

 ミクシィが開発したのが、同社グループのWebサイト利用者の中から青少年との出会いを求めている可能性が高い人を自動的に検知する技術だ。SNSや掲示板の利用者の行動をシステムで監視し、一定のルールに当てはまる利用者を自動的に抽出する。担当者の目視による確認も組み合わせて該当する利用者を見つけ出し、警告や投稿の削除、アカウントの停止などの措置を執る。青少年の利用者へメッセージを送ったり投稿を閲覧したりできないよう行動を制限したり、法令に違反している場合は警察に通報したりする。

画面1●「mixi」の児童被害減少に取り組む
[画像のクリックで拡大表示]

 同社は現在、この技術をグループ全体へ展開することを目指して準備を進めている。既にSNSの「mixi」で2013年から利用しており、児童犯罪被害を減らすことに一役買っている(画面1)。同社よれば、この技術を導入した後は、警察が発表するmixiに起因する被害児童の件数が半年ごとに前半期比で5~6割ずつ減っているという。

 監視内容は利用者の属性(年齢、性別)、サイト内での行動頻度、行動の内容の3種類()。これらの監視内容を掛け合わせ、独自開発した検知フローに沿って調べて、「悪人の動きだけをあぶり出す」(岡功典企画開発部企画グループマネージャー)。

「マイミク」申請多発は怪しい

 監視内容の一例がmixi内の友人である「マイミク」申請の頻度。成人が青少年相手にマイミク申請を頻繁に送るのは、「出会いを求めて犯罪に走る利用者に特有の行動だ」(同)。同社は一定時間内にマイミク申請を送る回数にしきい値を設け、検知するルールの一つとしている。

表●ミクシィが開発した行動検知技術の概要
内容具体例
監視項目利用者の属性(年齢、性別)
サイト内での行動頻度(メッセージ投稿、マイミク申請)
行動の内容(青少年のページだけに「足あと」、連絡先の要求、1対1のメッセージ送信)
実施する措置警告や投稿の削除
アカウントの停止
行動の制限(青少年の利用者に対するメッセージ送信や投稿閲覧の禁止)
警察への通報

この先は会員の登録が必要です。今なら有料会員(月額プラン)登録で5月末まで無料!