複雑な事務処理を自動化し、ときに人間の代わりに意思決定を下してくれる情報システムのアルゴリズム。検索エンジンから電車の運行管理まで、今やアルゴリズムのお世話にならない日はない。

 だが、そのアルゴリズムがときに思わぬ暴走を起こし、個人や社会に不利益を与えることがある。そんな二つの事例を紹介したい。

フリーソフトを1年半にわたりウイルス判定

 一つは、あるPC向けフリーソフトが、トレンドマイクロのウイルス判定アルゴリズムから1年半にわたって危険なウイルスソフトとの「誤判定」を受けたものだ。

 事の発端は2012年4月。「いじくるつくーる」「すっきり!! デフラグ」などのフリーソフトを個人で開発・公開していたINASOFT 矢吹拓也氏のメールアドレス宛てに、「ソフトをダウンロードしようとしたら、ダウンロード用URLがトレンドマイクロのセキュリティソフトにブロックされた」とのメールが立て続けに届いた。翌月には「窓の杜」など、矢吹氏のソフトを掲載する大手ダウンロードサイトからも同じ連絡があった。

 矢吹氏は、トレンドマイクロにこの現象を報告。ブロックの証拠であるスクリーンショットも提示した結果、同社の担当者は誤判定の事実を認めた。一時的措置として、特定のURLについて判定を解除する「ホワイトリスト的な措置」(トレンドマイクロ)を取ったという。

 だが、その後も誤判定は頻発した。矢吹氏のソフトを掲載していた他のミラーサイトや転載サイトでも、時間を置いて誤判定が発生したのだ。そのたびに矢吹氏は、URLを申告してトレンドマイクロに解除を依頼する羽目になった。申告済みのURLが、再度誤判定を受けることもあった。

 「トレンドマイクロ担当者からの的を射ない返答、ユーザーからの抗議に加え、契約プロバイダから『ウイルスソフトをサーバー置くのはやめてほしい』などと言われ、精神的にも疲弊していった」。矢吹氏は、当時の状況についてこう語る。なぜ、趣味のプログラミングでこんな苦痛を味わうことになるのか。矢吹氏は悩んだ末に2012年10月、「蓄積した疲労と、趣味に対する疑問」から開発活動を休止すると発表した。

この先は会員の登録が必要です。有料会員(月額プラン)は申し込み初月無料!

日経 xTECHには有料記事(有料会員向けまたは定期購読者向け)、無料記事(登録会員向け)、フリー記事(誰でも閲覧可能)があります。有料記事でも、登録会員向け配信期間は登録会員への登録が必要な場合があります。有料会員と登録会員に関するFAQはこちら