AIを使ったシステムは精度の高いモデルを開発すれば完成ではない。稼働後の精度の低下、外部環境の変化に対応しながらAIを「育てる」必要がある。AIが意図せぬ判断をしないように開発中から注意を払おう。

 学習済みAIの充実やモデル開発のテンプレートの登場などにより、AIシステム開発の難易度は下がりつつある。AIを使ったシステム開発に取り組みやすい状況になった。

 そうした中、「プロジェクト開始前に考えておくべきだ」とAIシステム開発に携わるITエンジニアが口をそろえて指摘するポイントが2つある。1つはシステム稼働後の運用を考えておくこと、もう1つは話題になっている「AIと倫理」を踏まえて、企業の活用方針を決めることだ。特に自社開発AIを利用する場合に注意すべきポイントである。

初期段階から運用体制を作る

 「AIは育てる発想で導入しなければ、うまく使いこなせない」。こう話すのはNTTデータの亘 健典ビジネスソリューション事業本部AI&IoT事業部ソリューション統括部課長代理だ。

 「AIを育てる」の意味は2つある。1つは稼働時に完璧を求めず、利用しながら精度の向上を目指すこと。もう1つは、AIは利用しているうちに精度が悪化するため見直しが前提になるということだ。

 AIを育てるために「プロジェクトの初期の時点から、稼働後を考えた運用体制を考慮しておくことが欠かせない」とNECの池田雅之AI・アナリティクス事業部長は話す。モデルの精度向上の支援や、精度の悪化を発見するために人材を配置する。加えて「精度が悪化したときに、モデルの見直しなどが発生するので、その担当者も決めておく必要がある」と池田事業部長は指摘する。

AIシステムの運用の流れ
[画像のクリックで拡大表示]

 モデルを見直すためにはまず、稼働後に確認すべき指標を明確に決めておくことが必要だ。「70%を切ったら見直す」といったモデルの精度の指標に加え、「導入効果の目標も明確にしておく必要がある」と富士通の橋本文行デジタルビジネス推進本部AIビジネス統括部長は話す。目標は「業務を効率化する」といったあいまいなものではなく、「人員を半数に減らす」など数値で測定可能なKPI(重要業績評価指標)を置くのがポイントだ。

 精度や導入効果のKPIが悪化したり、「新製品が発売された」など外部環境が変化したりした場合は、モデルを見直すことになる。その方法は2つある。同じモデルを利用したまま学習用データを変更する「再学習」と、モデルを作り直す「再開発」だ。一般に再学習しても精度が上がらない場合、再開発を試す。「モデルの変更履歴が残るように変更管理ツールを導入するなど、開発時に準備しておく必要がある」とNECの池田事業部長は指摘する。

この先は有料会員の登録が必要です。有料会員(月額プラン)は初月無料!

日経 xTECHには有料記事(有料会員向けまたは定期購読者向け)、無料記事(登録会員向け)、フリー記事(誰でも閲覧可能)があります。有料記事でも、登録会員向け配信期間は登録会員への登録が必要な場合があります。有料会員と登録会員に関するFAQはこちら