NXPがAIに理解を加える

COVID-19との戦いにExplainable AI:XAI（説明可能なAI）のコラボレーションを導入

Lars Reger

人工知能（AI）を取り入れた製品やサービスは、身の回りにあふれています。私たちは思っているよりも多くの場面でAIを利用しており、さまざまな形でそれを当たり前のように受け入れています。多くの人はスマートフォンのアシスタントをAIだとは思わないかもしれませんが、これはAIの優れた例に挙げられるでしょう。SiriやGoogleアシスタントはいつでも使え、さまざまな状況でごく当たり前のように話しかけています。同様に、顔認証は新しいスマートフォンでは標準的なロック解除機能になりました。

AIのサブセットである機械学習は、与えられたパターンや音声を認識するようにコンピュータベースのニューラル・ネットワーク・モデルをトレーニングすることで機能します。ニューラル・ネットワークのトレーニングが完了すると、結果を推論できるようになります。たとえば、数百枚の犬と猫の画像を使ってニューラル・ネットワークをトレーニングすれば、ある画像を見せたときにそれが犬と猫のどちらなのかを正しく識別できるようになります。ネットワーク・モデルは答えを決定し、その予測のクラス確率を示します。

機械学習をベースとしたアプリケーションが日常生活に深く浸透するにつれ、システム開発者は、現在のニューラル・ネットワークの動作方法が必ずしも正しいアプローチではないことに気づきました。上の例で説明すると、ニューラル・ネットワークに馬の写真を見せた場合、猫と犬のどちらかを推論するようにしかトレーニングされていないニューラル・ネットワークは、トレーニングされたクラスの中でどちらを選択するか決定しなければなりません。さらに気掛かりなのは、こうした場面では、間違った予測を高い確率を表示しながら示す可能性があり、表示された側もそれに気づかないかもしれないということです。このモデルは利用者が気づかないところで間違った推論を行ってきました。

人間の場合、同じようなシナリオに対するアプローチは大きく異なります。私たちは、より理にかなった意思決定アプローチを使用します。わからない、または以前に馬の画像を見たことがないという答えがニューラル・ネットワークからほしいのです。上記の例はごく単純なものですが、予期せぬことや不確実性のある人間の世界におけるニューラル・ネットワークの動作方法の欠点をうまく説明してくれます。実際には、特定の状況での動作方法に懸念があるにもかかわらず、多くの産業用システムや車載システムの開発が続けられています。

NXPでは、長年にわたりAI能力の構築に投資しており、そうした欠点を認識するとともに懸念しています。スマートフォンのアシスタントが聞き取った言葉の推論を間違えることに比べて、産業や医療の環境でははるかに重大な結果を引き起こします。私たちはお客様に高度な機械学習ソリューションを提供しており、「説明可能なAI」（XAI）と呼ばれるアプローチに取り組んできました。XAIは、より理にかなった人間に近い意思決定アプローチと確実性という次元を付け加えることで、機械学習の推論と確率の能力を発展させたものです。XAIでは、AIのすべての利点と、状況に応じた人間の応答方法に近い推論メカニズムを組み合わせています。

次の例を考えてみましょう。自動運転車の乗客になったと想像してください。車がゆっくりと慎重に進んでいるとしたら、あなたは当然ながら「なぜこんなに慎重に進んでいるのだろう」と疑問に思うでしょう。運転しているのが人間で、「どうしてこんなにゆっくり走るの？」と聞けば、「大雨で視界が悪くて、前方にどんな危険があるかわからないから」と説明してくれます。この説明は何が不確実であるかを説明することを基礎にしています。XAIの意思決定ではこれと同じような方法がとられており、推論のどの部分をモデルが不確実だと判断したかを伝えます。

NXPでは、自動車、産業、および医療のシステム向けに開発している機械学習ソリューションにXAIの機能を組み込む方法について取り組んでいます。
我々のXAI研究チームは、かつてない世界的なCOVID-19のパンデミックを受けて、NXPのXAIを使用して患者の感染の有無を短時間で検出できるかもしれないと考えています。まだ初期段階ですが、私たちはこれまでに見てきた実証事例に勇気づけられ、現在世界が直面している医療課題に当社のXAI技術をどのように役立てられるかを確かめるために、いくつかの主要な病院との連携を確立しました。
CTとX線画像を使用することで、所定のPCR検査と診断プロトコルに加えて、もう一つ別の迅速な検出機能を提供します。適切にトレーニングされたXAIモデルでCT画像とX線画像を処理して、感染の有無を識別できるようになります。XAIは、リアルタイムの推論の信頼性と説明可能な知見をもたらし、臨床スタッフが次の段階の治療を決定する際の支援を行います。

NXPのXAI研究チームは、成熟したモデルを保有し大きく進んでいると考えており、ヨーロッパや南北アメリカの医療やAIの専門家との議論を重ねていますが、私たちの研究をさらに進めるためには、より大規模な匿名化されたデータセットへのアクセスが必要です。そこで、COVID-19に取り組んでいる研究者や潜在的なパートナーの中で、この検出技術を前進させるために私たちに協力していただける方々からのご連絡をお待ちしています。COVID-19の検出のためのXAIの使用についてご協力いただける場合は、NXPの研究チームにご連絡ください。

XAIは、意思決定に不確実性を伴う状況で、人間の反応に近い判断を可能にします。クラスの確率ベースの判断に確実性と信頼性を付け加えます。NXPでは、車載、産業、ヘルスケアのアプリケーションなどの安全性が重要なシステム全般向けにXAIの可能性があると考えています。

Stay Safe. どうかお気を付けて。
　　

　　
　　
▼関連リンク
・NXPのAI/機械学習ソリューション：
https://www.nxp.com/applications/solutions/enabling-technologies/ai-and-machine-learning:MACHINE-LEARNING
・NXPジャパン・ウェブサイト：
https://www.nxp.jp/