自動運転車は、浅黒い肌の歩行者を検出するのが難しいと感じています

自動運転車は、浅黒い肌の人を検出する際の精度が5％低くなります。
これは、オブジェクト検出アルゴリズムの大部分が、主に白人の画像を含むデータセットでトレーニングされていたために発生します。

機械学習モデルは、私たちの日常生活の中で家を見つけ始めています。特に自動運転の分野は、過去10年間で「可能かもしれない」から「現在市販されている」になりました。

しかし、これらの自動化システムの進歩により、近年、自動運転車に対する懸念が高まっており、懸念事項のリストはさらに長くなっているようです。安全性と道路上の障害物に立ち向かう能力について心配するだけでなく、自動運転車が有色人種に害を及ぼす可能性があるかどうかについても心配する必要があります。

現在、ジョージア工科大学の研究者は、自動運転システムで使用されるアルゴリズムは、浅黒い肌の歩行者を検出する際の精度が5％低いと結論付けた研究を実施しました。

特定の人口統計グループのエラー率が他のグループよりも高い

チームは、自動運転車で主に使用されている最先端の物体検出モデルの精度を調査することから始めました。彼らは、これらのモデルがさまざまな人口統計グループの人々をどのように正確に検出するかを知りたがっていました。

彼らは、歩行者の写真を含む大規模なデータセットを分析し、肌の色に基づいて人々を分割しました。次に、そのようなモデルが、浅黒い肌のグループの人々と明るい肌のグループの人々の存在を正確に特定する頻度を調べました。

参照：arXiv：1902.11097 |ジョージア工科大学

研究者は、これらのモデルは、浅黒い肌のグループを検出する際に、平均して5％精度が低いことを発見しました。この不一致は、頻繁に遮られる歩行者の視界や写真の時刻など、いくつかの重要なパラメータを調整した後も同じままでした。

この調査では、公開されているデータセットでトレーニングされた、調査目的で使用されるモデルのみを考慮しています。商用自動運転車で実際に使用されているモデルは分析していません。ただし、調査結果が貴重であることを意味するわけではありません。このような調査は、実際の欠陥やリスクに対する強力な洞察を提供します。

偏った/人種差別的なアルゴリズムの背後にある理由誰かが偏ったアルゴリズムに関するレポートを公開したのはこれが初めてではありません。昨年の調査では、ハイテク大手（Microsoft、IBM、Megvii）によって開発された3つの顔認識システムが、色白の人よりも色白の人の性別を誤認する可能性が高いことが明らかになりました。

画像クレジット：Iyad Rahwan

人工知能モデル（特に機械学習と深層学習アルゴリズム）は、提供されるトレーニングデータセットから学習するため、十分な種類のデータを提供しない場合、これらのモデルは、実世界。

自動運転車についても同じことが言えます。オブジェクト検出アルゴリズムは、主に白人の画像を含むデータセットでトレーニングされていました。また、これらのアルゴリズムは、限られたデータセット（肌の色が濃い人）からの学習にあまり重点を置いていませんでした。

読む：自動運転車用の新しいAIは歩行者の動きを予測できる

研究者は、人種的に多様な例を含め、トレーニング中に限られた例に重点を置くことで、これらのモデルを改善できると考えています。

科学者は時間を逆転させるために量子コンピューターを使用します|熱力学の第二法則を破るレーザーは、受信機なしで1人の耳に音声メッセージを送信できます

産業技術