自律走行AIの盲点を人間のフィードバックで検出、安全性を向上させる新モデル
自動運転車や自律ロボットのAIはシミュレーションで大量に学習されますが、現実世界では予期せぬエラーを起こすことがあります。例えば、サイレンを鳴らした救急車を「大きな白い車」としか認識せず、道を譲らないといったケースです。MITとマイクロソフトの研究者たちは、人間の介入によってAIの「盲点(blind spots)」を特定し、現実世界での危険な振る舞いを未然に防ぐモデルを開発しました。
人間のフィードバックを取り入れる仕組み
まずAIを仮想シミュレーションで訓練し、各状況に対する最適な行動をマッピングさせます。その後、実環境で走行させ、人間が誤った行動を検知するたびに介入します。介入には2通りあります:
- 修正:人間がハンドルを握り、正しい操作を示す
- 実演:人間が実際に運転し、AIの判断と比較して不一致を検出
ダウィッド・スキーンアルゴリズムで盲点を統合
収集された「許容可能」「許容不可能」のラベルを、ダウィッド・スキーンアルゴリズムで統計的に集約し、各状況の盲点確率と信頼度を算出。ヒートマップとして可視化することで、AIが不確実な状況を把握し、実走行時に人間に判断を仰ぐなど安全な実行が可能になります。
参考文献: arXiv:1805.08966 | MIT
産業技術
- 信頼性ベースのプログラムが職場安全を向上しコストを削減する理由
- レガシー生産設備を高める4つのコスト効率的テックアップグレード
- 自動運転車、肌の色が濃い歩行者の検出精度が5%低い〜訓練データのバイアスが原因
- 歩行者の動きを45m先まで予測するAI、バイオメカニクス着想のRNNで自動運転を安全に
- Camcode、革新的WMSテクノロジーで倉庫精度と効率を向上
- 産業現場の作業員安全を高める3つの主要戦略
- インフォグラフィック:オペレーター安全を高める3つの実証済みステップ
- 効果的なQMSでエラーを排除し生産品質を向上させる
- ウェアラブルテクノロジー革新が従業員を守る:職場安全に革命を
- ドローン活用で職場安全を強化・リスク低減
- 工場安全を即座に向上させる5つの実証済み戦略