自動運転車の安全性を向上させるためのAIの「死角」の発見

• 新しい機械学習ベースのモデルにより、自動運転車の安全性が高まります。
• 実際の世界で危険なエラーが発生する可能性のある例からAIが学習できるインスタンスを検出します。

人工知能の分野における最近の進歩により、自動運転車と自律型ロボットがよりスマートになりました。まだ揺籃期にありますが、自動運転車はますます一般的になり、今後数年間で私たちの輸送システムを根本的に変える可能性があります。

最近、MITとMicrosoftの研究者は、人間の入力の助けを借りて自律システムの「死角」を明らかにできるモデルを開発しました。これは、これらの自律システムが実際の環境で間違いを犯す可能性があるときに（トレーニング例またはシミュレーションから）学習するインスタンスを識別します。

たとえば、自動運転車に動力を供給するAIは、シミュレーションで広範囲にトレーニングされており、道路上で考えられるほぼすべてのシナリオに対応できるように車両を準備します。ただし、システムは現実の世界でエラーを起こすことがあります。特定のシナリオでは、システムの動作が（必要な場所で）変更されません。

たとえば、自動運転車（十分な訓練を受けていない）が高速道路をクルージングしていて、救急車がサイレンを鳴らしている場合、車は救急車を大きな白い車としてのみ認識し、救急車を引っ張ったり、救急車やその他の緊急車両に道を譲ったりすることはできません。車両。

研究者は、人間の入力を統合することでシミュレーションと現実世界のギャップを埋め、自律システムが自分の知らないことをよりよく理解できるようにしたいと考えています。

モデルは人間のフィードバックをどのように受け止めますか？

自律システムは、最初に仮想シミュレーションでトレーニングされ、各状況を最適なアクションにマッピングします。その後、現実の世界に展開され、システムが誤ったアクションを実行するたびに人間がシステムを中断します。

人間は、修正またはデモンストレーションのいずれかによってデータを供給することができます。修正を提供するために、車両が計画されたルートに沿って自分自身を運転している間、人は運転席に座ることができます。システムが不適切なアクションを実行した場合、人間がハンドルを握ることができ、これによりAIに、誤ったアクションを実行していたことと、その特定の状況で何をすべきかを示す信号が送信されます。

参照：arXiv：1805.08966 | MIT

あるいは、人間は実世界で車両を実演/運転することによってシステムを訓練することができます。システムは、すべての人間の行動を分析し、その状態で行ったであろう行動と比較します。それぞれの不一致（ある場合）は、システムの許容できないアクションを示しています。

死角の処理

手動トレーニングが終了すると、システムには基本的に許容できるアクションと許容できないアクションのリストがあります。目標は、AIが区別するのが難しいと感じる曖昧な状況（または死角）を検出することです。

研究者の礼儀| MIT

たとえば、自律システムは、大きな車両と一緒に何回か引っ張らずに巡航した可能性があります。ただし、救急車（AIとまったく同じように見える）でも同じことを行うと、許容できない動作を表すフィードバック信号を受信します。

この種の状況に対処するために、チームはDawid-Skeneアルゴリズムと呼ばれる機械学習手法を使用しました。 「許容可能」および「許容不可能」とラベル付けされたすべての死角を取得し、それらを集約し、確率計算を使用してそれらのラベルのパターンを検出します。

次に、アルゴリズムは、各状況の信頼水準とともに、単一の集約された死角を生成します。また、各状況で死角になる可能性が低いか高いかを示すヒートマップを生成します。

読む：新しい自動運転車のアルゴリズムは車線を積極的に変えることができる

現実の世界では、モデルが状況を死角として高い確率でマッピングすると、人間に適切な行動を求めることができ、より安全な実行が可能になります。このタイプのモデルは、自律型ロボットが新しい状況で不適切な行動をとる可能性がある時期を予測するのにも役立ちます。