エラー防止AIアルゴリズム

マシンビジョンカメラ、キャリブレーションされていないセンサー、または予測できない影のあるグリッチは、産業用AIシステムで潜在的にコストがかかり危険なエラーにつながる可能性があります。ただし、研究者はエラー防止アルゴリズムと、エラーの可能性を減らすために実行できる簡単な対策を開発しています。

人工知能は、基本的なパーセプトロン人工ニューラルネットワークをはるかに超えて進化しましたが、エラーは依然として問題です。画像はPixabayの好意で使用されました

人工知能の産業用アプリケーション

AI（人工知能）には、ロボットプラットフォーム、マテリアルハンドリング、パッケージング、機械の手入れ、組み立て、検査、BAS（ビルディングオートメーションシステム）など、数多くの産業用アプリケーションがあります。より具体的な例としては、アイテムの分類、移動、輸送のためのドローンとスウォームテクノロジー、または生産プロセスでの異常の検出があります。

AIは、マシンビジョン、ロボットアーム、リモートセンシング、プロセス制御に依存する産業自動化の重要な側面になりましたが、忘れられがちです。

ただし、AIツールは、データが入力として提供され、正確な出力に変換される単純なブラックボックスではありません。出力が間違っている場合があり、それが懸念の原因です。

産業用アプリケーションのエラーの種類

コンピューターは指示されたとおりに動作するため、すべてのエラーの根本は人間にあります。設計エラー、アルゴリズムエラー、エンジニアリングエラー、または不良データの可能性がありますが、根本に人間がいる可能性があります。

これは、産業用AIを含むAIにも当てはまります。産業用AI内のエラーは、アルゴリズムバイアスとマシンバイアスの2つのカテゴリのいずれかに分類できます。

アルゴリズム的バイアスには、再現性と体系性の両方のエラーが含まれます。このようなエラーは、アルゴリズムのロジックに固有のエラー、アルゴリズムの出力の予期しない使用、AIシステムに提供されるデータの問題など、いくつかの異なる方法で現れる可能性があります。

限られたデータセットを使用してシステムをトレーニングすると、マシンバイアスが発生し、誤った出力が発生します。

AIエラーを制御することの重要性

アルゴリズムバイアスの例として、自動品質管理システムに使用されるAIを活用したマシンビジョンシステムについて考えてみます。このようなアプリケーションは、AIにデータとして提供される正確な測定値に大きく依存し、部品が許容範囲内にあるかどうかを判断します。 AIに不正確な測定値が提供されると、誤った部品のラベル付けが発生します。

マシンビジョンAIの背後にあるアルゴリズムは100％正しい可能性がありますが、データが悪いと出力が悪いことを意味します。許容できる部品は廃棄される場合がありますが、品質の悪い部品はお客様に送付される場合があります。これにより、問題の原因が追跡されるため、不要なコストとダウンタイムが発生します。

FANUCのiRVision3DLは、レーザーとAIを使用して部品の表面状態をチェックします。ファナックの好意により使用された画像

特定の環境またはアプリケーションで使用する前にトレーニングが必要な一部のAIシステム。このような場合、システムに提供されるトレーニングデータは非常に重要です。たとえば、システムが照明のある場所の条件に限定されたトレーニングを受ける場合、システムが照明なしで実行する必要がある場合に問題が発生します。

エラー防止AI（トレーニングAI）

AIと機械学習の背後には人間的な要素があるため、エラーを防ぐことはできません。ただし、AIシステム内のエラーを最小限に抑える方法があります。例としては、CARRL（Certified Adversarial Robustness for Deep Reinforcement Learning）があります。これは、MITで開発された深層学習アルゴリズムであり、データ内のノイズやシステムを混乱させる敵対的な努力。

カーネギーメロン大学は、深層学習モデルのAIアルゴリズムにも取り組んでいます。 RATT（Randomly Assign、Train and Track）と呼ばれるこのアプローチは、ラベルのないノイズの多いトレーニングデータを使用して、真のエラーリスクの上限を確立します。この上限により、AIモデルが新しい入力データにどの程度適応するかを判断できます。さらに、プリンストンの研究者は、トレーニングデータにエラーが存在する場合にAIシステムが効果的に学習できるようにするアルゴリズムを検討しています。

エラー防止の取り組みに影響を与える開発中の標準もあります。 NIST（National Institute of Standards and Technology）は、AI技術の信頼性の評価に重点を置くなど、AI標準に積極的に貢献しています。 NISTは、AIシステムのバイアスのリスクを減らすためのアプローチも提案しています。

米国CISA（Cyber​​security and Infrastructure Security Agency）は、「Genius Machines」というタイトルの2020年のパネルで明らかにされたように、AIアルゴリズムとデータ収集を検証するための標準をすでに検討しています。この取り組みは、NISTの取り組みとともに、説明責任を強調しています。

AIシステムのエラーへの対処

担当するAIシステムのエラーを防止することは、人的要素が関係しているため不可能な場合がありますが、エラーの可能性を最小限に抑える方法は確かにあります。

AIシステムからエラーが発生していると思われる場合は、アルゴリズムを自動的に非難しないでください。むしろ、エラーを調べてパターンを探します。たとえば、自動ビンピッキングロボットがエラーを起こしている場合は、誤って並べ替えられたアイテムに共通するものがあるかどうか、またはロボットの環境にパフォーマンスに影響を与える可能性のある変化（照明、影など）があるかどうかを確認します。 。また、自律移動ロボットに見られるような、システムのマシンビジョン部分のカメラレンズの汚れにも問題がある可能性があります。

多くのマシンビジョンカメラには、FLIR Firefly DLなどのAIシステムが組み込まれていますが、これらのシステムをクリーンに保ち、正しく構成しないと、エラーが発生する可能性があります。 FLIRの厚意により使用された画像

プログラミングの難しいルールは、悪い入力は常に悪い出力をもたらすということです。産業用AIシステムによって生成されるエラーを最小限に抑えるための最初のステップは、センサーから始めて、そのデータが可能な限り正確であることを確認することです。 AIシステムに入力データを提供するセンサーは、定期的に調整する必要があります。

ユーザーがデータの許容範囲を設定できるAIシステム内のツールは、許容範囲を慎重に検討した後で実装する必要があります。厳密すぎると、AIはあまり価値を提供しません。緩すぎると、非常に多くのエラーが発生します。また、これらの値は調整できることを忘れないでください。

また、前に触れたように、カメラはすべて清潔に保ってください。マシンビジョンシステムはさまざまな環境条件で堅牢になるように設計されていますが、レンズが汚れているために視力が低下した場合でも、マシンビジョンシステムが良好に機能することを意味するわけではありません。同じことが他の産業用センサーにも当てはまります。これらのセンサーの精度は、スケーリングの蓄積、腐食環境への暴露、機械的な問題、または経年劣化によって損なわれる可能性があります。

AIは、プロセス制御から品質検査に至るまで、産業部門で広く使用されています。また、人的要因が関係しているため、これらのAIシステムにもエラーが発生する可能性があります。エラー防止アルゴリズムが開発されていますが、これらの方法は完全には成熟しておらず、産業用アプリケーションで広範囲にテストされていません。また、NISTやCISAなどの組織はエラー防止標準に向けて取り組んでいますが、まだ開発中です。ただし、いくつかの簡単な対策により、AIシステムのエラーの可能性を減らすことができます。