AIがサイバーセキュリティを強化するも、人間の監視は依然不可欠

コンピューターと情報システムをサイバー攻撃から守るうえで、人工知能と機械学習は役立つ――しかし、それらは増大する問題の万能薬ではない。

Critical Start, Inc.のチーフテクノロジーオフィサー、Randy Watkins氏によれば、AIが多くの分野で人間を凌駕する能力を増している現在の熱狂にもかかわらず、サイバーセキュリティ強化の魔法の弾丸ではない。

AIは、潜在的セキュリティ侵害に関するアラートを含む、大量のデータ管理に優れている。問題は、その情報をどう解釈するかにある。

アラートは到着順に処理される。その後、優先順位付けされ、適切な脅威レベルが評価される。ビジネスに関する深い知識と経験を持つ人間アナリストは、各アラートを適切な文脈に位置づけるのが得意だ。機械はそうではない。AI駆動システムは異常なユーザー活動を検知できるが、そのイベントが悪意ある意図を含むか判断するのは苦手だ。

「私はAIのすべてを否定する者ではない」とWatkins氏。「しかし、AIと機械学習には、自分たちがやっていることに豊富な推論を適用する能力がない。」

機械は特に偽陽性（false positive）の最小化が得意ではない。MicrosoftのPowerShellを例に取ろう。タスク自動化の一般的なフレームワークだ。機械は、そのツールの特定ユーザーが特定時点でコマンドを実行すべきかどうかを正確に判断できない。異常は悪意ある攻撃の結果かもしれないし、そうでないかもしれない。

「機械学習」という用語は、システムが経験とともに改善することを示唆するが、Watkins氏によればその能力は限定的だ。アルゴリズムを適切に応答するよう訓練するには、良い例と悪い例の両方を大量に投入する必要がある。それでも偽陰性（false negative）――システムが見逃す実際の攻撃――の問題は解決しない。「データを歪める外れ値を取り除く必要がある」とWatkins氏。

イベントが悪意あるものかどうかの判断は、常にイエス・ノーの二択ではない。まず、企業はシステムをどの程度敏感にするか決めなければならない。見かけ上異常なイベントの100%でアラームを鳴らすべきか？80%か？敏感すぎればアラームと潜在的システムシャットダウンに溺れる。鈍感すぎれば、侵害が検知されずにすり抜ける。

「変数を増やせば、追加のデータセット、主体とシステムの振る舞いに関するより多くの文脈が必要になる」とWatkins氏。「それらの疑問を導入し始めると、機械は崩壊する。」

効果的なサイバー攻撃検知は累積リスクスコアリングに依存し、これは人間が得意とする。「我々がイベントを見るたび、それが疑わしいか判断している」とWatkins氏。「しかし、推論を適用し、アルゴリズムが持たないセキュリティに関する過去の知識も適用できる。」

「機械は膨大なデータを素早くクロールできる」と同氏は続ける。「だが、『最小権限』のような抽象的概念を与え、アラートセットに適用せよと言ったとき――それは特権昇格を認識できるか？悪意あるように見える無害な活動は大量にある。」

機械学習が進化し、サイバー犯罪者が検知回避の新手法を編み出し続けることは疑いない。Microsoftは自動検知システムの洗練化で前進し、グローバルサイバーセキュリティリーダーのPalo Alto Networksも同様だ。「しかし一日の終わりには」とWatkins氏、「『はい、このドメインコントローラーをオフラインにしろ』と言える人間が依然として必要だ。」企業は、誤ったアラートによるシステムダウンタイムコストを常に最小化しようと努めている。

とは言え、全セクターのサイバーセキュリティニーズを満たす十分な人間エキスパートがいない。「業界には明確に人材不足がある」とWatkins氏。だからこそ、マネージド検知・対応という形で外部支援に向かう動きがある。

人材不足は新しくない。「セキュリティが存在して以来存在している」とWatkins氏。過去10年間でようやく企業と大学が、将来のサイバーセキュリティエキスパートのより良い訓練と教育の必要性に目覚めた。

人間も機械も、重要システムを増大し続けるサイバー攻撃の脅威から守るための協業において、まだ道半ばだ。「必要な60のときにゼロから始めた。今90が必要で、我々は60にいる。」