「万物のインターネット」実現へ：安全性とプライバシーを守るAI駆動の制御

すべてを見渡し、すべてを知る「万物のインターネット」には制御が不可欠：テクノロジーに私たちの活動をより深く見せながら、プライバシーとセキュリティの落とし穴をどう回避するか？ AIこそがその制御を実現するほぼ唯一の道だ

テクノロジーが、あなたの欲しい商品を最安値で見つけられるとしたら？ 歩行中に車にはねられるのを防げるとしたら？ 自動運転車を完全に安全かつ効果的にし、道に迷ったり、人やランドマークを見逃したりすることがなくなるとしたら？ これらすべてが、既存の知識と技術を活用した一連の取り組みで実現できるとしたら？ 関心がありますか？ 実現不可能？ 前者は「イエス」、後者は「ノー」……たぶん。ようこそ、「万物のインターネット（Internet of Everything）」の世界へ。

「モノのインターネット（IoT）」という概念は、ケビン・アシュトン氏によるMITの声明で公式に登場した。「人々には限られた時間、注意力、正確さしかない。それゆえ、現実世界のモノに関するデータを取得するのは得意ではない。私たちの手を借りずにデータを収集するコンピューターが、モノについて知り得るすべてを知っていれば、あらゆるものを追跡・カウントし、廃棄、紛失、コストを大幅に削減できる。モノがいつ交換、修理、リコールが必要か、鮮度がどうかまで把握できるようになる」

重要なのは、これが今日私たちが呼ぶ限定的なIoTの話ではなく、すべてを見渡し、すべてを知る「万物のインターネット」の話だということだ。

現在は「かなり知っている」段階だが、「すべてを知る」には至っていない。アプリケーションがユーザーの購入希望と現在地を知ることは可能だ。近くの店舗の価格を調べることも可能だが、膨大な複雑さとコストがかかり、得られるメリットは限定的かもしれない。冒頭で挙げたようなことが実現できれば、適切な店舗への誘導は低コストで追加できるが、現状ではそれは難しい。「知る」ことはできても「見る」ことはできないのだ。

この「見る・知る」のギャップは、人間主導のインターネットとアプリケーションの長所と短所を浮き彫りにする。人間は見て、現実世界をリアルタイムで理解する。IoTセンサーは……まあ、〈感知〉するだけだ。温度、気圧、位置、相対速度がわかっても、ナビゲーションしようとするときに車の窓から外を見るのとは違う。1999年にアシュトン氏が発言した頃、人間の視覚を模倣して現実世界のデータを収集する実用的な方法はなかった。しかしAIにより、今や「空間コンピューティング」という形でそれが実現し、冒頭で述べたすべて、それ以上のことが可能になりつつある。

では、「今や必要なものは揃っている」のに、なぜそれらのアプリケーションがまだないのか？ 「見る・知る」のギャップがあると言ったが、それは「必要なものは揃っている」という考えと矛盾しないか？ あの素晴らしい未来を切り開く巨大な技術的ブレークスルーを待つ必要がないなら、何が鍵になるのか？ 答えは：技術ではない、社会だ。

「ビッグブラザーが君を見ている」は、大規模監視のリスクを象徴するフレーズだ。広範囲にカメラを設置すれば、通りを歩く犯罪者を特定でき、同じ技術で歩行者の飛び出しを警告できる。しかし、ストーカー行為やスパイ行為、隠しておきたい秘密の暴露にも悪用されうる。平均的な人は「すべてハッキング可能」と考え、多くの人が「政府がすでに監視している」と疑っている。こうした中で、企業が「すべてを見て、すべてを知る」技術の利用を、限定的な用途でさえ積極的に進められないのは理解できる。

「限定的な利用」とは何か？ ある著名な労働弁護士に、職場事故防止のためのビデオ監視について尋ねたところ、「どの労働組合も悪用を恐れ、どの雇用主も否定しながら悪用に走るだろう」と答えた。別の知人は、自動運転車の安全走行のための広範なビデオ監視は、プライバシー擁護派の訴訟を招き、多くの「いてはいけない場所にいる人々」の支持を得るだろうと語った。

プライバシーは我々全員にとって重要だ。同時に、安全、健康、命も重要だ。テクノロジーの進化は今、これらをどう天秤にかけるかを迫っているのかもしれない。「AIが暴走する恐れ」は、まさにこの種の懸念の表れではないか？ 私はそうだと思う。AIが人類を絶滅させるよりもずっと前に、AIは私たちを救うか、あるいはさらけ出すかのどちらかになるだろう。AIへのガードレール設置の圧力はあったが、それらは最も広範で、インパクトが大きく、最も差し迫った問題、すなわち「AIと映像の融合により、現実世界（我々一人ひとりを含む）がテクノロジーによって監視される能力」を回避してきた。

この問題への明確な答えはガバナンス、すなわち利用を制約するルールと、それを技術で強制する仕組みだ。しかし「明確な答え」ほど厄介なものはない。ルール作りは難しく、技術による利用制限も難しい。そして人々にそれを信じさせるのはさらに難しい。アシモフの「ロボット工学三原則」と、それをどう回避するかに焦点を当てた彼の数々の物語を思い出してほしい。20年前、ある研究所でビデオ会議実験が行われ、オフィスに小型カメラを設置したところ、従業員の半数が出社早々カメラを塞いだ。ウェブカメラを予定外の会議時に塞ぐ人をあなたは知っているはずだ。ランプが消えていても、誰かがハッキングしているかもしれない。

社会的懸念は、テクノロジーを生活に密接に統合しようとする試みと必ず衝突する。それらの懸念を納得させる形で解決することが、テクノロジーによる仕事と生活のさらなる改善に不可欠な段階に来ているのではないか？

すでに広範囲で、ほぼ普及しているビデオ監視がある。今週の散歩で、通りかかった家の約4分の1にドアベルカメラやその他のカメラがあった。商業地域ならさらに多いだろう。自分の庭にいる時にドアベルが自分を監視していると心配する人はどれくらいいるか？ AIが襲いかかってくることを恐れる人より少ないだろう。ドアベルは現実に存在し、捕食的なAIは存在しないのにだ。こうした思考を排除し、ウェブカメラを塞ぐのをやめられるはずだ。では、普遍的なビデオ監視に我々は慣れられるか？ たぶん。だが、ガバナンスのジレンマを解決できれば、もっと良い。

それがまさにAIで可能になるかもしれない。理由は二つ。

AIがより強力で、適用範囲が広ければ広いほど、その利用を制約するのは難しくなる。これに異論はないだろう。となると、限定されたトピックに特化したエキスパートAIエージェントの方が制約しやすい。APIの保護とガバナンスは可能だが、会話型の関係性をどう守り、どう統治するのか？ 再びアシモフの三原則、特に「服従」に戻る。AIを含め何かに自律性を与えれば、介入の可能性を与えることになる。AIによるビデオ監視の文脈では、「何かを探せ」と汎用的に命じるAIより、「特定のものだけを探す」ように設計されたAIエージェントの方がリスクは低い。

また、エキスパートAIエージェントを使ってAIアプリケーションを統治することもできる。機械学習にはすでに「敵対的AI」戦略があり、モデルを欺くデータ操作を検知している。同じアプローチをAI利用のガバナンスに適用できる。特に、汎用的な質問に答えるのではなく、特定の結果のみを出力するように設計されたAIならなおさらだ。例えば顔認識を、政府の指名手配犯データベースに載っている顔のみに限定するといった具合だ。ハッキングされる可能性はあるが、一般的なストーカーや疑い深い配偶者ができることではない。

「万物のインターネット」を実現することは、テクノロジーが仕事を強化し、生活を改善し続けるために不可欠だ。テクノロジーとの新たな親密さをどう作り、プライバシーとセキュリティの落とし穴を避けながら、テクノロジーに活動をより深く見せるかを制御することは、万物のインターネット実現の鍵であり、AIはその制御を達成するほぼ唯一の道だ。このAIの使命こそ、私たちが政策を策定して統治すべき対象だ。AIが人類を絶滅へ導くリスクより、AIが救いの手を差し伸べないリスクの方がはるかに大きい。