AIが意味理解に接近：NLPの次なるフロンティア

AIは誤称だ、とよく指摘されます。最初の文字「Artificial（人工）」は概ね正しいですが、2つ目の単語「Intelligence（知能）」については、それに値するものは何もありません。意味論（セマンティクス）を例に取ると、文、段落、本の意味を人工技術が理解することに関して、知的かそうでないか以前に、それは断固として苦手としています。

しかし、これは変わりつつあるのでしょうか？ 最近、法律テック企業InCloudCounselの機械学習ディレクター、Hadayat Seddiqi氏と対談しました。同氏は、AIが進化の次のステップとして、セマンティクスの理解に近づいていると考えています。「このマイルストーンにいつ到達する可能性があるか？」と尋ねました。

SEO：ライターとして自分の語彙を駆使し、繰り返しなくアイデアを表現することに誇りを持つなら、おそらくSEOは嫌いでしょう。一つの文、章、記事、あるいは本全体でしか表現できない複雑な議論を好むなら、SEOは議論を2、3、4語（AIと意味理解など）に矮小化する仕組みゆえに敵です（お分かりいただけただろうか？）。

検索が、AIを用いてセマンティクスを理解する（またやってしまった）ことで、はるかに洗練された、知的と言える理解に基づく検索結果を生み出し、面倒な繰り返しを不要にしたら、素晴らしいと思いませんか？

自然言語処理（NLP）市場は2025年までに223億ドルに達すると予測されており、特にコミュニケーションとビジネスのあり方において、技術がいかに進歩したかを物語っています。

現在、これらの技術は組織内で多様な目的で使用されています。ブランドのレピュテーション監視によるセンチメント分析、キーワードマッチングや語義曖昧性解消による広告配置インサイトの提供、製品が負債にならないよう規制コンプライアンスでの活用などです。

AIがテキストを読み、セマンティクス（単語間の関係性）を理解することで、組織がリスクをさらに軽減し、負債を発見するのを支援する——ここにNLPの巨大な価値があります。

では、AIによるセマンティクス理解の物語において、進化の次のステップは何か、いつこのマイルストーンに到達するのか？

Seddiqi氏は言います。「AIによるセマンティクス理解の達成には、いくつかの重要なマイルストーンが必要です。セマンティクス理解に至る反復的な進歩と、各マイルストーンが意味するもので考えると分かりやすいでしょう。」

「以前のマイルストーン」とSeddiqi氏は言うのは「単語ベクトル」です。「多くの人が慣れ親しんだユースケース、コンピュータの検索機能でこのマイルストーンを枠組みしましょう。誰もがCtrl+F/Command+Fでシステム内を検索したことがあるでしょう。これはキーワードを完全一致で見つけます。また、Googleなどの検索エンジンで情報を探す場合、『スペルチェック』機能が含まれ、綴り間違いに対応します。

「しかし、見た目は全く異なるが意味が似ている単語についてはどうでしょう？ 2013年頃、AIコミュニティはこれを効率的にモデル化する方法を見つけました。それが『単語ベクトル』です。King + Woman = Queen のような楽しい単語代数が可能になります。より実用的には、検索をセマンティックに関連する単語に拡張できるようになりました。」

AIによるセマンティクス理解の次のマイルストーン

「単語ベクトルはゲームチェンジャーでしたが、依然としてアイデアを1つか数個のキーワードで表現する必要がありました。しかし、アイデアの表現に文章全体が必要ならどうでしょう？ それが次のマイルストーンで、昨年の研究の大きな推進により到達しつつあります。

「アイデアは、文を文（または思考）ベクトルにエンコードし、類似の文ベクトルを見つけられるというものです。うまくエンコードされていれば、検索機能は全く異なる見た目の文でも、同じアイデアを表現しているものを見つけられます。

「現在の研究進捗に基づけば、この技術が今後数年で成熟するのは unreasonably ではありません。」

将来のマイルストーン：文を超えるAI理解

「この技術の進化には明確な階層パターンが見られます。単語レベルで用いられた類似技術をスケールアップし、文レベルでアイデアを理解するAIに近づいています。これにより、段落、文書全体、さらには本全体を必要とするアイデアをAIが理解する、エキサイティングな応用が開かれます。

「AIが単語から文の理解へ飛躍したのは、データセットサイズと計算能力の制約によって大きく制限されていたため、些細なことではありません。これらより大きな問題を扱うモデルを作る能力は、この2つのリソース制約にかかっていることがこれまで示されてきました。

「AIハードウェアの進歩によりこれらのコストが下がるにつれ、より大きなテキストコレクションを理解するモデルに近づくでしょう。これはOpenAIのGPT-2モデルである程度証明されています。同じ文エンコーディングモデル設計で大量のデータを用いると、多くの文にわたる高レベル概念をすでに理解するモデルが生成されます。例えば、GPT-2は驚くほどの首尾一貫性でニュース記事全体を書くほど理解しています。」