AIは研究論文を読み、平易な英語の要約を提供できます
- 研究者は、これまで未踏のアイデアである回転に基づいて新しいニューラルネットワークを開発します。
- 既存の方法を置き換えて、テキストの要約、言語モデリング、質問応答などの実際の問題に対処できます。
研究論文は通常、専門的なアプローチと技術用語で満たされているため、科学的背景がない読者にとっては理解が非常に困難です。
最近、MITとカタールコンピューティング研究所の科学者は、科学雑誌を読み、数文で平易な英語の要約を提供できる新しい人工知能(AI)モデルを考案しました。
以前の手法よりもはるかに優れた結果が得られますが、科学のライターや編集者に取って代わることはできません。ただし、このAIは、ライターがより多くのジャーナルをスキャンして、それらが何であるかを理解するのに役立ちます。
研究チームは当初、特定の物理学の問題に取り組むための神経ネットワークを開発しようとしていました。たとえば、複雑な工学材料で光がどのように振る舞うかなどです。
彼らはすぐに、同じ方法論を使用して、音声認識や自然言語の解釈など、既存の機械学習方法よりもはるかに効率的な方法で他の複雑な計算タスクを処理できることに気付きました。
彼らは実際に何をしましたか?
過去数年間で、リカレントニューラルネットワーク(RNN)は、言語モデリングからテキストの要約、チャットボットシステムの開発まで、幅広いタスクに対応するための標準的な人工ニューラルネットワークになりました。
長いデータ文字列からの情報を相関させる能力を向上させるために、さまざまな技術が開発されてきました。最も人気のあるものは、長短期記憶(LSTM)とゲート付き回帰ユニット(GRU)です。しかし、それでも、合成タスクで印象的な記憶能力や効率的なリコールを実証することはできません。
そのため、研究者は回転メモリ単位(RUM)と呼ばれる代替アプローチを開発しました。行列の乗算に基づく従来のニューラルネットワークとは異なり、RUMは多次元空間で回転するベクトルに基づいています。
参照:MIT Press Journals | doi:10.1162 / tacl_a_00258 | MIT
多次元空間のベクトル(特定の方向を指す特定の線)を使用して、テキスト内のすべての単語を表します。連続する各単語は、数千の次元を含む可能性のある理論空間内の特定の方向にベクトルを迂回させます。結果のベクトル(またはベクトルのグループ)は、関連する単語の文字列に変換されます。
全体として、RUMは2つのことを行います。それは、複雑なシーケンシャルダイナミクスを記憶し、情報を正確に呼び出すことです。また、文字レベルの言語モデリングと質問応答の有望なパフォーマンスも示しています。
テスト
研究者は、これらの調査結果を説明する独自の論文を含む多数の科学論文でこのシステムをテストし、その結果を従来のLSTMおよびGRUベースのニューラルネットワークと比較しました。
RUMは、要約をスキャンするだけでなく、論文全体を読み取って、その内容の簡単な要約を生成します。このシステムによってレンダリングされた要約には、専門用語が少なく、繰り返しの単語が含まれていました。エレガントな散文ではありませんでしたが、データの重要なポイントに当てはまります。
読む:AIはシェイクスピアの作品に似た独自の詩を書いています
このシステムを自分のタスクで試すことができます。コードとデモはGitHubで入手できます。
産業技術
- R、L、Cのまとめ
- IoTは世界の飢餓を終わらせるのに役立ちますか? HPEとWEFはそう思います。
- VRとARは製造トレーニングを再構築できます
- 人工ニューラルネットワークは無線通信を強化することができます
- AIは、世界の非公式な居住地を検出してマッピングできるようになりました
- 人工知能は神経活動から音声を生成できます
- AIとブロックチェーンがサプライヤーの複雑さを最小限に抑える方法
- FR4:いつ使用できるのか、いつ使用できないのか
- ニューラルネットワークとその機能とは
- 相互運用性とは何ですか?私の会社はそれをどのように達成できますか?
- チップス自動販売機はどのようにホットで新鮮なチップスを提供できますか?