AIが複雑な研究論文を平易な英語要約に変換

研究論文は専門的アプローチと技術用語で満ちており、科学的背景のない読者には理解が困難です。MITとカタールコンピューティング研究所の科学者たちが、科学ジャーナルを読み取り、数文の平易な英語要約を提供する新しいAIモデルを開発しました。

従来手法より大幅に優れた結果を出しますが、科学ライターや編集者を完全に置き換えるものではありません。しかし、ライターがより多くのジャーナルをスキャンし、概要を把握するのを支援できます。

回転記憶ユニット（RUM）の開発

研究チームは元々、光が複雑な設計材料でどう振る舞うかなどの物理問題に取り組むニューラルネットワークを開発していました。同じ方法論が、音声認識や自然言語解釈などの他の複雑な計算タスクにも、既存機械学習手法より遥かに効率的に適用できることに気づきました。

近年、再帰型ニューラルネットワーク（RNN）が言語モデリングからテキスト要約、チャットボット開発まで幅広いタスクの標準となっています。長期記憶（LSTM）やゲート付き再帰ユニット（GRU）など、長いデータ列からの情報相関能力を改善する手法が開発されてきましたが、合成タスクでは依然として印象的な記憶能力や効率的な想起を示せていませんでした。

そこで研究者たちは、行列乗算ベースの従来型ニューラルネットワークとは異なり、多次元空間でのベクトル回転に基づく代替アプローチ「回転記憶ユニット（RUM）」を開発しました。

Reference: MIT Press Journals | doi:10.1162/tacl_a_00258 | MIT

RUMは多次元空間のベクトル（特定方向を指す線）を用いてテキスト内の各単語を表現。連続する単語ごとにベクトルを理論空間（数千次元の可能性あり）の特定方向へ回転させ、結果のベクトル群を関連する単語列に戻します。

全体としてRUMは2つのことを行います：複雑な順序動力学を記憶し、情報を正確に想起すること。文字レベル言語モデリングと質問応答でも有望な性能を示します。

テスト結果

自身の論文を含む多数の科学論文でテストし、従来のLSTM/GRUベースネットワークと比較。抽象だけでなく論文全文を読み、シンプルな要約を生成。専門用語と反復語が少なく、主要ポイントを捉えています。コードとデモはGitHubで公開中。

AIが考案した世界初のスポーツ「スピードゲート」が誕生新量子アルゴリズムで2000万量子ビットが2048ビットRSAを8時間で解読

産業技術