AIとViztech：より安全なオンライン・コンテンツの新時代

オンライン・メディア企業は、過激派コンテンツがオンラインに現れる前に取り締まることに苦慮しています。WeSeeのCEO、デビッド・フルトン氏は、AI駆動技術が危険なコンテンツを公開前に検知できると主張します。

政府当局者と学者は、オンライン・テロリスト・コンテンツの急増をどう抑制するかを議論してきました。Facebook、Twitter、YouTubeといったプラットフォームが規制圧力の高まりに直面する中（ドイツ議会は最近、「明らかに違法な」コンテンツを24時間以内に削除しなければ最大5,700万ドルの罰金を科す法案を可決）、現在のモデレーション能力への信頼は低いままです。

6月、ハーバード大学で「有害なオンライン発言：アルゴリズムと人間行動の交差点で」会議が開催され、バークマン・クライン・センター、ショレンスタイン・センター、ロンドン拠点の戦略対話研究所が共催しました。このイベントは、有害発言の拡大する問題と、それに対処するツールの間の決定的なギャップを浮き彫りにしました。

開会挨拶では、過激派コンテンツが世論と政治的議論をどう形成するかが強調され、効果的な対応を妨げる深刻なリソースと研究の不足が指摘されました。

自動検出：差し迫った要請

9月、英国、フランス、イタリアの首脳がニューヨークの国連総会で主要インターネット企業と会談。英国のテリーザ・メイ首相は、テロリスト・コンテンツを2時間以内に検知・削除しなければ重い罰則が発動すると警告しました。この期限は重要です ― 研究によれば、プロパガンダの3分の2がこの時間窓内で共有されるため、この時間制限が現実的か疑問視されています。

GoogleとYouTubeは、AIを活用したコンテンツ識別システムの拡張計画を発表しました。しかし問題は持続しています。最近のTelegraph記事によれば、昨年8月から今年5月までの間に、爆弾製造手順やその他の過激派プロパガンダを提供する54,000のサイトが活動しており、すべてイスラム国支持者と関連していました。

Ciscoの予測では、2020年までにウェブ上に65兆枚の画像と6兆本の動画が存在し、画像と動画トラフィックが3年以内に総インターネット・トラフィックの80%以上を占めるとされています。このような量を過激派コンテンツの観点から監視することは困難な課題であり、最先端の人工知能が解決を助ける可能性があります。

Viztech：予防的アプローチ

AIベースの視覚コンテンツ分析のパイオニアであるViztechは、アダルトおよび暴力的コンテンツに加え、テロリスト画像を公開前に検知できる高度なフィルターを開発しました。ISISの旗や既知の過激派人物の顔といったシンボルを認識することで、Viztechのシステムはユーザーのインタラクションよりもはるかに早いリアルタイムでコンテンツをフラグできます。

ディープ・ラーニング・ニューラル・ネットワーク上に構築されたこの技術は、人間の認知速度の最大1,000倍で動作し、予測的フィルタリングと動画・静止画の精確な分類の両方を提供します。本質的に、Viztechは事後的なモデレーションを超え、プロアクティブな予防へと移行し、政府、研究者、プラットフォームにオンライン・エコシステムを守る強力なツールを提供します。

David Fulton、WeSee CEO