イスラエルのサイアブラ社、生成AIによる偽情報を検知する機能を開発。日本国内で段階的に提供

樋口千穂

1年前

株式会社テリロジーワークスは、提携先であるイスラエルのサイアブラ社と共同で、生成AIによる偽情報を検知する新機能を、日本国内において段階的に提供することを発表しました。

生成AIの悪用が社会問題に

生成AIの普及により、SNSやその他のメディアを通じた情報操作が、ハイブリッド戦の一環として一層加速しています。

そんな中、悪意を持った行為者たちが、社会的議論を歪曲し、フェイクニュースを広める手段として生成AIツールを利用している現状が社会的な問題となっています。

この背景から、「私たちが閲覧するコンテンツは信頼できるのか？」という疑問を持つ人も少なくないでしょう。

そこでサイアブラ社は、この疑問に答えを出すため、生成AIによってつくられた偽情報（テキスト、画像、SNSのプロファイルなど）を検知する新機能を開発しました。

サイアブラ社は、第1段階として偽情報の検知を目的とした新しいウェブサイト「Botbusters.ai」を開設。同サイトにて、生成AIによる偽情報を特定するためのツールを提供しています。

Botbusters.aiは、ウェブブラウザから無料で利用可能。サイト上の検索バーにURLやテキストを入力することで、リアルタイムでの分析が行われ、その結果がレポートとして提示されます。

その結果では「テキストがAIによって生成されたものか、人間によって書かれたものか」の確率を示し、パーセンテージでの推定値を表示します。

サイアブラ社は、先進的なAIアルゴリズムを採用し、リアルタイムでのディスインフォメーションの検出を目指すプラットフォーム「Social Threat Intelligenceプラットフォーム」を展開しています。

株式会社テリロジーワークスは、Threat Intelligence（脅威情報サービス）と自社開発のThreat Hunting ツールを核としたサイバーセキュリティサービスを提供中。サイアブラ社のSNS分析プラットフォーム「Cyabra」を日本国内へ提供しています。

このたびの新機能は今後、サイアブラ社のプラットフォームに組み込まれる予定。なお、2023年8月時点で、Botbusters.aiは英語に最適化されていますが、今後日本語への本格的な対応を行います。

株式会社テリロジーワークスは、この新機能とBotbusters.aiの提供を通じて、オンラインの安全性と信頼性の向上を目指し、社会に貢献したいとのことです。

株式会社テリロジーワークス公式サイト：https://www.twx-threatintel.com/

（文・Higuchi）