その投稿、ちょっと待って！ AIが投稿前に「再考」を促す「matte」の効果とは？

樋口

4年前

今やSNSなどへの投稿は自己表現の場のひとつとして定着している。しかし一方で、誹謗中傷などのトラブルも発生し社会問題にまで発展するなど、投稿することのリスクもあるようだ。

そんななか、情報領域の課題解決に向けカスタマーリレーション事業を展開し、2020年3月にマザーズに上場したアディッシュ株式会社は、SNSなどへの投稿の前にAIが内容の「再考」を促す新サービス「matte（マッテ）」の提供を開始した。

AIが高精度で「NG投稿」を検知！

同サービスは、投稿前の内容の不適切さをAIが瞬時に判別し、ポップアップアラートで再考を促すというもの。300以上の導入実績から得たコミュニティ特化型データをもとに高精度な判別を実現するという。

大きな特徴は、不適切な投稿に対しただ「待った」をかけるのではなく「どの文言がなぜNGなのか」を明示し、問題箇所を修正しやすい仕組みであることだ。これによりユーザーのリテラシー向上にも寄与していく。

ポップアップは運用しながらデータを収集し、検証を重ねて最適な内容へと進化を続けるとのこと。

同サービスを導入することで、NG投稿の未然防止はもとより、ユーザー間トラブルの軽減や「悪意のないNG投稿」をしてしまうユーザーの減少に効果が見込め、ひいては健全なコミュニティ運営が期待できるようだ。

「matte」のようなサービスが必要とされる背景はやや複雑。

まずは、誹謗中傷によるトラブルが社会問題化し、政府も動き出しているということ。プロバイダやプラットフォーム事業者に対し投稿削除や被害者が発信者の情報開示を請求できる権利の規定などの対策が打ち出されている。

しかし一言で「NG投稿」といっても、「悪意をもった投稿」と「そんなつもりはなかった投稿」あるいは「正当な批判」というパターンがある。同社は、このなかで「そんなつもりはなかった投稿」についてはユーザーのリテラシーを向上させることで回避できると考えているのだ。

そこで、投稿前にフィードバックつきで再考を促すことでユーザーのリテラシーを向上させ、「そんなつもりはなかった投稿」を未然に防いでいこうと開発されたのが同サービス。

ただ、いくらリテラシーを身に着けたからといって、いつでもそれを発揮できるわけではないだろう。そこで「再考アラート」が重要な役割を果たす。

「再考アラート」には、「一旦考えさせる」ことが可能だ。米国発のWIREDによると、投稿を完了する前のメッセージにより93%の投稿を思いとどまったという報告があるという。とすれば、「再考アラート」により「NG投稿」の数が減り、それに連鎖する「NG投稿」も減少するという理屈は通るだろう。

さらに言えば、一般社団法人日本アンガーマネジメント協会によると怒りのピークは6秒。この「一旦考える」間に怒りを鎮静させる効果も期待できるかもしれない。

同サービスは、SNSへの投稿制限や規制をするのではなく、ユーザーが安心して投稿できる場をつくるサポートをしていくということだ。