文字サイズ

AIによる投稿監視

 
こんにちは！ASです。
ここではSNSなどの投稿内容の審査に使われるAIについてお話しします！
ほかにもAIの使われている場面を紹介しているので上にあるタブから
気になるページを見てみてください！
　
  1. はじめに
  2. そもそも投稿監視とは
  3. なぜ投稿監視が必要？
  4. 投稿監視の仕組み
  5. 今後の課題と展望
○はじめに

近年ではインターネットの普及により企業側によるSNSなどへの柔軟な対応が必要になってきました。特に一般人のSNSでの投稿内容には気をつけなければなりません。世界中のユーザーとつながることのできるインターネット上の投稿ひとつひとつを人が目視で確認するとなると時間だけではなく人件費もかかってしまいます。そこでAIに仕事を任せることで短時間かつ費用を抑えて投稿審査を行うことが可能になりました。

○そもそも投稿監視とは

情報という意味の「コンテンツ」と適切にするという意味の「モデレーション」を合わせた言葉です。インターネット上のコミュニティや
・プラットフォーム…プラットフォームとはコンピューターなどがアプリケーションやサービスが動作するためのものです。
で投稿される内容を監視し規約違反にならないかや投稿内容は適切なものであるかなどをモニタリングする取り組みのことをいいます。

                                                  
モニタリングとは何かを監視し、情報を集めることです。


○なぜ投稿監視が必要？

スマートフォンの普及によりたくさんの人がインターネット上に情報発信をすることができるようになりました。誰でも簡単に情報発信ができることでネット炎上の件数が増加してしまっています。炎上することでブランドイメージの低下はもちろん風評被害も招く要因にもなります。このような被害を未然に防ぐためにもインターネットに投稿されたものに火がつく前に投稿内容が適切なものか確認する必要があるからです。

○投稿監視の仕組み

AIによる投稿監視には大きく２種類の方法があります。
１つ目は運営側が不適切だと判断するものをAIに学習させ、人が目視で確認していた頃と同じように投稿内容の線引きをAIに行わせる方法です。最近では画像認識AIを使って画像や動画の適切かどうか確認させる取り組みが行われています。
２つ目はAIに投稿内容を分類させたのちに不適切だと思われる投稿を検出し報告させる方法です。この方法では現在不適切ではないものが不適切になる可能性まで見出すことができるかもしれません。さらに投稿前に予防することができる可能性もあります。

○今後の課題と展望

インターネットの普及に加わりAIによる自然言語処理が近年、飛躍的に進化していることからAIの投稿監視システムは必要なものだと思われます。しかし投稿が不適切かどうかの線引きはあいまいでその判断すべてをAIが担うのは難しいと考えられます。そのため大まかな判断はAIが行いその中から本当に不適切だと思われるものを人が目視で確認するなどして状況に応じた対応が必要になります。



<<具体例へ
画像生成へ>>

このサイトは 第26回全国中学高校Webコンテストに参加しています


このサイトは クリエイティブ・コモンズ 表示 - 非営利 - 改変禁止 4.0 国際 ライセンスの元に提供されています。

サイトマップ