「悪意の含まれるテキストや画像を自動検出する為のオープンソースのAIモデレーションライブラリ・「OpenModerator」」のご紹介| Webデザイン参考記事まとめアプデ

2024年01月15日(月)

悪意の含まれるテキストや画像を自動検出する為のオープンソースのAIモデレーションライブラリ・「OpenModerator」

0

0

0

2

OpenModerator

OpenModeratorは悪意の含まれるテキストや画像をAIで検出する為のオープンソースのAIモデレーションライブラリです。悪意、と言うと語弊があるかもしれませんが、ここでは一般的な意味での悪意、いわゆる「冒涜的な表現」を指します。

SNSや掲示板などのCGM（Consumer Generated Media）サービスにおけるユーザー同士の投稿をベースとしたコミュニティに必要とされるモデレーションを自動的に行う為のもので、基本的にはGoogleのPerspective APIで特定の悪意ある言語や意図の検出を行い、このフィルターを回避しようとするユーザーにはAIでフラグを立てる、というもののようです。

また、前述したようにInception V3を使用した画像モ...

WordPressやJQueryなどを中心に、Web開発者のためのチュートリアルやコードスニペットの記事を公開しているTakahashi Yoheiさんのブログかちびと.netの記事『悪意の含まれるテキストや画像を自動検出する為のオープンソースのAIモデレーションライブラリ・「OpenModerator」』についてまとめています。

この記事は特にGoogle・動画・Webサービスについて書かれており、気になるWebデザインの記事やまとめを見つけたら「本文を読む」をクリックすると、記事配信元のかちびと.netで全文を閲覧することができます。RSS Sourceの「このサイトの記事一覧」をクリックするとかちびと.netの記事をまとめて表示することができます。また閲覧数や各SNSのシェア状況を目安に、他の人たちが記事をどのように評価しているのか推測することができます。Webデザインにとって有益な記事をまとめていますので、ぜひリンク先をチェックしてみてください。