Yahoo!ニュース、不適切コメントへの対策のAPIを 「NewsPicks」「攻略大百科」「ママスタコミュニティ」へ無償提供開始
Yahoo! JAPANは、「Yahoo!ニュース コメント」の健全化を目的に導入している「深層学習を用いた自然言語処理モデル（AI）」を利用してコメントを評価する技術（以下、本AI技術）のAPI（アプリケーション・プログラム・インターフェース）の無償提供を開始しました。このたび、「NewsPicks」、「攻略大百科」、「ママスタコミュニティ」の3サービスが本AI技術を導入し、コメント欄を健全化するために活用します。今後もさまざまな投稿系サービス事業者が、本AI技術を順次導入していく予定です。
【導入企業のコメント】
■株式会社ニューズピックス
「NewsPicks」のコメント欄は独自のアルゴリズムで運営しており、自由な言論空間を確保しながら健全なコミュニティ作りを図っています。今後も、より健全なプラットフォーム運営を目指すために、誹謗中傷などの規約違反発言などを積極的に対処し、より心理的安全性を向上させていく必要があると考えています。
＜導入するサービス＞
経済ニュースメディア「NewsPicks」
The Wall Street JournalやThe New York Timesなどの国内外100メディアのニュースのほか、「NewsPicks」編集部が作成するオリジナル記事も配信するソーシャル経済メディアです。各業界の著名人や有識者が投稿したコメントと共に、多角的にニュースを読み解くことができます。
＜AI技術の活用方法＞
利用規約に反する発言の発見補助として活用する。
■株式会社ゼンダー
「攻略大百科」が提供するゲーム攻略記事をきっかけに、多くのユーザーによるさまざまな意見がコメント欄で活発にやりとりされています。しかしながらコメントが盛り上がりその数が増えるほど、有益な情報が埋もれてしまうという問題がありました。
「Yahoo!ニュース」のAI技術を活用することで、ユーザーが有益な情報を見つけやすくなり、ゲームをより楽しむきっかけとなることを期待しています。
＜導入するサービス＞
「攻略大百科」
「攻略大百科」はゲームを楽しむための有益な情報をユーザーへ提供するゲーム攻略サイトです。家庭用ゲームやスマホゲームアプリを中心にさまざまな攻略情報を日々発信しています。
＜AI技術の活用方法＞
「おすすめ順」タブを作り、スコアのよいコメントを優先的に表示させる。
■株式会社インタースペース
「ママスタコミュニティ」では、ユーザーに対して安心・安全にサービスをご利用いただくために、以前より「不適切な内容の投稿をいち早く特定し、適切な対策を講じていきたい」という課題がありました。今回AI技術を導入することにより、精度の高い、スピード感を持った対策・対応が可能となることを期待し、今後もサービスの健全化を推進していきます。
＜導入するサービス＞
「ママスタコミュニティ」
子育てや家事・家族に関する悩みはもちろん、ちょっとした息抜きや、人には言いづらい悩み相談までママ同士の交流の場としてさまざまなタイミングで活用されています。ユーザーの熱量が高く、意見交換が活発に行われているのが特徴です。
＜AI技術の活用方法＞
人的パトロールによるコメント監視の際、不適切な内容に対する検知精度向上のため、AIが算出するスコアを使用する。
「Yahoo!ニュース」はユーザーがニュースを通してさまざまな意見に触れ、新たな視点を得るきっかけを作るために、配信される記事に意見や感想を投稿できる機能「Yahoo!ニュース コメント」を2007年より提供しています。「Yahoo!ニュース」では健全な言論空間を創出するため、専門チームによる人的なパトロールに加えて、自社で開発した「深層学習を用いた自然言語処理モデル（AI）」を利用して、誹謗中傷などの不適切な投稿を1日平均約2万件削除するなど、不適切な投稿への対策を行っています。
加えて、言論空間のさらなる健全化と充実化を目指し、「深層学習を用いた自然言語処理モデル（AI）」によって、「客観的で、必要であれば根拠を提示している」、「新たな考え方や解決策、見識を提供する」などの条件を満たす建設的なコメントをスコアリングし、スコアが高いものを上位表示させる当社独自の技術である「建設的コメント順位付けモデル」を、2018年から取り入れています。
このたび「Yahoo!ニュース」が無償で提供開始したのは「建設的コメント順位付けモデル」の技術です。投稿系サービス事業者は、1日平均31万件以上（※1）の投稿がある「Yahoo!ニュース」のコメント対策に活用されている本AI技術を導入することにより、AI開発に必要となる大量の学習データや計算コストなどの初期投資をかけずに、本AI技術を利用した自社サービスのコメント健全化対策を開始できます。なお、本AI技術については、複数の特許を出願中です。
Yahoo! JAPANはインターネット企業の社会的責任として、本AI技術に関する透明性の確保や、多様性の尊重にも配慮をしつつ、本AI技術をさまざまな投稿系サービス事業者にも提供し、業界全体で、日本におけるインターネット空間を健全化させるためにリードしていきます。
※1：2020年12月末時点
＜AI技術提供についての詳細情報＞
■「建設的コメント順位付けモデル」について
「建設的コメント順位付けモデル」は、以下のいずれかの条件を満たすコメントに高いスコアを付与します。
・自分の意見を元に議論を喚起する発言
・客観的で、必要であれば根拠を提示している発言
・新たな考え方や解決策、見識を提供する発言
・記事に関係する珍しい経験談
■活用イメージ
導入企業は、例えば以下のように、スコアが付与されたコメントをさまざまな形で活用できます。
・表示順の改善：付与されたスコアをコメント表示順の値として利用する
・パトロールの効率化：付与されたスコアが低いコメントを優先してパトロールの対象とする
・レコメンド：スコアが高いコメントが多い記事を優先して表示する など
