ヤフー、誹謗中傷投稿対策をAI言語処理で強化

　ヤフーは、個人に対する誹謗中傷などを内容とする投稿への対応に関し、サービスをユーザーに安心して使ってもらうため、現在「Yahoo！ニュース コメント」に導入している深層学習を用いた自然言語処理モデル（AI）のさらなる活用などの対策強化を進める。


　Yahoo！JAPANでは、多数の投稿系サービスを提供しており、多くのユーザーが手軽に利用できる場を提供すると同時に、安心して利用できるよう、サービスの健全化にも力を入れて取り組んでいる。誹謗中傷などの他人を傷つける表現行為は許されないものであり、Yahoo！JAPANでは、以前から誹謗中傷などの内容を含む投稿行為を禁止し、ユーザーに遵守を呼びかけている。

　また、ユーザーへの周知・啓発などにより当該投稿の事前抑止に努めるとともに、専門チームによるパトロールや、深層学習を用いた自然言語処理モデル（AI）を利用して不適切な投稿対策を行ってきた。

　Yahoo！ニュース コメントでは、深層学習を用いた自然言語処理モデル（AI）による検知を通して、1日平均約2万件の不適切な投稿（記事との関連性の低いコメントや誹謗中傷の書き込みなど）の削除を行っている。今回、痛ましい事態についての報道があったことを踏まえ、これからも対策を強化して対応を行っていく。

　Yahoo！JAPANでは今後、深層学習を用いた自然言語処理モデル（AI）について、他の投稿系サービス事業者に対する技術提供を進めていく考え。

　さらに、これら問題への対処にあたっては、法的課題や実務的課題があると認識しており、こうした課題をデジタル時代に即した共通規範に基づき解決するため、議論を行う場である検討会を6月中をめどに設置する。同検討会では、法律家だけでなく幅広い分野から有識者を募り検討を行い、その結果を公表していく。