ネット中傷に「渦中の企業」はどう向き合うか 法規制強化だけでは片付かない深刻な問題

著者フォロー
ブックマーク

記事をマイページに保存
できます。
無料会員登録はこちら
はこちら

印刷ページの表示はログインが必要です。

無料会員登録はこちら

はこちら

縮小

「Twitter」を運営するツイッタージャパンの笹本裕社長は、6月に行った東洋経済のインタビューで、「場の健全性を担保することはSNSを運営する企業にとって一丁目一番地の課題」と強調した。

ツイッタージャパンに対しては、グローバルでのツイッターの運営状況と比して「ヘイトが野放しにされている」「(ツイートやアカウントの削除において)恣意的な運用を行っているのでは」といった指摘もあるが、「決してそのようなことはない。全世界共通のポリシーを基に対応を行っている」(笹本社長)と否定した。

そのポリシーでツイッターは、利用者が暴言や脅迫、差別的言動(人種、民族、出身地、社会的地位、性的指向、信仰している宗教などを理由にした攻撃、またはその扇動)を行うこと、 ヘイト表現を伴うプロフィール画像や表示名を使うことなどを細目で示した上で禁じている。

こうした禁止行為が行われていないか、同社ではサービスを展開するどの国でも24時間365日の監視体制を敷き、人の目とAI(人工知能)を用いて検知している。「殺害予告や脅迫行為のような直接的な表現のツイートには、アカウント凍結などの強制対応をすぐに行っている」(笹本社長)。

直近では、誹謗中傷被害を未然に食い止めるための策にも力を入れる。その1つが、投稿前に“警告”を出す機能だ。5月からアメリカ国内で試験運用している。「一時的な衝動で憎悪むき出しのツイートをしてしまったり、よく調べずに批判を書いてしまったりする人は少なくない。そういう人に『あなたの投稿で他人を傷つける可能性はないか』と語りかけ、冷静に再考してもらうのが狙い」(笹本社長)。日本での導入も目指しているという。

コメント欄の誹謗中傷対策

誹謗中傷行為の“温床”として、SNSと並び問題視されてきたのが、掲示板やニュースサイトなどのコメント投稿欄だ。「Yahoo!ニュース」を運営するヤフーは6月、同サービスのコメント欄における誹謗中傷対策を強化するとともに、深層学習を用いた自然言語処理モデル(AI)の外部サイトへの技術提供を進めると発表した。

ヤフーで誹謗中傷コメント対策にAIを活用し始めたのは2014年。不適切なコメントを非表示にしたり、表示順位を下げたりするのに役立ててきた。今年3月には、巨大なデータ処理能力を持つ自社のスーパーコンピューター「kukai」を用いて、より高度な判定モデルへと刷新。検知能力が飛躍的に向上し、現在は1日当たり平均で2万件の不適切投稿(記事との関連性の低いコメントや誹謗中傷の書き込みなど)の削除を行っている。

次ページ「不適切な投稿」を判断する難しさ
関連記事
トピックボードAD
ビジネスの人気記事