ネット中傷に｢渦中の企業｣はどう向き合うか 法規制強化だけでは片付かない深刻な問題

「Twitter」を運営するツイッタージャパンの笹本裕社長は、6月に行った東洋経済のインタビューで、「場の健全性を担保することはSNSを運営する企業にとって一丁目一番地の課題」と強調した。

ツイッタージャパンに対しては、グローバルでのツイッターの運営状況と比して「ヘイトが野放しにされている」「（ツイートやアカウントの削除において）恣意的な運用を行っているのでは」といった指摘もあるが、「決してそのようなことはない。全世界共通のポリシーを基に対応を行っている」（笹本社長）と否定した。

そのポリシーでツイッターは、利用者が暴言や脅迫、差別的言動（人種、民族、出身地、社会的地位、性的指向、信仰している宗教などを理由にした攻撃、またはその扇動）を行うこと、 ヘイト表現を伴うプロフィール画像や表示名を使うことなどを細目で示した上で禁じている。

こうした禁止行為が行われていないか、同社ではサービスを展開するどの国でも24時間365日の監視体制を敷き、人の目とAI（人工知能）を用いて検知している。「殺害予告や脅迫行為のような直接的な表現のツイートには、アカウント凍結などの強制対応をすぐに行っている」（笹本社長）。

直近では、誹謗中傷被害を未然に食い止めるための策にも力を入れる。その1つが、投稿前に“警告”を出す機能だ。5月からアメリカ国内で試験運用している。「一時的な衝動で憎悪むき出しのツイートをしてしまったり、よく調べずに批判を書いてしまったりする人は少なくない。そういう人に『あなたの投稿で他人を傷つける可能性はないか』と語りかけ、冷静に再考してもらうのが狙い」（笹本社長）。日本での導入も目指しているという。

コメント欄の誹謗中傷対策

誹謗中傷行為の“温床”として、SNSと並び問題視されてきたのが、掲示板やニュースサイトなどのコメント投稿欄だ。「Yahoo!ニュース」を運営するヤフーは6月、同サービスのコメント欄における誹謗中傷対策を強化するとともに、深層学習を用いた自然言語処理モデル（AI）の外部サイトへの技術提供を進めると発表した。

ヤフーで誹謗中傷コメント対策にAIを活用し始めたのは2014年。不適切なコメントを非表示にしたり、表示順位を下げたりするのに役立ててきた。今年3月には、巨大なデータ処理能力を持つ自社のスーパーコンピューター「kukai」を用いて、より高度な判定モデルへと刷新。検知能力が飛躍的に向上し、現在は1日当たり平均で2万件の不適切投稿（記事との関連性の低いコメントや誹謗中傷の書き込みなど）の削除を行っている。