ウィキメディア財団がAI・MLなどによるリスク評価レポートを公開

「誰もがどこからでも信頼できる情報に自由かつオープンにアクセスし共有できるようにすること」を使命に掲げ、「知識へのアクセスは人権だと信じる」というウィキメディア財団が、Wikipediaやその他のウィキメディアプロジェクトに対して人工知能(AI)や機械学習(ML)がどのような影響を与える可能性があるかの理解を助けるため、2024年に実施されたAI・MLに関する人権影響評価レポートの内容を公開しました。

Making sure AI serves people and knowledge stays human: Wikimedia Foundation publishes a Human Rights Impact Assessment on the interaction of AI and machine learning with Wikimedia projects – Diff
https://diff.wikimedia.org/2025/09/30/making-sure-ai-serves-people-and-knowledge-stays-human-wikimedia-foundation-publishes-a-human-rights-impact-assessment-on-the-interaction-of-ai-and-machine-learning-with-wikimedia-projects/

Wikimedia Foundation Artificial Intelligence and Machine Learning Human Rights Impact Assessment - Meta-Wiki
https://meta.wikimedia.org/wiki/Wikimedia_Foundation_Artificial_Intelligence_and_Machine_Learning_Human_Rights_Impact_Assessment

ウィキメディアプロジェクトにとっても、ウィキメディアプロジェクトを支えるボランティアたちにとっても、AIやMLは決して新しい存在というわけではなく、プロジェクト全体で集積される知識の共有・編集・分類を支援するために数多くのMLツールを開発してきたとのこと。具体的には、「破壊行為の特定」や「出典が必要な箇所へのフラグ立て」のような、繰り返し頻繁に行われる作業の支援用ツールが多く、その大半は生成AIが出現するよりも前に開発されました。

レポートでは「作業支援用のAL・MLツール」「生成AIとウィキメディア環境における潜在的で軽微な人権リスクの可能性」「外部のML開発に使用される可能性のあるウィキメディアプロジェクト上のコンテンツ」の3つのカテゴリーのリスク評価が行われました。

まず、ウィキメディア財団がボランティア編集者のサポート用に開発した内製AI・MLツールについては、「表現の自由や教育を受ける権利など、複数の人権に積極的に貢献する可能性を秘めている」とポジティブな評価が行われました。ただし、AI・MLを活用したツールですでにわかっている限界から生じるリスクとして、既存の格差や偏見を増幅・永続化させたり、コンテンツに「削除対象」という誤ったフラグを立ててしまう可能性が指摘されています。こうしたリスクが大規模に表面化した場合、ウィキメディアのボランティアの人たちに悪影響を及ぼす可能性があるとのこと。

外部の生成AIツールがウィキメディアプロジェクトにもたらすリスクとしては、有害コンテンツ生成の規模・速度・高度化の促進が確認されています。生成AIツールは誘導的コンテンツ生成を複数言語で同時に自動的に行えるため、検知やモデレーションが困難。しかも、特定の個人やコミュニティを対象とした誹謗中傷を大量に生成することもできるため、リスクを適切に軽減できなければ、ウィキメディアのボランティアだけでなく、一般市民の権利にも悪影響を及ぼす可能性があると、報告書は指摘しています。

そして、ウィキメディアプロジェクトのコンテンツが大規模言語モデルのトレーニングに使われた場合に、バイアスや表現、データの品質と正確性、プライバシーや文化的感受性などに関連する問題のリスク要因になり得る懸念も挙げられています。研究者は、潜在的リスクの監視を推奨しつつも、すでに継続的なデータ品質向上イニシアチブや公平性に焦点を当てたプログラムによる対応が行われているため、問題のリスクが軽減されていることも確認しているとのことです。

なお、Wikipediaを「意識が高すぎる」と批判するイーロン・マスク氏が、AI企業・xAIのもと「Grokipedia」という、Wikipediaのような百科事典サービスを構築していることを明かしています。ただし、Grokipediaの内容がGrokを用いた100％AI生成なのかどうかなど、詳しいことは明らかになっておらず、内容の偏りも懸念されています。