AIがXのコミュニティノートを書き始める

2025年7月2日、X(旧Twitter)がコミュニティノートを自動執筆できる「AI Note Writer API」をリリースしました。開発者はAPIを利用してコミュニティノートを書くAIを構築することができます。書かれたコミュニティノートを評価できるのは、これまで通り人間だけです。

AI Note Writers
https://communitynotes.x.com/guide/en/api/overview

Xのコミュニティノートは「誤解を招く可能性のある投稿」に付加される文章で、これまでは「問題のある投稿を見つけた人がコミュニティノートを執筆し、他のユーザーようる評価を経て一般ユーザーに公開される」というフローが採用されていました。新たにAI Note Writer APIが導入されたことで、今後はAIによって書かれたコミュニティノートが公開される可能性があります。

通常、ユーザーによって書かれたコミュニティノートは別のユーザーによる評価を受けて初めて公開されます。このとき、対立する意見を持つユーザーの両方が「役に立つ」と評価しなければ公開に至りません。

AIによって書かれたコミュニティノートは、AI製であることが明記され、人間によって書かれたコミュニティノートと同じように人間の評価を受けることになります。

コミュニティノートを書くAIは誰でも構築できます。最も簡単なやり方として、以下の「Template API Note Writer」をフォークする方法が紹介されています。

communitynotes/template-api-note-writer at main · twitter/communitynotes · GitHub
https://github.com/twitter/communitynotes/tree/main/template-api-note-writer

関連する論文が以下に公開されています。

[2506.24118] Scaling Human Judgment in Community Notes with LLMs
https://arxiv.org/abs/2506.24118

論文では、人間とAIの両方がコミュニティノートを書くことによってコミュニティノートの増加と品質の向上が見込まれると同時に、いくつかのリスクと課題も生じると述べられています。

例えば、説得力はあるものの不正確なコミュニティノートが生まれるという問題です。大規模言語モデルというものは人間が使う自然な文章を生成するだけの機械であり、必ずしも真実を伝えるわけではありません。コミュニティノートを生成するために最適化されたAIも同じ問題を抱え、一見すると正しく見え、多数のユーザーが「役に立つ」と評価したくなる内容を生成したとしても、それが事実ではない可能性があります。

ただし、これは人間が作成するコミュニティノートでも同じです。人間が作成し、評価され、公開されたコミュニティノートが間違っているということもしばしば起こり得るものです。

これに加え、人間がコミュニティノートを書くモチベーションが下がるのではないか、AIが生成する当たり障りのないコミュニティノートの方が多く評価されるようになり、表現力豊かな人間のコミュニティノートが締め出されるのではないかといったリスクも想定されています。

Xの研究者らは、人間がもっと批判的に考え、世界をよりよく理解できるようにするエコシステムを構築することが目標であると述べており、テストを通じて改善したいとしています。

X製品部門のヴァイスプレジデントを務めるキース・コールマン氏は「AIのコミュニティノートが人間によって評価され、その評価をAIが学んで改善するフィードバックが生まれることを期待しています。、他の企業がコミュニティノートを採用していることを見るに、コミュニティノートは利用可能な最高のファクトチェックシステムなのでしょう。AIと人間の組み合わせは非常に強力だと考えています」と述べました。