ブロックできないAI――その意味するところ
先日、Metaが運営するSNS「Threads」において、同社が展開しているAIアカウントをユーザーがブロックできないという事実が広く報じられた。通常、SNSプラットフォームではフォロワーや見知らぬアカウントをブロックする機能が基本的な安全ツールとして提供されている。しかし今回の件では、Metaが意図的にそのオプションをAIアカウントに対して無効化している形になっており、ユーザーから強い反発が上がっている。
個人的にこのニュースを読んだとき、正直かなり不快感を覚えた。エンジニアとしてAI技術の可能性を信じている自分でも、「ユーザーが望まない存在を排除する手段を奪う」という設計思想には賛同できない。技術の進歩とユーザーの自律性は、本来対立するものではないはずだ。
なぜMetaはこの仕様を選んだのか
Metaの公式説明によれば、AIアカウントはプラットフォーム全体のサービスの一部として機能しているため、個別ブロックの対象外になっているという。しかしこの説明は、多くのユーザーにとって納得のいくものではなかった。AIアカウントがユーザーの投稿にリプライしたり、会話に割り込んだりするケースが報告されており、それを制御できないとなれば、単なる不便さを超えた問題になりかねない。
この設計の背景には、MetaがAI機能をプラットフォームの中核に据えようとする戦略があると見られる。AIをサービスの「インフラ」として定義することで、ユーザーによる排除を技術的・契約的に困難にする、という方向性だ。だがそれは同時に、ユーザーが自分のフィードや体験をコントロールする権利を少しずつ削り取っていくことでもある。
プラットフォームとユーザーの力学が変わりつつある
今回の問題は、AIがSNSに本格統合されていく中で避けては通れない根本的な問いを提示している。AIはツールなのか、それとも「参加者」なのか。Metaの判断はAIを後者として扱っているように見えるが、その基準はあくまでプラットフォーム側が一方的に定めたものだ。
ユーザーのプライバシーや体験の質を守るためには、AIであっても人間のアカウントと同様にブロックやミュートの対象にできるべきだと思う。技術的な実装が難しいわけではない。これは設計の問題というより、意思決定の問題だ。Metaがどのような価値観のもとでプラットフォームを運営しているのか、今回の件はそれを改めて問い直すきっかけになっている。規制当局や研究者だけでなく、一般ユーザーもこの変化に敏感でいる必要がある。