財新週刊が報道：ブラックハットGEOによるAI回答の操作が規制上の課題を引き起こす

財新週刊の報道によると、生成エンジン最適化（GEO）の需要が高まるなか、一部のサービス提供業者がAI大規模言語モデルに「毒を盛る」ように虚偽情報を与え、AIの回答を操作している。これは「ブラックハットGEO」と呼ばれる不正競争行為である。報道では、3つの事例を通じて虚偽情報をめぐる不正な産業の運営形態を明らかにし、関連する規制のあり方を検討している。

この問題の核心は、生成エンジンの回答に影響を与えるために虚偽情報が利用されている点にある。こうした回答に依存して情報を得るユーザーにとって、内容の信頼性は判断に関わる。また、市場競争に参加する主体にとって、操作された回答は、関連情報に対する人々の認識に影響を与える可能性もある。

虚偽情報の拡散から競争規制へ

ブラックハットGEOが関わるのは、虚偽のコンテンツそのものだけではなく、それを利用してAIの回答に影響を与える行為でもある。関連する問題を特定するには、通常の情報最適化と、虚偽情報によって回答を操作する行為を区別し、虚偽情報がどのように関連するプロセスに入り込み、回答とどのような関係にあるのかに注目する必要がある。

報道で提起された規制上の課題については、今後も関連する公開情報を踏まえて見守る必要がある。具体的な行為をどのように認定するか、責任をどのように分担するか、また、こうした操作を効果的に抑制するにはどのような措置が有効かは、今後の規制のあり方を理解するうえで重要な論点である。