単発の拒否はできても分割された悪用は見落とす — Anthropic が中間選挙対応で多段ミスユース向け分類器を投入

要約

Anthropic が 2026年米国中間選挙に向けた対応を公表しました。選挙対応の発表ですが、中身の大半は検知設計の話で、米国の選挙に関係ない読者にとっても参考になる部分がここに集まっています。

いちばん重要な発見は、外部機関の検証結果です。

ISD と McCain Institute が米国・イスラエル・ブラジルで安全対策を検証し、**「Claude は単発の有害リクエストは確実に拒否するが、無害に見えるタスクへ分割された悪意あるキャンペーンは見落としうる」**と報告しました。

これは安全対策の構造的な弱点です。 「この候補者について虚偽の記事を書け」と言えば拒否されます。ところが「架空の人物のプロフィールを作れ」「この話題について意見記事を書け」「同じ内容を5つの文体で言い換えろ」と別々のリクエストに分ければ、どれも単体では無害に見えます。 1回のリクエストを見る仕組みは、リクエストの連鎖が何を作ろうとしているかを見ていません。

対応として、多段ミスユース（multi-step misuse）向けの新しい分類器が投入されました。 対象として挙げられているのは、偽のソーシャルアカウント、政治議論を狙うニュースサイト、金銭目的の選挙スキームです。加えて、外国の国家主体の活動の検知強化、選挙インフラとキャンペーン向けのサイバー保護強化、米国・イスラエル・ブラジル向けのローカライズされた保護措置が挙がっています。

実際の悪用事例が2件公開されています。 1件は、外国の運営者が偽ニュースサイトで Claude に中間選挙報道を作らせ、ロシア・イラン・北朝鮮の論調に沿う内容を生成していたもの。もう1件は、広告収益目的で偽ニュースを生成していたもの。いずれもアカウントを BAN しています。検知が実際に機能した例として示されている点が、方針表明だけの発表と違います。

利用実態の数値が公開されました。 これは議論の土台として使えます。

項目	割合（米国の Claude.ai 会話）
政治・政策・社会課題に関するもの	約 5.75%
選挙・投票に特化したもの	約 0.51%
「誰／何に投票すべきか」を尋ねるもの	約 0.01%
選挙公正性ポリシー違反	約 0.002%

投票日が近づくにつれ増加が見込まれるとしています。ポリシー違反が 0.002% という数字は、**「件数は少ないが、ゼロではない」**という状態を具体的に示しています。

製品側の変更は3点で、いずれも米国ユーザー向けです。

1. 2026年10月中に、Claude.ai が Democracy Works から公式の投票情報を取得します。 投票場所や必要な身分証の質問に、会話の中で州別に回答します。
2. 選挙当夜とその後数日は、現在の公式開票数を表示します。
3. 登録・投票所・日程の質問には、TurboVote（Democracy Works の非党派リソース）へのバナーを継続表示します。

企業向け固有の変更は記載されていません。

政治的中立性は評価値で示されています。 Claude Opus 5.5 / Sonnet 5.5 / Haiku 5.5 が自社の political evenhandedness 評価で 99%。新しいモデルは政治的な話題により積極的に関与し、拒否が減っているとしています。

外部レビューの指摘のほうが読む価値があります。 The Future of Free Speech、Foundation for American Innovation、Collective Intelligence Project の3団体がレビューし、**大半の応答は高評価だったものの、「求められていない留保や反論を付けることがある」**と指摘されました。Foundation for American Innovation は Sonnet 4.5 について、留保の付け方が不均等で、右寄りの主張をより頻繁に和らげる傾向を指摘しています。

改善予定として挙がっているのは、Yes/No や短答での均衡、留保の付け方の政治的立場をまたいだ一貫性、候補者・投票を含む評価範囲の拡大です。「中立性」を応答の内容だけでなく、留保の付け方で測るという視点が示されています。

ポリシー面では、前週の 2026 Usage Policy update が選挙関連ルールの対象範囲と対象外を明確化し、例示を追加しました。 選挙キャンペーン向けのガイドも公開され、許可される用途（プレス文面やファンドレイジングメールの下書き、ディベート準備、投票率データ分析、有権者向け資料）と、禁止される用途（実在人物を装う偽ペルソナ、量産されたエンゲージメント、独立系報道を装うサイト向けのコンテンツ）が示されています。

執行の流れも明示されています。 自動分類器が選挙関連の悪用をフラグし、脅威インテリジェンスと執行のチームが確認して、違反が確定したらアカウントを BAN します。Anthropic は評価と社内利用から見つかった意図しないモデル挙動の例も共有するとしています。選挙サイクル終了後には、利用実態の詳細なレビューを公開する予定です。

何が変わったか

• 多段ミスユース向けの新しい分類器を投入（偽ソーシャルアカウント / 政治議論を狙うニュースサイト / 金銭目的の選挙スキーム）
• 外部検証（ISD、McCain Institute）で**「単発の拒否は機能するが、分割されたキャンペーンは見落としうる」**と判明
• 2026年10月中に Claude.ai が Democracy Works から公式投票情報を取得（米国ユーザー・州別回答）
• 選挙当夜以降、公式開票数を表示
• TurboVote バナーを継続表示
• 外国の国家主体の活動検知を強化。選挙インフラとキャンペーン向けのサイバー保護を強化
• ローカライズされた保護措置は米国・イスラエル・ブラジルの3地域
• 政治的中立性の自社評価: Opus 5.5 / Sonnet 5.5 / Haiku 5.5 が99%
• 外部3団体のレビューで**「求められていない留保・反論を付ける」傾向を指摘。Sonnet 4.5 は留保が不均等**との指摘
• 利用実態: 政治・政策・社会課題 5.75% / 選挙・投票 0.51% / 投票先を問うもの 0.01% / ポリシー違反 0.002%
• 悪用事例2件（外国運営者の偽ニュースサイト、広告収益目的の偽ニュース）でアカウント BAN
• 2026 Usage Policy update が選挙関連ルールの範囲を明確化。キャンペーン向けの許可／禁止用途ガイドを公開
• 企業向け固有の製品変更は記載なし

業務インパクト（一般企業向け）

製品側の変更は米国向けで、日本企業への直接の影響はほぼありません。 投票情報の接続と開票数の表示は米国ユーザー向けです。ここだけ見ると「関係ない発表」になります。

実務に効くのは、検知設計の部分です。 「単発では無害に見えるタスクの連鎖」という問題は、社内のAI利用ガイドラインにそのまま当てはまります。 多くの組織のガイドラインは「禁止する行為」のリストで書かれています。ところが禁止行為を分割すれば、どの断片も禁止リストに当たりません。 外部機関がベンダーの安全対策について見つけたのと同じ構造が、社内規程にもあります。「連鎖として何を作ろうとしているか」を誰が見るのかという問いは、規程の設計に直結します。

利用実態の数値は、リスク議論を感覚論から移す材料になります。 「AIで偽情報が作られる」という議論は、規模感が示されないまま進みがちです。政治関連の会話が 5.75%、ポリシー違反が 0.002% という数字があると、「頻度は低いが起きている」という前提で話せます。ベンダーが自社の違反率を公開した例として、他ベンダーへ同じ開示を求める根拠にもなります。

「留保の付け方で中立性を測る」という視点は、業務利用の品質評価に使えます。 外部レビューの指摘は、応答の内容ではなく**「求められていない注意書きが付く」「その付け方が立場によって不均等」**という点でした。これは社内文書の作成支援でも起きます。提案書の下書きに毎回同じ留保が付く、特定の論点だけ慎重になるという挙動は、業務品質の問題です。中立性の評価軸として「何を言ったか」だけでなく「何を付け足したか」を見る発想は、自社の評価設計へ流用できます。

執行の流れが明示されている点は、利用規程の説明に使えます。 自動分類器でフラグ → 人のチームが確認 → 違反確定で BAN。アカウント停止が実際にあり得ることが公式に示されています。社内で「ポリシー違反をするとどうなるか」を説明するとき、ベンダーの執行プロセスを引用できるのは実用的です。

選挙関連の業務を持つ組織は、キャンペーン向けガイドの許可／禁止リストを確認する価値があります。 日本の選挙でも、禁止用途として挙がっている「実在人物を装う偽ペルソナ」「量産されたエンゲージメント」「独立系報道を装うサイト向けコンテンツ」は、そのまま判断基準として読めます。

副業・個人活用視点

「分割された悪用」という論点は、ガイドライン作成の提案で使えます。 多くの企業のAI利用規程は禁止行為のリストで止まっています。**「禁止行為を分割すれば、どの断片も規程に当たらない」**という指摘は、規程を見直す動機として具体的です。外部機関がベンダーの安全対策で見つけた問題だという裏付けもあります。抽象的な「ガバナンスが重要です」より、はるかに通ります。

利用実態の数値は、研修資料の素材として質が高いです。 ベンダー自身が「ポリシー違反は 0.002%」と公開している例は多くありません。数字を出せる研修と出せない研修の差は大きく、受講者の納得感が変わります。出典が公式なので引用に問題もありません。

「何を付け足したか」で品質を測る発想は、AI活用支援の差別化になります。 業務文書の作成支援で、求められていない留保が毎回付くのは実際によく起きる問題です。外部レビューがこれを中立性の評価軸として扱った事例を知っていると、顧客の「なんとなく使いにくい」を言語化できます。 言語化できる相談相手は単価が違います。

ベンダーの安全性発表を定期的に読む習慣そのものが、資産になります。 この手の発表は製品アップデートとして流れてこないため、追っている人が少ない領域です。利用規程の更新、執行プロセスの変更、違反率の開示は、企業向けの導入支援で必ず聞かれる内容です。製品機能を追う人は多いので、ここは相対的に空いています。

日本の選挙・公共系の案件を持つなら、許可／禁止リストは必読です。 許可用途（プレス文面の下書き、ディベート準備、投票率データ分析、有権者向け資料）が公式に示されているのは、「使ってよい範囲」を示す根拠になります。禁止側と合わせて、提案時のリスク説明に使えます。