Anthropic、責任あるスケーリングポリシー(RSP)を公開
何が発表されたか
Anthropicは、AIモデルの開発に伴うリスクを段階的に管理するための枠組み「責任あるスケーリングポリシー(Responsible Scaling Policy、RSP)」を公開している。このポリシーは、より高度化するAIモデルがもたらしうる大規模な被害、いわゆるカタストロフィックリスクへの対処に焦点を当てたものである。
ポリシーの中核をなすのが「AI Safety Level(ASL)」という段階的な分類システムである。モデルの危険な能力の水準に応じてASL-1からASL-4以上まで区分し、各レベルに応じた安全対策やセキュリティ要件を定めるという考え方に基づいている。
このアプローチは、モデルの能力が向上するにつれて安全対策の厳格さも段階的に引き上げていくという、リスクベースの管理手法だと言える。
技術的なポイント
- ASL-1は重大なリスクがない段階と位置づけられ、2018年ごろの大規模言語モデルなどが該当するとしている
- ASL-2はバイオウェポン製造に関する指示のような、初期段階の危険な能力を示す段階であり、当時のClaudeはこの水準にあるとされていた
- ASL-3は悪用リスクが大幅に高まる段階、または限定的な自律機能を示す段階と定義される
- ASL-4以上についてはこの時点では具体的な基準が将来定義されるものとされていた
- ASL-2向けの対策が当時の安全基準の基本ラインとされ、ASL-3では要求されるセキュリティ対策が大幅に厳格化される
所感・どう使えるか
モデルの危険な能力の水準に応じて対策の厳しさを段階的に引き上げるという発想は、一律の基準で全モデルを扱うよりも柔軟に運用できる一方、どの能力がどのASLに相当するのかという線引きの精度が問われる仕組みでもある。数値目標ではなく能力ベースの分類を採用している点は、AIの進歩速度が読みにくい中での現実的な落としどころだと感じる。このポリシーがその後どのように改定され、実際の開発プロセスにどう組み込まれていったかは、後続のアップデートと合わせて追っていく価値がある。