加州でAI安全法案わずか4カ月で上院通過、背景には急速な進展に対する"恐れ"

カリフォルニア州で、罰則を含む法的強制力のあるAI安全法案が上院で32対1の大差で可決されました。提出からわずか4カ月というスピード通過です。その背後にはAIの急速な進展とその潜在的脅威に対する恐れがあり、AI推進派との間でシリコンバレーを二分する論争が巻き起こっています。

「AIは自動車か、それともインターネットか」論争

ある会社が車を作り、十分な安全テストも行わすに販売して人命が損なわれるようなことになれば、その会社は責任を問われ、刑事罰は免れたとしても、存在賠償の支払いが求められることになるでしょう。

検索サービスで殺傷能力のある武器の作り方を調べた人が、結果で知り得た方法で誰かに危害を加えたとしても、検索サービスは原則的に第三者が発信する情報について責任は問われません。これはインターネットがオープン性、分散性、標準化、競争を原則とし、表現や言論の自由が認められるべきと考えられているからです。

では、AIチャットボットのような生成AIモデルの開発は、車のように開発者が十分な安全対策を行い、安全品質の責任を負うべきものでしょうか? それとも、インターネットのようにオープンであるべきものでしょうか?

カリフォルニア州で5月16日に、最先端のAIモデルの安全性を確保するための規制法案「Safe and Secure Innovation for Frontier Artificial Intelligence Models Act.」(SB 1047)が上院議会を通過しました(賛成32票、反対1票)。これが、AI開発の中心地となっているシリコンバレーを二分する論争を巻き起こしています。