AIとの共生を模索する人類(1)

広島でのG7サミットの後、帰路についた米国バイデン大統領を待っていたのは「国家財務デフォルト」回避の為の共和党党首との話し合いと、大統領を狙った極右人物の凶行とペンタゴン付近の爆発映像であった。最初の2項はリアルだったが、最後の爆発映像はAIが生成したフェイク映像だった。映像はツイッターをはじめとするSNSで拡散し、一時金融市場が混乱した。

Stable Difusionなどの画像生成ソフトで、テキストから映像への瞬時の変換が可能となり、ユーザーは大いに湧いているが、悪意ある使い方によって大きな問題が起こる事を人類はやっと気付き始めた。ChatGPTの発表当初、まるで檻にいる猿におもちゃを与えた時のような反応を見せた人類は、この技術の底知れないポテンシャルに対し大いに恐れを感じ始めている。

AIをこれまでのレベルに押し上げた技術要素の重要な部分に半導体がある。永年半導体に関わってきて、加速的に進歩する半導体技術に常に鼓舞されてきた自分だが、最近「これで本当に良かったのだろうか？」、と思う時がある。

時価総額が1兆ドルに届きそうな勢いを見せるNVIDIAとこれまでとは異なる風景

AI技術の加速的開発を進める大小のIT企業のエンジニアにとって、目下の一番の悩みの種は開発プラットフォーム用のNVIDIAの半導体が極端に品薄になり、単価が一気に上がっていることだ。当初、精緻な画像を表示するためのグラフィックス専用半導体として開発されたGPUが、一躍AI開発ブームの中心的なプラットフォームとなり、NVIDIAの時価総額は1兆ドルに届きそうな勢いである。GPUの高い並列計算能力に早くから注目し、AI開発用にソフトウェア環境を開発してきたCEO、Jensung Huangの先見の明には脱帽するが、「第4次AIブーム」と呼ばれる現在の状態は、私が永年見てきた半導体のイノベーションとその社会的影響という点で大いに異なる風景である印象がある。

NVIDIA H100のイメージ (出所:NVIDIA)

汎用CPUとOS/アプリケーションの組み合わせで登場したパソコンは、コンピューターとしての性能を飛躍的に向上し、かつてはメインフレーム主体であった専用のITシステムをあっという間に駆逐した。この高性能半導体は省電力化され、高速ワイヤレス通信網が整備され、高いコンピューター性能がスマートフォンとして一般消費者の手にわたるようになったのはここ15年くらいの間である。

膨大なデータを高性能半導体で処理する電子機器の社会への拡大は、私達の生活様式を大きく変化させ、我々の関心の中心をクラウド上で展開されるデータの世界へと変えた。仕事人生の大半を半導体の技術競争の真っただ中で過ごすことになった私としては、ここまではその技術発展のスピードの速さに常に鼓舞されてきた実感があるが、現在のAIブームについては大きな違和感を感じる時があるのが正直な感想だ。

フランケンシュタイン・コンプレックス

19世紀初頭にイギリスの小説家メアリー・シェリーが発表した「フランケンシュタイン、あるいは現代のプロメテウス(創造主)」は数々の映画にもなって、誰もが知る物語だ。

生命の秘密を研究するフランケンシュタイン博士は、永年の研究の末、人造人間の生成に成功するが、不完全な形で誕生した怪物が制御不能になり、最後には自身がしたことへの悔恨とともに怪物もろとも死んでしまうという悲劇的な結末で終わる。この小説に由来した言葉で、「ロボット三原則」で知られるSF作家アイザック・アシモフが「フランケンシュタイン・コンプレックス」という言い方を残している。「創造主に成り代わって人造人間やロボットと言った被造物を創造することへの憧れと、その被造物によって創造主である自らが滅ぼされるのではないかという恐怖が入り混じった複雑な感情・心理」のことを指すが、現在AI開発の現場にいる人々の中には少なからずこの感情があるのではないかと思う。永年の半導体での経験で私自身が感じるのは下記のことである。

技術は競争によって飛躍的に発展する。
大規模言語モデルはパラメーターの多さが強みであるが、それは半導体の周波数、集積度などの例と同様に熾烈な競争の結果級数的に向上する。
本質的に、イノベーターはその技術が最終的に社会に与える影響には頓着せずに、ピュアな技術的挑戦に集中する。

私が現在までに経験したイノベーションと社会の関係で言うと、半導体の技術発展はコスト低減と生産性の向上という点で大いに社会に貢献してきたと確信するが、現在のAIの爆走ぶりを見ていると、人類がいよいよ未経験の領域に踏み出したのではないかという危惧を持つ。

フランケンシュタイン・コンプレックスはいつの時代の技術にも付きまとう。アシモフのロボット三原則のようなものがAIにも生み出されることになるのだろうか

倫理の問題が焦点となる現在のAI技術の進歩と普及

扱えるパラメーターの多さを級数的に積み上げて性能を上げ続ける大規模言語AIモデルにとって、現在一番厄介な問題となりつつあるのが、その社会的影響が「倫理」の領域に到達している点だ。

ChatGPTの出現で、AI機能を誰もが使える時代になった。この結果多くの人がその性能に驚きながら、その利便性を享受し始めている。しかし冒頭に紹介したような悪意あるフェイク映像、盗用・偽装、職業への脅威、など、これから迫りくる社会的影響の拡大について我々はそのほんの出発点にいるに過ぎない。

最近の議論として、AIサービスを展開する企業側に対して「ユーザーの使用方法についてサービス提供企業自らが率先して律するべき」という意見がある。企業内に相当の権限を持つ倫理委員会のようなものをビジネス遂行の重要な機能として設けるべきだという議論である。その動きの中で、これらのAIサービスを推進する企業のリーダー達と、各国の規制当局との間で盛んなやり取りがあるが、事態は企業倫理の徹底では扱え切れないレベルに急速に到達してきている印象が強い。社会が企業に企業倫理を求めるのは当たり前だが、その実効力は法律がなければ理想論・建前論で終わってしまう。企業には立法権はないし、企業の不断の努力は熾烈な開発競争に勝利することであるからだ。

私のこれまでの経験では、半導体技術の発展とその社会的影響は、貿易分野などの政治的な問題は引き起こしはしたが、「倫理」という人間存在の核心領域に達したという記憶はない。

AIが人類を支配するなどのディストピアSF小説はたくさん読んだが、自身がそういう環境に実際に直面している現状に私自身かなり戸惑っているというのが正直な感想だ。