著者 / 肩書：二名による共著
イアン・ブレマー（IAN BREMMER）/ ユーラシアグループ（ニューヨーク本社の政治コンサル企業）及び同社傘下のGZERO Media社、創設者及び代表。
ムスタファ・シュリーマン（MUSTAFA SULEYMAN）/ 今を時めく、インフェクションAI社（Inflection AI）のCEO兼共同設立者。彼は嘗てDeepMind社を共同創業、その後、同社は現在のAlphabet社（旧Google）へ身売りされた。
（論稿主旨）
今から凡そ20年後、即ち2035年にAI（人工知能）は世界の到る処に普及しているだろう。即ち、AIシステムが病院を運営し、飛行機の離発着を管理し、更に法廷で人工知能同士が互いに論争を繰り広げる風景が普通の事となる。その間、生産性は過去に例を見ない水準へと躍的向上を遂げ、従来は想像も出来なかった、新種の商売形態が、数えきれない程の夥しい数で、然（しか）も猛烈に早い速度で登場し、人々の生活には長足の進歩が齎（もたら）されるだろう。そして、科学と技術の加速は留まる処を知らず、市場には連日のように、新商品、新しい解決手段、及び新機軸の諸発想が投入されて行く。
斯くして、生活の利便性は劇的向上を遂げる反面、世界は次第に予測不可能で且つ一層脆弱なものへ変じる。と云うのは、テロリスト達は、より賢く進化したサイバー諸兵器を手に入れて社会を脅（おびや）かし、片や、ホワイトカラー従業員達は大量失業の憂き目に遭っているからだ。
僅か1年前には、斯かるシナリオは完全な夢物語とされていた。然し、今日では上述した未来が寧ろ不可避と考えられている。生成系 AIシステムが、大半の人間がやるよりも、明快で説得力ある文章を既に執筆し、更には、簡単な言葉の指示に基づいて、AIが独自の発想や芸術までも生み出せるのだ。然（しか）も、生成系AI技術は、まだ、ほんの氷山の一角に過ぎない。同技術の降臨は、宇宙のビッグ・バンの瞬間に匹敵する出来事で、要は世界を変容させる技術革命の始まりを意味し、従って、之により政治、経済、及び社会が再構築されて行くだろう。
過去に生じた、その他先端技術の波と同様、AIは著しい成長と機会と共に、甚大な破壊と危険をも伴う。然し、我々がこれ迄に経験した、如何なる技術革新の波とも異なるのは、AIは国際社会の構造と均衡に対し甚大な変化を惹き起こし、その技術自体が、世界の主要な地政学上の立役者（たてやくしゃ）として、諸国家の地位をも脅かし得ると云う点なのだ。
彼らが、それを認めると否とに拘わらず、AIの創造者達は彼ら自身が地政学上の役者として振舞う立場となり、彼らが保有するAIに関連した権利は、“技術を極とする”秩序の台頭を一層加速させる。斯かる秩序下に於いて、テクノロジー企業が、嘗ては国家丈（だけ）が享受し得た権力を、これらの領域に於いては、ある種、行使する事が可能となるのだ。
過去十年の間に、巨大テクノロジー企業は、デジタル世界に於いて、独立し且つ主権を保持する役者としての立場を実に効率良く手に入れてしまった。AIはこの傾向を一層強めるに止まらず、更にデジタル世界を遥かに越えた、異次元へと延伸して行くだろう。
最新技術はその複雑さに加え、その急速な発展速度の故に、諸政府が導入すべき諸規則を適切な対応時間内に仕上げるのは至難の業と云える。然し、そうかと云って、各国政府が今の内に斯かる事態に追い付かない限り、今後、二度と挽回する機会は訪れないだろう。
世界中の政治家達が、AIが与える様々な諸脅威に対し覚醒し、之を如何に管理するかに就いて苦闘を始めたのは幸いな事である。2023年5月、G7は「広島AIプロセス」なる、AIに対する統治に関し協調を図る連絡会議を立ち上げた。更に6月、欧州議会に於いて「EU AI法」の原案が通過、之はAI産業の周囲に防壁を巡らす為の、EUとして初の包括的試みである。そして7月には、国連総長アントニオ・グテーレスは、国際的にAI規制を監視する機関の設置を呼び掛けた。一方、米国でも、共和・民主両党協調し、政治家達が規制導入の必要性を訴えはした。然し、テキサス州の共和党上院議員、テッド・クルーズ（Ted Cruz）は「議会の大半の連中は、ITオタクじゃないから、AI規制と云った処で、自分達が一体何をしてるかわかっちゃいないのさ」と去る6月に云い放ち、多くの者達はこの見解に賛同する仕儀と相成ったのだ。
この事例が語る通り、不幸なのは、AI管理に係わる議論が、その余りにも多くが皆、危険で且つ誤ったジレンマに陥って居ると云う事実だ。それは、即ち「AIは国力増進の梃（てこ）に活用せよ、然し、もしそれが無理な場合には、寧ろAIを窒息死させ、それが包含する諸リスクを回避するのが得策だ」との二者択一式の思い込みである。これら諸問題の診断に実際に従事している人々ですら、問題解決に採用を試みる手法は、AIを依然として旧来の歴史的既存統制枠組みに窮屈に当て嵌めようとするものだ。然し、殊（こと）AIに就いては、従来の規制が新技術を処して来たような、嘗ての如何なる手法によっても制限するのは不可能である。加え、AIが既に地政学上の権力に関する伝統的な概念を覆しつつある点こそを十分認識すべきなのだ。
この手の難題に対処する場合、取るべき行動は明白だ。つまり、先例のない特徴的技術に対し「統治の為の基本構想を如何に新規に設計するか」と云う課題に取り組む事だ。苟（いやしく）も、国際的な人工知能統治を可能ならしめる為には、国家主権に関する過去の伝統的諸概念に囚われていてはならない。即ち、「テクノロジー諸企業も検討メンバーに招集し加える事」が先ずは不可欠の条件だ。これら企業群の輩（やから）は、必ずしも、社会契約理念や、民主主義、或いは公共利益の観点から、正邪の判断を下す者達ではないのは周知の通りだ。それにも拘わらず、彼らを抜きにしては有効なAI管理を立ち上げる事は覚束（おぼつか）ないのだ。この事は、地政学的秩序に関する基本前提に関し、国際社会が再考を強く求められている事実を示す、一つの典型的証左と云える。然し、事態は、この一事例丈（だけ）に止まらない点が尚厄介なのだ。
AIの如く特異にして且つ差し迫った課題に、共通し該当するのは「“固有の解決策”が問題対処には必要」と云う事だ。つまり、適切な規制体制の同意に向け協議開始する前に、政治家達は、「統治する為の諸原則」に対し先ず合意を得るのが先決だ。その為には、第一に、全ての統治体系を「事前予防的であり、迅速にして、包括的で、抜け穴がなく、そして対象が明確」なものとしなければならない。
従い、政治家達がこれら諸原則を構築する際に、少なくとも、相互に重なる三つの統治体制の創出が必要となる。即ち、先ず、AIが惹き起す諸危険に関し、状況調査と事実確認をし、諸政府へ助言する体制。次に、AIに関し、全面的に軍拡競争を防止する体制。そして、最後に、これ迄世界が目にする事がなかったような、超破壊的威力を秘める技術を管理する体制だ。
好むと好まざるに拘わらず、2035年はやって来る。その時、果たして、世界はAIの寄与により、望ましい発展を享受しているのか、或いは、AIが惹き起す、好ましからぬ分裂の渦中に在るか、その岐路が、今、正に政治家達が何を為すかに懸かっているのだ。
AIは早く、高度に、そして強く進化する
AIは従来とは全く別物だ。技術そのものに加え、その影響力に各段の差がある。それは、政策的諸課題を我々に突き付けるに止まらない。AIは自身で加速度的進化を遂げると云う特徴によって、我々がこれら諸課題への解決策を講じる事すら、次第に困難化させるのだ。これこそが、正に「AIの権能が有するパラドックス」だ。
そして、その進化速度は驚異的である。一例は、コンピューター容量が2年毎に2倍で拡大を続けると見事に予測した、所謂「ムーアの法則」に見た通りだ。処が、嘗てのこの発展速度は最早、遠い昔話と化したのだ。2018年に、オープンAI社が、GPT-1として知られる最初の言語モデルを立ち上げた時、そのシステムの規模と複雑度を表わす尺度は、1億1千7百万パラメーターだった。その僅か5年後、同社の第四世代モデル、GPT-4は1兆パラメーター以上の能力を有すると云われる。最も強力なAI諸モデルを学習させる為に使用される、コンピューター演算容量は、過去10年間、毎年10倍の拡大を続けたのだ。換言すれば、今日、最も先進的なAIと云われる、モデル「フロンティア」は、10年前に比べ50億倍の演算容量を駆使する（然もそれら容量は、最先端モデルが繰り出す新進気鋭のものだ）。つまり、嘗て数週間を要した演算処理は、今や数秒間に完了する。更に、今後数年内に、数十兆単位のパラメーター容量を持つモデルが登場するだろう。「人間の頭脳」に相当するモデルは、その脳内に存在するシナプスの数に略（ほぼ）等しい、100兆パラメーター以上の容量を必要とされるが、このレベルも今後5年以内には到達可能なのだ。
予想を遥かに越える能力が、その都度、新しい秩序の齎（もたら）す甚大な影響力と共に、出現する。大規模言語諸モデルが未加工の文書を学習し、理路整然と、新奇で、更に創造的な文章を組成すると予想した人は少数だ。更に、言語モデルが作曲し、科学的課題を解決するようになると予言した専門家は極（ごく）僅かであったにも拘わらず、今やそれらの幾つかは既に現実に可能となった。やがて、AI開発者達は、自己学習する能力を備えたシステムにも成功すると考えられるが、此処（ここ）が正にAI技術進化軌道の重大な分岐点であり、皆、誰しをも、その先に進むのを躊躇させる地点である。
AIモデルは機能向上を続ける一方、費用は増々安くなる。昨日の最先端技術が、今日には、既に一層の小型化、費用逓減、そして接続性が向上するが如くだ。具体的には、オープンAI社がGPT-3をリリースし僅か3年後、同社内のシステム公開推進チームは、同機能を維持しつつ、機器は1/60に小型化、即ち、生産費用を1/60に圧縮し、然も消費者には只（ただ）で提供し、且つインターネット上に誰でも利用出来るようにしたのだ。将来的には、巨大な言語モデルに於いても、恐らく上記効率軌道を辿ると予想され、主導的なAI研究諸施設がそれら開発に何億ドルもの費用を投じる結果、その後、2 ~ 3年もすれば、オープンソースとして誰でも利用可能になるだろう。
又、他の如何なるコンピューターのソフトウェアやコードと同様、AIアルゴリズムは複写や共有（或いは盗難）が物的諸資産に比べ遥かに容易にして安価だ。従い、拡散する危険が甚大だ。例えば、メタ社の強大な大規模言語モデルのLlama-1（ラマワン）は3月に初めて登場後、僅か数日内にインターネットへ違法流出した。最強水準のモデル操作には尚も高度なハード機種が必要だが、中間水準のヴァージョンなら時間料金僅か数ドルのレンタルパソコンで操作可能なのだ。やがて間もなく、この種のモデルはスマートフォンで操作出来るようになるだろう。嘗て、これ程に強大な技術がいとも容易（たやす）く、広く、然も早く利用可能になった験しはなかったのだ。
一方、旧来技術は、その殆（ほとん）ど全てが軍事需要と民生需要の「二面適用型」であったのに対し、AIはこの点に於いても大きく異なる。即ち、大半のAI諸システムは抑々（そもそも）一般的であり、実際、多くのAI企業が目指す最優先課題こそがこの「汎用性」なのだ。つまり、彼らの意図は、これらのアプリケーションにより、出来る丈多くの人々が可能な限り多くの用途で便宜を得られる事だ。然し、車を運転するシステムは、戦車の操縦も可能だ。病原を診断するあるAIプログラムは、一転し、新しい病原菌を創出し、細菌兵器を造るのに利用可能だ。斯様に民生用安全技術と軍事用破壊技術との境界は本来的に不鮮明であり、米国が中国向け先端半導体輸出の大半を制限した理由の一端も此処にあるのだ。
然も、これらは全て地球規模で展開する。即ち、一度（ひとたび）AIモデルが発表されると、それは全世界へ瞬く間に浸透する。従い、たった一つの害悪のあるモデル、或いは“大人気を博した”モデルが大惨事を起こし得るのだ。この点から、AI統治に継接（つぎはぎ）的手法は役立たぬ。例えば、ある一国内で熱心にAI管理しても、他諸国で野放しにされれば益がない。AIは極めて容易に拡散する故に、その管理体制に隙間が許されないのだ。
更に重大なのは、AI開発の動機（及び開発で得られる便益）は引き続き拡大の一途を辿る中、AIが与える可能性のある損害面に就いては、明確な上限がなく青天井な点だ。例えば、AIが有害な情報を生成、拡散し、社会的信頼と民主主義を衰退させる道具に利用され得る。即ち、市民を監視、操縦し、そして抑圧し、個人及び集団の自由が葬られる。更には、デジタル分野と物理的兵器とを問わず、AIにより人間の生命を脅かす強力な武器が生み出され得る。又、AIは何百万人もの雇用を奪い、現存する不平等格差を悪化させ、一層激甚な格差を新たに創出し得る。或いは、溢れるが如く、悪しき情報を大量提供する循環により、人々の意思決定が歪められ、様々な差別が一層深まり得る。果ては、意図はしないものの、一旦生じれば制御不可能な軍事上の紛争が拡大し、戦争へ導かれる可能性も秘められるのだ。
又、厄介なのは、様々な最大級の諸危機に就いて、それらは何時頃やって来るのかも予想が付かない点だ。精々可能なのは、ネット上に偽情報が拡散する件は、明らかに間近に迫る脅威である一方、自律的AI兵器が戦争に投入されるのは中期的見通し、と云った程度だ。更に深刻なのは、汎用人工知能（AGI: artificial general intelligence）の普及する日が、地平線の向こうまで迫っている。然し、AIが人間より優れて如何なる仕事もこなすようになる瞬間は何時訪れるのかは未だ不明だ。加えて（聊か投機的な発想であるとは云え）汎用人工知能が人間による管理を脱し、自ら思考を始め、自己増殖を図り、更に自己学習で進化する時が果たして来るのかという問題だ。これら全ての危険の可能性に就いて、管理体制構築に際しては、その当初より対象要因として織り込む必要がある。
AI以外にも、極めて強力な影響力を持つ技術は以前にも存在した。然し、これらを全て束ねて兼ね備える技術が登場するのは、AIが初めての事例なのだ。自動車や飛行機がAIシステムと大きく異なる点は、これらは漸進的にしか進歩しないハードウェアによる生産に制約され、且つ最も高い代償を伴う不具合も、所詮は個々人による事故の発生に限定される事だ。又、AIシステムは、化学兵器や核兵器とも異なる脅威を呈する。つまり、これらの兵器は、開発し貯蔵する困難に加え費用も嵩むのみならず、況（ま）してや、それら供与や配備を全くの秘密裡に行うのは不可能だ。これに比べて、AIシステムの膨大な利点が自明になるに連れ、同システムは一層、大きく、高性能で、安価で、そして世に遍く利用可能な存在へと成長するだろう。更に、AI技術は擬似的な自立性すらも備えるようになり、即ち、人間が最小限の指示を与える丈（だけ）で特定の目標を達成する能力を持ち、更に将来は、自ら学習し自身を改善する能力をも得るだろう。これらは、どの一つを取っても伝統的な管理制度への深刻な挑戦となる。更に、これら変化が一斉に押し寄せれば、現存する管理諸方式では全く太刀打ち出来ない状況が出現するのだ。
誰もこの勢いを止められない
世界諸国の権力構造と均衡を変ずるに止まらず、AIは、それ自体を統制下に置こうとする場合、正に政治上の文脈を複雑化させる存在だ。即ち、AIは、これ迄の単なる通常ソフトウェアと異なり、それは権力その物を入手可能にする、全く新たな手段なのだ。例えば、ある場合は、AIが既存体制を転覆させ、或いは逆に、又その強化や補強する事も出来る。更に、AI発達に一層の加速が止まらないのは、其処に抗しがたい動機が存在する為だ。つまり、如何なる国家も、諸企業も、果ては個人も、皆例外なく、何かしらのAIを手にする事を熱望しているのだ。
例えば、政府にとっては、AI分野で支配的位置を占める事こそが ―譬えそれが、民衆を抑圧する能力、経済潜在成長力強化、或いは軍事上の優位性を求めるものであれ― 他国とAIを競う為に必要な人的、資金的、及び物理的諸資源の確保と共に、重要な戦略目標となるのだ。その際、最も月並みな戦略は、自国内に成長したAI大手企業に対し資金を集中投資し、又は、国内にスーパーコンピューターや新手のアルゴリズムを開発し、自身でそれらの管理を目指す策だ。これに比べ、特定分野での優位性を研ぎ澄ます諸策は、多少気の利いた戦略と云える。即ち、仏国の場合、AIのスタートアップ諸企業を政府が直接支援する方策を模索し、英国では、世界に通用する同国精鋭諸大学、及びベンチャー・キャピタルが生体循環する体制、所謂 ”エコシステム“ に対し公的資金を投じている。そして、EUが、AI規制と規範に関する国際的討議形成に尽力を図る等が、その事例だ。
然し、大半の国々は、AI主導権を巡り競う為に必要な、資金も技術ノウハウも有しない。従い、彼らが最先端AI技術へアクセス出来るか否かは、彼らが既に裕福で権力を得たほんの一握りの諸企業や諸国家との関係を維持しているか堂かにより決せられる。斯かる、特定勢力へ歪（いびつ）に依存する体制は、現在既に存在している地勢上の権力不均衡を、一層悪化させる恐れがある。之は、最も権力を持つ少数諸国家は、世界で最も重要な資源を支配しようと互いに凌ぎを削る一方、再び此処に於いても、所謂、グローバル・サウス諸国は取り残される事を意味する。
然し、一方、それは、AIからの便益を享受するのが裕福な諸国に限られる事を必ずしも意味しない。即ち、インターネットやスマートフォン技術に見た通り、AIが拡散する場合に国境はなく、又、AIが齎（もたら）す生産性向上の便益も又同様に至る処へ拡散する。更に、エネルギーや、グリーン・テクノロジー分野と同様に、AIに於いても、その恩恵は同技術を支配する国々以外にも、例えば、同分野向け半導体供給に代表されるような資材投入を担う諸国も含め、その他幅広い国々に及ぶのだ。
一方、地勢上の領域に於いて、AIを巡る争いは熾烈（しれつ）を極める。先の冷戦が終了した際には、権力を持った諸国家が、お互いを怖れ合う心を緩和させ、世界を破壊する潜在性を秘めた技術競争を喰い止めるような協調を取り得る道が在ったかもしれない。然し、当時に比し、現在の地勢環境は一層の緊張状態を醸す中、斯かる協力は、より困難になっている。更に、AIの場合は、声望や、権力、或いは富を著す類の道具や兵器ではない。そうではなく、敵方に対比し、それは自国軍事及び経済に於いて際立った優位性を齎（もたら）す潜在力を有するものなのだ。従い、中国と米国の両者にとり問題は最も深刻だ。何故なら、双方共が、AIの発展は両者間に於けるゼロサムゲームと見做し、同分野に勝利した側が、今後数十年間に亘り、戦略上に決定的な優位性を確保すると考えるからだ。
ワシントンと北京の各々政府独自の観点から云えば、彼らが最も恐れるべき事態とは、相手方にAI技術で優位に立たれる事であり、従って、AIが社会や自国の政治的権力に与え得る、如何なる理論上の諸危険が在るにせよ、これらの重要性は二の次の扱いとなる。斯くして、両国政府は共に、AI開発に巨額の資源を注ぎ込む一方、相手側が次世代技術へ突破を遂げるのを阻止すべく、その為に必要になる、諸資源は、これらを奪って与えぬよう試みるのだ（この点に関し、米国は中国向け先端的半導体輸出を規制する事で、中国より優勢な位置にある）。
この様に、ゼロサムの力学が働く中、両国双方が相手に対し信頼を欠く環境下、ワシントン及び北京両政府はAI開発加速に注力こそすれ、その進捗を遅らせる行動を取る可能性はない。即ち、彼らは双方共が、一部AI産業指導者達が呼び掛けた「同技術の諸危険の評価を行う為、開発発展を暫時“停止”すべし」などと云う提言は、単に、自分達丈（だけ）が一方的に軍縮を実行する愚かな策だと考える点で一致しているのだ。
然し、この認識が前提とするのは、諸国家が、AIに対し管理の実施を主張し、そして少なくともある程度はその実効維持が可能な状況に在る事だ。恐らく、中国は之に該当する。何故なら、同国はハイテク諸企業を国家組織内に統合してしまっているからだ。然し、西欧及びその他諸国の場合には、AIは国家権力を増進する処（どころ）か、逆に損なう可能性が非常に高い。即ち、中国以外の国々では、巨大でAI知見に長（た）けた一握りの複数企業が、既に現在、この新技術の波を全て支配している。即ち、AIのモデルで何が出来るか、誰がそれらにアクセス可能とするか、これらが如何に使用されるか、如何なる分野にこれらが投入されるか、全てを決めるのは彼らなのだ。更に、これら諸企業は、自分達のコンピューター処理能力とアルゴリズムを外部に秘し、極めて注意深くそれらの護持に努めるので、その結果、彼らが「一体何を生み出そうとしているのか」、そして「これらの創造物は何をする能力を備えるのか」に就いては、“彼らのみぞ知る”と云う事態に陥るのだ。
その行く末は、これら少数巨大企業が当面は彼らの優位性を維持するかも知れないし、或いは、同業界固有の特徴である、新規参入障壁が低く、オープン・ソース利用が一層普及し、経営側の限界費用は極力ゼロに近い、等の状況によって、小規模企業が大量発生し、先行した巨大諸企業が失墜するかも知れない。然し、何れの場合にも、確かなのは、AI革命が政府の外部で生じると云う事だ。
前述したAIによるこれら諸問題の内、その幾つかは、程度は限定されるが、従来のデジタル技術が与えた脅威との類似性が在る。即ち、インターネット基盤、ソーシャル・メディア、そしてスマートフォン等の機器も、これらは全て、一定程度に於いては、これらの開発者達の手によって隔離され、保護された空間内で稼働すると云う点だ。これらを制御するには、諸政府が政治上必要性を認めれば、当該諸技術に対し、規制体制を装備する事が可能で、欧州に於いては、それら実例として、一般データ保護法、デジタル市場法、及びデジタル・サービス法等、諸法施行に見る通りだ。然し、これら諸規制がEUで実現する迄に10年の歳月を要し、米国に至っては未だ完全には整備されていない状況なのだ。即ち、政治家達が通常問題に対応するペースを遥かに越える速度で、AIは発展する。更に、ソーシャル・メディアや一世代前のデジタル技術の特徴として、自身を創造する能力を持たず、又、これら旧技術推進の素となる商業上、或いは戦略上の諸便益は、決して一つ方向へ調和する事はなかった。具体的に説明すれば、ツイッターやティクトック（TikTok）は大きな影響力を持つものの、これら自体が国際経済を変革する力を持つとは殆ど見做されていない点が、AIとは異なるのだ。
これらを勘案し確かに云えるのは、少なくとも今後数年間、AIの将来を決する軌道は、ほんの一握りの民間企業による判断に委ねられて決する事を意味し、それはEUや米国の政治家達が如何に手を尽くそうとも制止不可能なのだ。換言すれば、この間、諸国家が備える権力や諸国家間の国際関係を、根本から覆し得る力を秘める、絶大な権能に関し、その管理監督に与る主体は最早、政治家でも官僚でもなく、コンピューター技術者達がその任に当たる事となるのだ。之こそがAI統治の実行が、全ての政府にとり過去に例を見ない、難事態である理由だ。即ち、当事者の諸行動に対し一層微妙な加減で均衡確保する事が必要になる一方、それに伴う危険は比類なく大きい、と云う点に於いて、過去どの政治家も試みた経験がない、より高度な問題と云えるのだ。
（次章以下 順次掲載）
コメント