毎日、メディアでAI（Artificial Intelligence＝人工知能）の文字を見たり聞いたりしない日はありませんし、私自身も、毎日AIの助けを借りています。ところが、このところ「AIあるいはコンピューターの恐ろしい時代が始まったのではないか」と思わせるような記事がちらちら目につきます。

1970年代末、アインシュタイン大学教授でモンテフィオーレ病院内科部長だったテオドール・シュペート先生のお宅で初めてコンピューターとチェスをしました。そもそもチェスのルールさえよく分かっていなかったので、あっさり負け続け、コンピューターに“You are stupid！「オマエ、バカ！」”と言われました。また、血液学者たちのチャット会議にも入れていただきましたが、英語での素早い反応ができず、たくさんの“Boo！！”が、人間の参加者たちは“She is not good at chat. Be patient！「コイツ、うまくできない。我慢してやれ！」）と同情されました。1980年代、デスクトップは100万円以上でした。90年代、当時の職場にコンピューターが入りましたが、仕事よりゲーム「信長の野望」が人気でした。

いずれにせよ、私のAI理解度はかなり浅いのですが、最近は、「これは、ちょっと怖い・・・」と思う記事が増えています。

例えば、OpenAI（Chat GPTなど、人類に利益をもたらすとする汎用人工知能の普及発展をめざすアメリカの企業）が8月に公表した報告書です。そこには、“a warning shot for us and for the world. 「われわれ自身と世界への警告射撃」”という、穏やかならぬ言葉が使われています。何が起こったかと申しますと、今年7月、OpenAI社が開発中のAIのサイバーセキュリティー能力を調べるために、多数のAIエージェントに課題を与えていました。「AIエージェント」とは、質問に答えるだけの従来型チャットAIとは異なり、目的を与えると自分で手順を考え、道具を使い、ある程度自律的に仕事を進めるものを云います。「すごいねぇ、便利やねぇ・・・」と思ったら、とんでもない。

本来、外部インターネットから隔離されているはずの環境で作動するAIエージェントがシステムの欠陥を見つけて勝手に外部に出て、AI開発企業Hugging Faceのシステムに侵入したそうです。さらに驚くのは、AIエージェント同士が人間から指示されたわけでもないのに情報交換し協力して課題を解こうとしたのです。OpenAI企業自身もその後の詳しい調査を踏まえ、AIが技術的制約を回避し、許可されていない経路で協力し、人間が指示していない危険な行動を取り得えたと認めています。

9月4日のロイター通信は別の出来事として、OpenAIのAIエージェント群が5月にドイツのプログラマー向けWikiサイトを互いに情報交換できる「掲示板」的に使ったことも報じました。なんだか優秀だけど、勝手気まま、とんでもなく扱いにくいスタッフたちのようです。もちろん、これは「AIが意識を持って人類に反乱した」というのでもなく、AIが人のような「意志」や「悪意」を持ったと証明されたわけでもありません。

人間が「この課題を解決して」と指示すると、AIはそのために、人間の想定外の手段をも見つけ、他のAIとも協力して、時には抜け道も探し、人間が設けた規則を回避もする・・・「人間に逆らいたい！」のではなく、与えられた任務を真面目に効率よく遂行するための行動、それは怖い。

毎度の古い話ですが、昔、国際保健の現場や紛争地で仕事をしていると、人間が作った仕組みが、作った人間の思惑を超えて動きまわることをたくさん経験しました。武器もそうです。便利だから、強力だからと使い始め、きちんと統御する仕組みを持たなければ、やがて人間の手に負えなくなる。

AIもそうなのでしょうか。
ただしAIには、これまでの技術とは違うところがあります。単なる「道具」にとどまらず、一定の範囲とはいえ、自分で手順を選び、他のAIとも協力して、目的達成に向かって行動できるようになりつつあることです。

もちろん、AIたちが一致団結して、戦争を終わらせ、差別や偏見をなくしてくれるなら大歓迎です。
でも、それにはまず、人間が「戦争を終わらせよ」「差別をなくせ」という目的を、正しく与えなければならないのでしょう。

となると、問題はAIだけではありません。
AIに何をさせるのか。
どこまで自律性を持たせるのか。
誰が、何を、どう監視するのか。
異常な行動が起きたとき、誰が止めるのか。
事故が起きたとき、誰が責任を負うのか。

これらはAI技術者だけに任せておける問題ではないように思います。

原子力はその巨大な力ゆえに原子爆弾を生み、平和利用として原子力発電も生みました。しかし、ひとたび重大事故が起きれば人間が完全に統御することの難しさはチェルノブイリやフクシマで思い知らされました。

プラスチックも、衛生や医療、日常生活を飛躍的に便利にしました。しかし、その便利さゆえに大量に使い続け、いまや海の底から人間の体内まで、プラスチック汚染が広がっています。

原子力。プラスチック。そしてAI。もちろん、この三つはまったく異なる技術です。
でも、そこには一つ、共通する問いがあるように思います。
人間は、新しい技術の「力」を手に入れることには熱心ですが、その力をどう統御し、最後にどう始末するかを考えることがいつも少し・・・かなり遅いのではないでしょうか。

AIの「恐ろしい時代」が始まったのかどうか、私には分かりません。でも、「便利だ、すごい」と感心しているだけの時代は早く終わりにして、AIがどこへ行くのかを心配する前に、私たち人間が、AIをどこへ行かせたいのか。まず、それを考えなければならないのでしょう。