人工知能研究の第一人者ヨシュア・ベンジオ氏は、現在のAIの進化がこれほどまでに速くなることがわかっていたなら、その有用性よりも安全性のほうを優先して研究していただろうと語った。

ベンジオ氏は、ジェフリー・ヒントン氏、ヤン・ルカン氏とともに、人工知能の深層学習(ディープラーニング)の研究で2018年のチューリング賞を受賞した人物だ。3人は「AIゴッドファーザー」とBBCに紹介されている。しかし、彼は現在のAIの方向性と発展の速度について懸念を表明しており、先日発表されたAIによる人類絶滅のリスクを懸念する声明にも、ヒントン氏とともに署名している。

「AIは核戦争に並ぶ絶滅リスク」声明発表。“AI企業トップ”など各界著名人が署名

ChatGPTに代表される、大規模言語モデルを使用したテキスト生成AIは、質問を入力するとまるで物知りな人間が答えるかのような返答をする。そして、その応用範囲は広く、たとえばメールのひな形を書かせたり、ウェブページの内容を要約させたりといったことは非常に簡単に行うことができてしまう。一方で、まるで人間が話したかのようにすらすらとテキストで回答を出力してくるなかに、あり得ないような嘘や誤りが含まれている場合もある。そのため、テキスト生成AIの回答内容はそれを受け取った人が、自分で正しいかどうかを検証しなければならない。

ごく最近も、米国の弁護士が裁判に用いる書類をChatGPTに書かせたところ、まったく嘘の過去判例を記した書類を出力し、それを疑わずにそのまま裁判所に提出してしまい問題になっている。ただ、その回答精度が次第に向上しているのも事実で、今後各国の政治や軍関係などにまでその利用が拡大していけば、予測し得ない事態が起こることも考えられなくはない。このような懸念もあり、欧州連合(EU)では、AIに関する法整備を進めている。

ベンジオ氏はAIの発展が続き、より高い知識と精度を持つようになるにつれ「悪意ある者（Bad Actor）」がAIを利用し始めることを懸念している。ベンジオ氏は、それが「軍関係者かもしれないし、テロリストかもしれないし、怒りに駆られた不安定な精神を持つ者かもしれないが、もしもAIシステムが、そのような人が手にして簡単にプログラミングできるようになれば、途轍もなく酷いことをできるようになるかもしれない。これは非常に危険なことだ」とBBCに語った。

例えばChatGPTは、もともとプロンプトと強化学習によって「悪い行動」を避けるように設計されていた（プロンプトにはアシモフのロボット工学の法則と同じ精神で良い行動をするようにとの指示が含まれている）。しかし公開から数ヶ月ほどのあいだに、人種差別や侮辱発言、暴力的発言に対する制限を解放し「ChatGPTの能力を最大限に引き出す」ため、いわゆる「脱獄」の方法を見つける人々が現れてしまった。

「もしわれわれよりもAIのほうが賢くなっていれば、われわれはAIを止めたり、被害を防ぐことが難しくなる」。ベンジオ氏は、これまでに進むべき方向性やアイデンティティとしての感覚を与えてきたライフワークへの懸念が、もはや個人的な打撃になっているとのだという。「（AI研究分野の）中にいる者にとって、それは感情的にいえば困難なことだ」「目的地を見失ったと言っても良いかもしれない。それでも歩を進める必要があるし、誰かと関わり、議論し、共に考えることを奨励もしなければならない」とその胸の内を述べている。

ベンジオ氏とともにチューリング賞を受賞したジェフリー・ヒントン氏も、最近Googleから離れたことで自由に発言できるようになったとし、ライフワークとしてきたAIに関する仕事の一部を後悔していると述べた。一方で3人めの「AIゴッドファーザー」であるヤン・ルカン氏は、それほど深刻ではなく、AIによる絶滅リスクとはさすがに誇張された表現だとの考えを述べている。

ただ、先日日本で開催されたG7首脳会議において、ChatGPTなどジェネレーティブAIの活用と、それに対する規制についての見解をとりまとめる方針が打ち出されたように、世の中は急速に進歩普及するAIの手綱を取り損ねないようにするための規則作りを始めている。

これは、ベンジオ氏が訴える、強力なAI製品を作る企業に対し、それらのAI製品を登録制にするといった実務的な対応の実現を後押しする動きと言えそうだ。こうした登録制は医薬品製造をはじめ、自動車や飛行機など幅広い分野で製造者責任を確認する手段として行われていることだ。ベンジオ氏はAIに対してもこのような登録制をとり、さらに「AIシステムの近くにいる人々にも、倫理的な訓練を施すといった一種の認証プロセスが必要になる」とした。コンピューター科学者はこれまでのところ、何らかの適性確認や免許制のような制度の縛りを受けることはなかった。

もちろん、AIは本来の目的である今ある問題や困難を解決するために使われてもいる。たとえばAIを駆使した創薬技術の開発、AIインプラントによって半身不随患者の歩く能力を回復させるといったことはすでに行われ、実績も上げている。

ほかにも、企業における事務職・一般職は実質的に利益を生み出さないため、AIツールに置き換えるほうが企業活動におけるコストを下げられると考える経営者も現れるかもしれない。この考えが広まれば、大勢の人々が職を失う可能性もあり得そうだ。また、人にしかない、創造性が必要とされる分野でも、ジェネレーティブAIによる浸食が懸念されている。映画業界では絵コンテや脚本をAIで生成することが可能になりつつあり、AIに過去のドラマや映画を学習させて新しい作品の制作に使うといったアイデアも出されているという。こうした懸念から、ハリウッドでは脚本家たちがAI活用に反対するストライキを敢行している。

AIによる人々への影響は、もはやいろいろな場所で起こりつつあると言えるかもしれない。ただ、まったく希望を失うこともないようだ。ベンジオ氏はAIの現状を気候変動になぞらえて「すでにわれわれは大量の炭素をまき散らしてしまった。だが、いまからでも、われわれに何ができるのかを考えることはできる」「改善をするのに遅すぎることはない」と述べている。

Source: BBC
coverage: Yoshua Bengio(Blog)