AIの進化があまりにも速くなり、「少し開発のスピードを落とした方がいいのではないか」という議論も出ています。 第三者から見れば、「危険性があるなら、作らなければいい」と思うかもしれません。 でも、私は元エンジニアなので、開発する側の「作れるなら作ってみたい」という気持ちも分かります。 そこには利益や競争だけではない、技術者ならではの心理があるからです。
技術者には「できるか試したい」という欲求がある
エンジニアとして開発をしていた頃、新しい技術を知ると「これを使ったら何ができるだろう」と試してみたくなったものです。 難しい機能が動けばうれしいし、「もう少し速くできないか」「もっと便利にできないか」と、その先を追いかけたくなる。 心理学では、こうした行動を「内発的動機づけ」で説明できます。 お金や評価のためだけではなく、「知りたい」「作りたい」「できるようになりたい」こと自体が報酬になるのです。 この気持ちが、新しい技術を生み出す大きな原動力になってきました。
「必要か」より「できるか」が先になってしまう
ただ、この心理には危うい部分もあります。 最初は「利用者を便利にしたい」と始めた開発でも、夢中になってくると、「どこまで性能を上げられるか」ということ自体が目標になってしまうことがあります。 利用者がそこまで求めているのか。社会に本当に必要なのか。 そうした問いが後回しになるのです。
映画でも、よく似たシーンを見ることがあります。 研究者が強力なエネルギーや兵器、未知の技術を開発する。 見ている側は「そんなものを作ったら悪用されるに決まっている」と思うのに、研究者は完成させようとする。 しかし、本人に悪意があるとは限りません。 むしろ怖いのは、純粋な探究心や「完成させたい」という気持ちによって止まれなくなることなのかもしれません。
AIには「自分だけ止まれない」という問題もある
AI開発では、さらに競争という要素が加わります。 自分たちが開発を止めても、別の企業が進める。ある国が慎重になっても、別の国が先に進む。 そうなると、本来考えるべきだった、「これは作るべきなのか？」という問いが、「作らなければ負ける」に変わってしまいます。
一人の技術者が「少し危ないのでは」と感じても、自分だけブレーキを踏むことが難しくなります。
AI開発が簡単には止まらない理由の一つは、ここにもあると思います。
「できる」と「必要」は同じではない
私は技術の進歩を否定したいわけではありません。 ただ、ときどき「そこまで必要なのだろうか」と考えることがあります。 より速い乗り物を作る。 より便利なシステムを作る。 より賢いAIを作る。 もちろん、それによって解決できる問題もあります。
しかし、
「速くできるから、もっと速くする」
「便利にできるから、もっと便利にする」
「賢くできるから、もっと賢くする」
それだけを理由に進み続けていいのでしょうか。
技術的に「できる」ことと、人間や社会にとって「必要」であることは、同じではありません。
技術者だからこそ、ときには自制も必要ではないか
技術者の「作りたい」「もっと良くしたい」という気持ちは、決して悪いものではありません。
その探究心があったからこそ、今の便利な社会があります。 だから、その気持ちが分かる元エンジニアとして、私はときには自制することも必要ではないかと思います。
「できるかどうか」だけではなく、
「本当に作る必要があるのか」
「作ったあとに何が起きるのか」
「人間はその変化についていけるのか」
まで考える。 AIのように社会を大きく変える技術だからこそ、求められるのはアクセルを踏む力だけではありません。 「必要なときに、自分たちでブレーキを踏めること」それもこれからの技術者に必要な能力なのではないでしょうか。
コメント