人工知能:サム・アルトマン

Ycombinator, OpenAI のサム・アルトマン

昨日の昼食のとき、注目すべきなのに無視している可能性の高いテック系のトレンドは何かと、友人から質問された。

あまり深く考えずに、私は「人工知能」と答えたが、これに関してもう少し考えてみたところ、おそらく正しいと思う。

はっきり言って、(一般的な科学的な定義の)AIは機能しない可能性が高い。どんな新しい技術にも同じことが言えるし、これは一般的に正しい主張である。だが、大半の人たちはそのチャンスに関して悲観的すぎると私は思う―AIはかなりの間うまくいっていなかったため、悪評を得てしまったのだ。コンピュータサイエンスの教授たちは、ニヤニヤしながらAIについて言及する。ニューラルネットワークは最初の時点で失敗したのだから、論理的に言って、今回もうまくいかないだろう。


シリコンバレーで読まれているブログの翻訳をこちらのアプリから毎日更新しています!:http://www.perapera.co

だが、汎用人口知能はうまくいくかもしれないし、これがうまくいけば、テクノロジーにおける史上最大の発展となるだろう。

多くの専門領域では良いところまで来ていると私は主張するだろう―たとえば、チェスをしたり、飛行機を飛ばしたりというようなすばらしいことの多くにおいて、今ではコンピュータは人間よりも優れている。だが、私たちはこういったものをAIの例と呼ぶというよりも、むしろそもそもこれらは本当のところそれほど難しいものではなかったのだ、と言うだけだ。さらに公平のために言えば、これらのいずれも人間のように考えられるコンピュータという感じはまったくしない。

汎用人口知能に向けて目覚ましい進歩を遂げている、数多くの非公開会社(または最近買収された会社)、そして大手の公開会社がいくつかあるが、優れた会社はこの件に関して非常に秘密主義的だ。

楽観的になる理由は確かにある。GoogleのAIに取り組んでいた、または取り組んでいるアンドリュー・ウンは、単一のアルゴリズムから学習が起こると信じていると言った―脳内の、耳によるインプットを処理する部分は、眼によるインプットの処理を学習することもできるのだ。もし私たちがこの汎用アルゴリズムを解明することさえできたら、プログラムは汎用的なものを学ぶことができるようになるかもしれない。

この手の研究から発表された、有望な初期の結果がある。だが、脳は創発的行動にかなり依存する非常に複雑なシステムなので、私たちが実際はどれほどゴールに近いのかと明言するのは難しい。私たちは、個々のニューロンがどう機能するかということについてはかなりよく理解しており、知能が機能する仕組みをモデル化するために私たちが知っている必要のあるのは、これで十分だという可能性がある。だが、同じ原則で一緒に働く1000億のニューロンと関連する創発的行動は、並外れて複雑となり、ソフトウェアでモデル化することは難しい。あるいは、ニック・シヴォが言うように、「トランジスタの仕組みに関する基礎的な知識だけで、最新のインテルプロセッサーをリバースエンジニアリングしようとするものだ」。知能に関与している何か別の現象があり、この件に取り組んでいる人たちは間違った方向に進んでいるという可能性もある。

私にとっての一番大きな質問は、人工知能に関するものではなく、代わりに、人工の意識、創造性、欲求、あるいは呼び方は何でもいいのだが、こういったものに関する質問だ。特定の複雑なタスクを非常にうまく実行できるコンピュータプログラムを私たちは作ることができると、私はかなり自信がある。だが、何をしたいか決定するコンピュータプログラムを、私たちはどう作るというのだろうか?コンピュータ自体に、車を運転する方法を学びたいと決定させるにはどうしたらいいのだろうか?あるいは小説を書きたいと決定させるには?

この種類の創造性は、非直感的な方法における学習の創発的な性質だろうという可能性がある―その確率は高いものですらある―だろう。進化の過程で、人間の脳を爬虫類の脳とは違うものにする何かが起こった。爬虫類の脳は、ポン・ゲームをするコンピュータに近い。(初めはチェスをするコンピュータに近いと言うつもりだったが、コンピュータは直感や本能なしでチェスをする―巨大な解決策の空間を非常にすばやく検索しているだけなのだ。)

そして、私たちはこういった意味で意識のある機械を作りたくないかもしれない。私が思いつく最も肯定的な結果は、コンピュータは本当にうまく行動することができるようになり、人間は本当にうまく考えることができるようになる、というものだ。コンピュータを創造的にする方法をまったく解明できないのならば、人間と機械の間には非常に自然な分業が生まれるだろう。


原文:https://blog.samaltman.com/ai

シリコンバレーで読まれているブログの翻訳をこちらのアプリから毎日更新しています!:http://www.perapera.co