AIアライメントが重要な理由
Bankless JAPANのニュースレターでは、毎週月水金の8AMに、DeFi、NFT、Web3関連の記事を配信しています。
社会における技術の役割について考える多くの人々と同様に、私たちも人工知能にますます注目しています。クリプトと経済的自立をテーマとする出版物にはそぐわない話題と感じるかもしれませんが、AIがあらゆるものに影響を及ぼすことは明らかです。
私たちは、話題のAIアライメント問題についてのトークをしました。
クリプトは常に攻撃を受けています。
銀行はクリプトを捕らえようとしています。
政府はクリプトの発展を阻止しようとします。
不正行為者はクリプトを悪用しようとします。
クリプトは、最悪の敵対状況下でも生き残れるように作られています。
AIのアライメントの点で、AIが我々のブロックチェーンを狙ってきています。
数カ月前、Eliezer Yudkowsky氏に登場してもらいましたが、彼は、AIのアライメント問題を時間内に解決することは、ほぼ間違いなく無理だと述べました。
そこで、もう10年以上もこの分野で彼と論争を続けているRobin Hanson氏に話を聞いたところ、可能性はあるが、まだありえないと述べました。
この後、AIアライメントに関する対談第3弾を公開します。
今回は、AIアライメントを解決する旅で世界をリードする探検家、Paul Christiano氏との対談です。
Paul Christiano氏は、アライメント問題に真正面から取り組む組織、アライメント・リサーチ・センターを運営しています。ChatGPTを開発したOpenAIで言語モデルのアライメントチームを率いていたこともあり、今何が起きているのか、よく理解しています。
対談では、Paul Christiano氏にAIアライメントの破滅シナリオが実行される可能性は？と質問しました。
正直なところ、彼の答えはあまり楽観的なものではありませんでした。
Paul Christiano氏は、AIのアライメントに対するソリューションを実際に作る第一人者ですが、AIのアライメントがずれて人類に破滅的な結果をもたらす確率は10-20％だと述べています。その確率は低いですが、これは全人類の運命に関わることで、その10-20%で失うものは大きいです。
アライメント問題は真剣に取り組む必要があります。これはPaul Christiano氏だけが述べているのではありません。同じく大御所のMax Tegmak氏は、専門家が現状を把握するために、すべてのAI開発を6カ月間休止するよう呼びかけています。
AIのアライメント問題は、おそらく私たちが生きている間に人類がナビゲートしなければならない最大のモロクトラップです。私たちは、すべての人にこの問題を理解してもらい、その問題に対して協調してもらう必要があります。Banklessの設立当初から、協調とモロクについて話してきたのはこのためです。
クリプトの未来を体験するための前提条件は、まず人類が生き残ることを確認することです。そうでなければ、すべてが無駄になってしまうからです。
MetaMask Learn（スポンサー）
コミュニティのオンボーディングガイドにMetaMask Learnを追加しましょう。
このニュースレターは、金融や税金のアドバイスではなく、教育的なものであり、投資アドバイスや資産の売買、財務上の意思決定を勧誘するものではありません。また、税金に関するアドバイスでもないので、それに関しては税理士や会計士にご相談ください。
Bankless JAPANのニュースレターでは、毎週月水金の8AMに、DeFi、NFT、Web3関連の記事を配信しています。Banklessの会員は全世界で合わせて20万人をすでに超えています。この機会にBanklessの一員になりましょう！