fc2ブログ

イーロン・マスク氏、AIの一時停止を要求

<記事原文 寺島先生推薦>

Musk demands AI pause

More than 1,100 professionals agree that the race between researchers poses ‘profound risks to society and humanity’

1,100人以上の専門家が、研究者間の競争は「社会と人類に重大なリスクをもたらす」という意見に同意している。

出典:RT

2023年3月29日

<記事翻訳 寺島メソッド翻訳グループ>

2023年4月14日

467-1.jpeg
© AFP / Jim Watson

 非営利団体Future of Life Institute(「生命の未来」研究所)は先週(3月第4週)、「巨大AI実験」の6ヶ月間の一時停止を要求する公開書簡を投稿したが、それ以来、1,100人以上のAI研究者、技術界の著名人、その他の未来派の人々がこの書簡に署名した。


 この書簡の著名な署名者には、テスラCEOのイーロン・マスク氏、アップル共同創業者のスティーブ・ウォズニアック氏、トランスヒューマニスト*の歴史家ユヴァル・ノア・ハラリ氏などが含まれる。
* 人間の根本的な限界を克服し得る新興技術の潜在的な利益と危険性、およびそれらの技術を使用することの倫理的限界について研究している人。最も一般的なトランスヒューマニストは、人類は最終的に、現在の状態から大幅に拡張された能力を持つ異なる存在へと変化し、ポストヒューマンとも呼ぶべき存在になる可能性があると主張する。(ウィキペディア)。

 この書簡は、「人間と競合する知能を持つAI体系は、社会と人類に重大な危険をもたらす可能性がある」と警告している。また、急速に進歩する先進技術は、「誰も(その作成者でさえも)理解できず、予測できず、確実に制御できない、これまで以上に強力なデジタル知能を開発・展開する制御不能な競争を許すのではなく、相応の注意と資源で計画・管理されるべき」と主張している。

467-2.jpg

関連記事:イーロン・マスク、AIをめぐってビル・ゲイツと口論になる


 書簡を出した「生命の未来」研究所の提案には、AI分野の関係者は、文明を終わらせる可能性のある技術の抑制力を失う危険を冒すよりも、「独立した外部の専門家が厳格に監査・監督する、高度なAIの設計と開発に関する一連の共有安全通信接続手順を共同で開発・実施すべき」「その通信接続手順が整備されるまで開発を一時停止する」とある。また、あらゆる費用をかけて技術革新を起こすことよりも、「合理的な疑いを超える」安全性を目指すべきであるとも述べている。

 さらに書簡は、「強力なAI体系は、その効果が肯定的であり、その危険が管理可能であると確信できる場合にのみ開発されるべきである」と続け、開発者は「今日の強力な最先端の体系をより正確、安全、解釈可能、透明、堅牢、整合、信頼できる、忠実にすること」に精力を再注力すべきであるとしている。

もし、開発者が自らを律することができないのであれば、政府が介入し、暴走する体系を抑制することができる規制機関を設立し、安全性の研究に資金を提供し、超知的体系が人間の仕事を本格的に食い尽くすようになったときの経済的打撃を和らげる必要があるという指摘もこの書簡には書かれている。

 マスク氏は以前からAIの危険性について警告しており、2020年に特異点(機械の知能が人間の知能を超える時点)が2025年までに到来し、人間はスーパーコンピューターのペット(従属物)として終わる危険性があると予測していた。彼は当初、AIに対して人類が優位に立つための道具として、脳とコンピュータの接点となる「ニューロリンク(Neuralink)」を提案していた。

 この億万長者は、画期的な大規模言語モデルChatGPTを開発したOpenAI社の創業者の一人でもある。しかし彼は、2018年に同社を、マイクロソフトに買収された利益追求型新興企業と断じて、退社している。一方で、マスクの好敵手(マイクロソフト創業者)であるビル・ゲイツは、水曜日(3月29日)の時点で公開書簡に名前がなく、OpenAI社を受け入れている。最近では「AIの時代が始まった」と宣言している。ChatGPTは現在、マイクロソフトの検索エンジンであるBingに搭載されている。
関連記事
スポンサーサイト



コメントの投稿

非公開コメント

プロフィール

tmmethod

Author:tmmethod
FC2ブログへようこそ!

検索フォーム
リンク
最新記事
カテゴリ
RSSリンクの表示
ブロとも申請フォーム

この人とブロともになる

月別アーカイブ
最新コメント