fc2ブログ

専門家は、未来のAIが「核レベルの大惨事」を引き起こすことを恐れている。

<記事原文 寺島先生推薦>
Experts Fear Future AI Could Cause ‘Nuclear-Level Catastrophe’
Asked about the chances of the technology "wiping out humanity," AI pioneer Geoffrey Hinton warned that "it's not inconceivable."
科学技術が「人類を絶滅させる」可能性について問われたAI(人工知能)の先駆者、ジェフリー・ヒントン氏は、「ありえないことではない」と警告した。
筆者:ケニー・スタンシル(Kenny Stancil)
出典:Global Research 2023年4月17日
<記事翻訳 寺島メソッド翻訳グループ> 2023年5月8日

819.jpg


 研究者の4分の3近くが人工知能(AI)が「すぐに革命的な社会変化をもたらす可能性がある」と考えている一方で、36%がAIによる決定が「核規模の大災害を引き起こす可能性がある」と懸念している。

 これらの調査結果は、スタンフォード人間中心人工知能研究所が作成し、今月初めに発表された、急成長する業界を毎年評価する「2023 AI Index 報告」に含まれている。

 その報告書は「これらのAI体系は、質問応答や、10年前には想像もつかなかった文書、画像、コードの生成において能力を発揮し、古今の標準的な芸術の基準を凌駕している」と述べているが、また一方で「しかし、思い違いをしやすく、日常的に偏りがあり、悪意のある目的のために騙されることもあるため、その 導入に伴う複雑な倫理的課題が浮き彫りになっている」とも指摘している。

 アルジャジーラ*が金曜日(4月14日)に報じたように、この分析は、「チャットボット**により自殺が引き起こされた事象から、ウクライナのボロディミル・ゼレンスキー大統領が侵攻するロシア軍に降伏したように見える捏造動画が出現したりする事象など、問題の多い事象が起こっていることを受けてAIの規制を求める声が高まる中」で行われている。
* カタールにある衛星テレビ局
** 会話するロボット


 注目すべきは、この調査が、チャットボットの開発に不可欠なコンピュータ科学の一分野である自然言語処理の専門家327人の意見を測定したのが、OpenAI社のChatGPTが11月に発売されて「テック(技術)界を騒がせた」数ヶ月前の昨年5月から6月にかけてだったことだと、この報道は伝えている。

 つい3週間前、「人工知能の名付け親」とされるジェフリー・ヒントン氏は、CBSニュースのブルック・シルバ・ブラガ氏に、急速に進歩するこの技術の潜在的な影響は、「産業革命、電気、あるいは車輪」に匹敵すると語った。

関連記事:人工知能(AI):文明と人類への脅威?

 この技術が「人類を絶滅させる」可能性について問われたヒントン氏は、「考えられないことではない」と警告した。

 その憂慮すべき可能性は、必ずしもChatGPTのような現在存在するAIという道具にあるのではなく、コンピュータが自らの考えを発展させて行動することを包含する「人工一般知能」(AGI)と呼ばれるものにあるという。

 「つい最近まで、汎用的なAIができるまで20~50年かかると思っていました。」とヒントンはCBSニュースに語った。そして「今は、20年かそれ以下かもしれないと思っています。」とも。

 もっと早く実現する可能性があるかとシルバ・ブラガに詰め寄られたヒントンは、5年以内にAGIが到来する可能性を排除しないと認めた。数年前なら「まさか」と言っていたときからは大きな変化であった。

 「それをどう制御するか、しっかり考えなければならない」とヒントンは語った。それが可能かどうか尋ねられたヒントン氏は、「まだそこまで行っていないのでわからないが、やってみることはできる」と答えた。

 こう考える AI 開拓者は一人ではない。昨年行われたコンピュータ科学者の調査によると、57%が 「最近の進歩はAGI(人工一般知能)に向かっている」と答え、58%が「AGIは重要な関心事である」と同意してる。

 2月、OpenAI 社CEOのサム・アルトマンは、同社のブログ記事でこう書いている:「危険性は並大抵のものではない可能性があります。調整不良の超知能AGIは、世界に悲痛な害をもたらすかもしれない」。

 2週間前に発表された公開書簡には、OpenAI社の最新チャットボット「GPT-4」の水準を超えるAI体系の訓練を6ヶ月間停止するよう求める25,000人以上が署名しているが、Altman社はその中には含まれていない。

 「強力なAI体系は、その体系に良い効果があり、その危険性が管理可能であることが確信されてから開発されるべきです」と、この書簡は述べている。

 フィナンシャル・タイムズ紙は、一時停止を求める書簡に署名したテルサ社とTwitter社の代表取締役イーロン・マスクが、「OpenAIに対抗するために新しい人工知能開発の新規事業を立ち上げる計画を進めている」と金曜日に報じた

 AGI(人工一般知能)について、ヒントン氏は次のように述べている:「この1、2年で実現するわけではないにせよ、人々が今、そうした問題について心配するのは非常に合理的なことです。人々はそれらの問題について考えるべきです」。"

 AGI はまだ数年先の話かもしれないが、既存のAIという道具―嘘を吐くチャットボット、偽の動画を生成する顔交換アプリ、詐欺を働くクローン音声など―は、誤った情報の拡散を加速させる準備が整っているという懸念がすでに高まっている。

 スタンフォード大学の報告書に掲載された2022年のイプソス社(市場調査会社)による一般市民を対象とした世論調査によると、米国の人々はAIに対して特に警戒心を抱いており、「AIを使った製品や事業には欠点よりも利点がある」と答えた人はわずか35%であるのに対し、中国では78%、サウジでは76%、インドでは71%に達している。

 AI 体系の「説明責任の仕組み」に対する「規制当局の関心が高まる」中、バイデン政権は今週、「AI体系が合法的、効果的、倫理的、安全、その他信頼できる」ことを保証するために実施可能な措置について一般からの意見を求めていると発表した

 オンラインニュース・アクシオスは木曜日(4月13日)、上院院内総務のチャック・シューマー(民主党)が 「人工知能技術を規制するための法案に向けた初期の段階を踏んでいる」と報じた
*
筆者ケニー・スタンシルは、Common Dreamsの専属執筆者である。
関連記事
スポンサーサイト



コメントの投稿

非公開コメント

プロフィール

tmmethod

Author:tmmethod
FC2ブログへようこそ!

検索フォーム
リンク
最新記事
カテゴリ
RSSリンクの表示
ブロとも申請フォーム

この人とブロともになる

月別アーカイブ
最新コメント