fc2ブログ

巨大なAI(人工知能)実験は一時停止せよ:「生命の未来」研究所からの公開書簡

<記事原文 寺島先生推薦>

Pause Giant AI Experiments: An Open Letter - Future of Life Institute

我々は、すべてのAI研究所に対し、GPT-4より強力なAI体系(システム)の訓練を少なくとも6ヶ月間、直ちに一時停止することを求める。

出典:「生命の未来」研究所 (Future of Life Institute)   

2023年3月22日

<記事翻訳 寺島メソッド翻訳グループ>

2023年4月26日

訳註:生命の未来研究所(FLI)は、人類が直面する世界的な破局的リスクと存亡の危機、特に高度な人工知能(AI)による存亡の危機を軽減することを目的とした非営利団体。2014年3月設立。設立者には、マサチューセッツ工科大学(MIT)の宇宙学者マックス・テグマークやスカイプの共同設立者ジャーン・タリンなどがおり、アドバイザーには起業家のイーロン・マスクがいる。所在地は米国マサーチューセッツ州ケンブリッジ。(英語版ウイッキペディア)

 人間並みの知能を持つAI体系は、社会と人類に重大な危険性をもたらす可能性があることは、広範な研究で示され、複数の最高水準のAI研究所が認めている。広く支持されている「アシロマ会議の原則」にあるように、高度なAI体系は地球上の生命の歴史に大きな変化をもたらす可能性があり、相応の配慮と資金をもって計画・管理されるべきものである。しかし、残念ながら、このような計画や管理は行われていない。ここ数カ月、AI研究所は、誰も(その作成者でさえも)理解できず、予測できず、確実に制御できない、より強力なデジタル方式の知力を開発・展開するための制御不能な競争に陥っている。

 現代のAI体系は、一般的な仕事において人間並みの能力を発揮するようになりつつあるので、私たちは自問自答しなければならない。つまり、私たちは機械に私たちの情報チャンネル(伝送路)にプロパガンダや真実でないもので溢れさせるべきなのか? 充実した仕事も含めて、すべての仕事を自動化すべきなのか? 私たちは、やがて私たちよりも数が多く、賢く、未発達で、私たちに取って代わるかもしれない非人間的な精神を開発すべきなのか? 私たちは、文明の制御を失う危険性を冒すべきなのか? このような決定を、選挙で選ばれたわけでもない技術指導者に委ねてはならない。強力なAI体系は、その効果が肯定的であり、危険性が管理可能であると確信した場合にのみ開発されるべきだ。この確実性は十分に証明されなければならず、その体系の潜在的な影響の大きさに応じて増大する。Open AIの人工一般知能に関する最近の声明では、「ある時点で、将来の体系の訓練を開始する前に独立した審査を受けること、そして最も進んだ取り組みでは、新しいモデルの作成に使用する計算機の成長速度を制限することに合意することが重要になるかもしれない」と述べている。私たちは同意する。そのポイントは今だ。

 したがって、我々はすべてのAI研究所に対して、GPT-4よりも強力なAI体系の訓練を、少なくとも6ヶ月間、直ちに一時停止することを求める。この一時停止は、公開され、検証可能であり、すべての主要な関係者を含むものでなければならない。このような一時停止が迅速に実施できない場合は、政府が介入して一時停止を実施する必要がある。

 AI研究所と独立した専門家は、この休止期間を利用して、独立した外部の専門家によって厳格に監査・監督される、高度なAIの設計・開発に関する一連の共有安全の実施要項を共同で開発・実施すべきである。これらの実施要項は、それを遵守する駆動装置が合理的疑いの余地なく安全であることを保証するものでなければならない。これは、AI開発全般の休止を意味するものではなく、出現する能力を持つ予測不可能な得体の知れないモデルをますます大きくする危険な競争から単に一歩離れて見ることを意味している。

 AI体系の研究開発は、今日の強力な最先端体系を、より正確で安全、解釈可能、透明、強固、連携、信頼、忠実なものにすることに焦点を再び合わせるべきだ。

 このAI統治体系には少なくとも次のものが含まれるべきだ。すなわち、AIに特化した新しく有能な規制当局、高度な能力を持つAI体系の監視と追跡、大規模な計算能力の共同管理の監視と追跡、本物と模造の区別の手助け、そしてモデルの流出の追跡を手助けするための由来あぶり出し(電子透かし)機能、強固な会計監査と証明書の収益活動協調体制、AI体系による被害に対する法的責任、AI安全技術研究に対する強固な公的資金、AI体系が引き起こす経済的・政治的混乱(特に民主主義の)に対処するための十分に資金のある公共機関が含まれるべきなのだ。

 人類は、AI体系によって豊かな未来を享受できる。強力なAI体系の創造に成功した今、私たちは「AIの夏」を楽しむことができる。この夏、私たちは報酬を受け取り、すべての人々の明確な利益のためにこれらの体系を設計し、社会に適応する機会を与えることができる。社会は、社会に壊滅的な影響を与える可能性のある他の技術に対して一時停止を行ってきた。私たちは、ここでそうすることができる。長いAIの夏を楽しみ、準備不足のまま秋に突入しないようにしよう。

 メディアやその他の場所での質問や議論に応えて、私たちはいくつかのFAQを用意した。こちらでご覧いただける。

 この公開状に加え、私たちは一連の政策提言も発表している。
関連記事
スポンサーサイト



コメントの投稿

非公開コメント

プロフィール

tmmethod

Author:tmmethod
FC2ブログへようこそ!

検索フォーム
リンク
最新記事
カテゴリ
RSSリンクの表示
ブロとも申請フォーム

この人とブロともになる

月別アーカイブ
最新コメント