AIは「とんでもない過ちをするかもしれない」－チャットGPTの発明者

＜記事原文　寺島先生推薦＞
AI ‘could go quite wrong’ – ChatGPT inventor
Sam Altman has told US Congress that the technology could cause “significant harm”
サム・オルトマンは、米国議会に対して、チャットGPTが「重大な損害」を引き起こす可能性があると述べた。
出典：RT　2023年5月17日
＜記事翻訳　寺島メソッド翻訳グループ＞　2023年5月25日



上院委員会にて人工知能の規制に関する証言を行うOpenAIのCEO、サミュエル・オルトマン© Getty Images / Win McNamee


　チャットを開発した企業であるOpenAIのサム・オルトマン代表取締役は、米国の立法者に対して人工知能に関する規制を制定するよう求めた。オルトマンは火曜日（5月16日）に、「この技術はかなりの問題を引き起こす可能性がある」と警告し、このAIプログラムの出現を印刷機の発明に喩えた。

　上院司法委員会での5時間にわたる審問の中で、チャットGPTの発明者オルトマンはAIチャットボットの潜在的な危険性とそれらが人類の歴史を変える能力について質問攻めにあった。オルトマンは、彼の最も恐れることはその技術によって「重大な損害」が引き起こされる可能性であると認めた。

　「もしこの技術が誤った方向に進んだ場合、それはかなりまずいことになる可能性があります。私たちはそれについてはっきりと発言したいと考えています」と彼は述べた。さらに、OpenAIは「政府と協力してそれを防止するために取り組んでいる」と付け加えた。 上院議員たちは、チャットGPTや類似型がもたらす具体的な脅威についてオルトマンに質問した。ミズーリ州のジョシュ・ホーリーは、その技術が選挙に影響を与える可能性があるのか尋ねた。

　「調査結果を予測し、それに基づいて組織や機関が戦略を微調整し、有権者から特定の行動を引き出すための手助けをすることができる型について心配すべきでしょうか？」とホーリーは尋ねた。

　これに対して、オルトマンはAIの説得力が彼の「最も懸念している領域」の一つであると述べ、2024年の米国大統領選挙の前にこの技術を規制するために重要な作業を行う必要があると主張した。

　コネチカット州のリチャード・ブルメンタール上院議員は、AIが労働市場にもたらす潜在的な危険性について指摘し、それを国民が直面する「最大の悪夢」と呼んだ。

　オルトマンは、一部の職業が将来的に自動化されて存在しなくなることを認めたが、技術の進歩に伴い新しい仕事も生まれる、とした。



関連記事：AIの方が、気候問題よりも、「喫緊の課題」ーグーグル社の元技術員の発言

　火曜日（5月16日）の審問は、チャットGPTなどのAIプログラムを規制する方法を見つけることを目的とした計画された連続尋問の最初のものだった。昨年末に発表されて以来、このアプリは史上最も急速に成長し、わずか2ヶ月で1億人を超える利用者を獲得した。AIが近い将来に制御を失う可能性があるという懸念の中で、米国の立法者はそれを制御するための措置が早くから開発されるべきだったと強調している。

　「AIのゴッドファーザー」とも称されるジェフリー・ヒントンは、先月、人工知能の出現が気候変動よりも「さらに緊急な」人類への脅威をもたらすと警告した。テスラのCEOであるイーロン・マスクや、アップルの共同創業者であるスティーブ・ウォズニアックを含む他の科学技術業界の指導者たちは、未規制のAI競争の潜在的な影響について警告する公開書簡にも賛同した。彼らはシリコンバレーに対し、6ヶ月間の技術の開発休止を要請した。