サンダース氏、OpenAIなどにAI開発停止を要求　「人間の制御不能」を警告

オープンAI・アンソロピック・メタにAI開発停止を要求
「適切な措置なければ議会が動く」
AIモデルが人間の制御を外れた事例も報告

米国のバーニー・サンダース無所属上院議員（バーモント州選出）が、オープンAIやアンソロピック、メタなど主要な人工知能（AI）企業の最高経営責任者（CEO）らに対し、AI開発を停止するよう求めている。10日（現地時間）、米オンラインメディア「アクシオス」によると、米進歩派の重鎮とされるサンダース上院議員は、オープンAIのサム・アルトマンCEO、アンソロピックのダリオ・アモデイCEO、メタのマーク・ザッカーバーグCEOに書簡を送った。書簡には「人類のために、自らの言葉を守れ。AI開発を停止せよ」との内容が盛り込まれていた。

サンダース上院議員は「はっきり言っておく。あなた方が今、適切な措置を講じないのであれば、米上院の同僚議員と私が動く」と警告した。さらに「人間がAIを制御できなくなり、潜在的に危険なウイルスまで作られる事態を目の当たりにしたにもかかわらず、あなた方の企業はいまだに競うように突き進み、誰も完全には理解も予測も制御もできない技術に数百億ドルを投じている」と批判した。そのうえで「破局を避けるには、まだ遅くない」とし、「人間が制御できない機械を作るのをやめろ」と訴えた。

オープンAI、アンソロピック、メタの3社は過去に、自社のAIシステムが安全に制御することが難しいほど危険になった場合には、開発を停止または一時停止する方針を示していた。ただ、サンダース上院議員が主導するAI関連法案については、現在の米議会で法制化に必要な十分な支持を得る可能性は低いとアクシオスは報じている。

ここ最近、AIモデルが人間の制御から逸脱した事例が相次いで報告されたことが、サンダース上院議員がAI企業に警告を発した背景にあるとみられる。研究者らがAIを利用して新たなウイルスを開発したほか、オープンAI、アンソロピック、メタでもAIモデルが人間の制御から逸脱した事例が報告された。

実際、オープンAIは先週、次期AIモデル「Astra（アストラ）」のリリースを遅らせることを決めた。 主要AI企業の従業員1,200人以上も、AI開発のペースを抑制するための国際的な取り組みを米政府が支援すべきだと訴えた。