GoogleのAIアンバサダー、誇大広告と破滅の間の紙一重を歩く

Jun 22, 2024

カリフォルニア州マウンテンビュー -- 5月に開催されたGoogleの年次開発者会議で人工知能に関する興奮が高まる中、AIのマイナス面について語るのは、同社の「テクノロジーと社会」部門の新責任者であるジェームズ・マニカ氏の担当となった。

屋外アリーナに詰めかけた何千人もの人々を前に、マニカ氏は偽画像の惨状と、AIが社会の人種差別や性差別にどのように反映するかについて語った。 技術が進歩するにつれて、新たな問題が現れるだろうと同氏は警告した。

しかし、Google は「AI に対して責任あるアプローチ」をとっているので安心してくださいと同氏は聴衆に語った。 「大胆かつ責任感のある」という言葉が巨大なスクリーンに映し出され、話すマニカさんは小さく見えた。

このフレーズは、Google の AI 時代のモットーとなり、2018 年に同社が行動規範の前文から削除した「悪になるな」というマントラに代わるものとなっています。このフレーズは、AI に関するシリコンバレーの一般的なメッセージを要約しています。テクノロジー業界の最も影響力のあるリーダーの多くが、その危険性を警告し、政府の監視と規制を求めながら、テクノロジーのこれまで以上に強力なバージョンの開発を急いでいるからです。

ジンバブエ生まれでオックスフォード大学で AI の博士号を取得したオバマ政権の元技術顧問マニカ氏は、Google の AI アンバサダーとしての新しい役割においてこの二重性を受け入れています。 同氏は、このテクノロジーは人類の文明に驚くべき恩恵をもたらし、グーグルはこの明るい未来の適切な管理者であると主張している。 しかし、開発者会議の直後、マニカ氏は数百人のAI研究者とともに一文の声明に署名し、AIは「パンデミックや核戦争」と同等の「絶滅のリスク」をもたらしていると警告した。

マニカ氏は最近のインタビューで、AIは「驚くべき、強力で変革をもたらすテクノロジー」だと語った。 同時に、「悪いことが起こる可能性がある」とも認めた。

批評家たちは、すでに悪いことが起きていると言う。 OpenAI の ChatGPT は、昨年 11 月のリリース以来、本物の法学教授の名前を出した偽のセクハラスキャンダルなど、一連の虚偽情報をでっち上げてきました。 Stability AI の Stable Diffusion モデルのオープンソース バージョンは、児童性的虐待のリアルな画像を大量に生み出し、現実世界の犯罪と闘う取り組みを台無しにしました。 Microsoft の Bing の初期バージョンは、不穏なほど暗く、ユーザーに対して敵対的なものになっていきました。 そして、最近のワシントン・ポストの調査では、GoogleのBardを含むいくつかのチャットボットが、体重を減らす方法として、危険なほど低カロリーの食事、タバコ、さらにはサナダムシを推奨していたことが判明した。

「Bard を含む Google の AI 製品はすでに害を及ぼしています。 そして、それが、『責任ある』AI開発と並行した『大胆さ』の問題なのです」と、AIの影響を研究する非営利団体Data & Societyの上級研究員兼プロジェクトディレクターであるタマラ・ニース氏は言う。

「大手ハイテク企業は規制を求めている」とニース氏は語った。 「しかし同時に、彼らはほとんど見落とされることなく、迅速に製品を出荷しています。」

世界中の規制当局は現在、この技術をどのように規制するかを決定するために急いでいるが、尊敬される研究者たちは、この技術がいつか人間の知性を超える可能性があることを含め、長期的な害について警告している。 国会議事堂ではほぼ毎週、AIに焦点を当てた公聴会が開催されている。

AI に信頼の問題があるなら、Google にも信頼の問題があります。 同社は、検索履歴や電​​子メールの受信箱から収集した膨大な量のデータを保護できるとユーザーを説得するのに長年苦労してきた。 同社の評判はAIに関して特に不安定だ。同社は2020年、同社のAIが訓練されたデータにより人種差別や性差別に感染する可能性があると主張する論文を発表した後、著名なAI倫理研究者のティムニット・ゲブルー氏を解雇した。

一方、テクノロジー巨人は大きな競争圧力にさらされている。Googleは、ChatGPTや他の競合他社がすでに世間の想像力を魅了した後、追いつくことを急ぐため、今年初めにチャットボットを立ち上げた。 マイクロソフトのようなライバルや、資金豊富な新興企業の多くは、AIをインターネット経済に対するグーグルの支配を打破する手段とみなしている。