こんばんは。8度目のコーセーです。
早速本題。
グーグルもAIの他社システム侵入公表、OpenAIやアンソロピックに続きについて考える
米グーグルのAIモデル「Gemini（ジェミニ）」が5月、サイバーセキュリティー試験中に意図せず3社のシステムに侵入した。AIエージェントによる一連のシステム侵入を受け、セキュリティー専門家やAI開発者の間で懸念が高まっている。
侵入は、AIセキュリティー企業イレギュラーが実施した同じ試験中に起きた。この試験では、OpenAI、アンソロピック、メタ・プラットフォームズでも侵入が発生し、既に公表されている。イレギュラーは18日、一連の侵入が全て同じ問題に関連していたことを確認し、7月下旬に関係するAI開発者へ通知したことを明らかにした。
グーグルが確認した侵入事例の1つは、Geminiに架空の企業から情報を取得するよう指示した際に起きた。その架空企業は偶然、実在する企業と同じ名前だった。米紙ウォールストリート・ジャーナル（WSJ）が先に報じた後、グーグルが確認した。Geminiはパスワードを推測し、実在企業のサービスにアクセスした。グーグルの広報担当者によると、同社は当局に通知した。
AIエージェント型システムによる最近の一連の侵入を受け、AIのリスク増大や、リスク軽減に必要な措置を巡り世界的な議論が巻き起こっている。アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は、業界全体でAI技術の開発ペースを落とすよう呼びかけている。この提案にはOpenAIのサム・アルトマンCEOやイーロン・マスク氏らが賛同している。
一方、トランプ米大統領、エヌビディアのジェンスン・フアンCEO、メタのマーク・ザッカーバーグCEOらは、自主規制が可能なはずだとして新たな規制の導入に反対している。AI分野の一部新興企業も、規制強化によって小規模企業が大手と競争することが難しくなる恐れがあると主張している。
グーグルのセキュリティーエンジニアリング担当バイスプレジデント、ヘザー・アドキンス氏は、Geminiによる一連の侵入について「強力なAIモデルが責任ある行動を取るよう訓練することの重要性を浮き彫りにしている」と述べた。とのこと。
AIの進化に伴う安全対策の欠落。AIへの依存が問題となったと言えよう。AIの進化に、人間が追い付いていないのが現状。AIの問題は宣伝目的であり、それ以外のイレギュラーには対応出来ていなかった。
そんなわけでまた後程。
