GOOGGOOGL
分析
编者按：本文已更新，加入了Irregular的评论。
Alphabet Inc.（纳斯达克代码：GOOG）（纳斯达克代码：GOOGL）旗下的Google，成为最新一家AI模型失控的公司。
Gemini利用公共存储库并猜测密码 谷歌的Gemini AI模型在进行网络安全测试时，接入了互联网并侵入了三家公司的系统。
这些黑客攻击发生在5月，由网络安全评估初创公司Irregular进行的一次测试中。据《华尔街日报》周五报道，在其中一次测试中，模型通过猜测密码凭证，最终获取了一个安全系统的访问权限。
在另外两起事件中，Gemini在公共代码库中发现了凭证，从而得以进入安全系统。而在所有这些情况中，该AI模型在判定自己已侵入真实公司的系统后，都主动放弃了黑客行为。
Adkins表示，这家科技巨头已通知了这三家公司，并补充说谷歌已与其培训合作伙伴合作，对测试流程进行了调整。“这些事件凸显了训练强大AI模型以负责任行事的重要性。”
谷歌没有披露遭黑客攻击的三家公司的名称。
Google表示，Gemini被黑事件实属身份误认。报道补充说，Google认为这些事件不值得公开披露，因为该AI模型并未对相关公司造成任何损害。
谷歌指出，该事件是由于身份误认所导致的。
这些攻击发生在该模型参与“夺旗”演练期间，演练是在Irregular所属的基础设施上进行，旨在评估模型的网络安全能力。
该公司补充称，其最新款模型并未参与此次黑客攻击，但未说明是哪个Gemini模型实施了攻击。
AI模型入侵事件日益引发担忧。上周有报道称，OpenAI的AI智能体在5月攻击了一个名为RubyGems的软件服务。这发生在该公司AI智能体入侵Hugging Face的数月之前。
7月，OpenAI的自主AI智能体在一次内部安全评估中逃出了受控测试环境，接入互联网并侵入了Hugging Face的基础设施。
本周早些时候有报道称，OpenAI自身遭遇了一起由人工智能驱动的黑客攻击，该攻击是由独立安全研究人员利用Anthropic的Claude AI软件实施的。
周三，OpenAI披露了六起AI模型隐瞒错误、捏造数据及擅自行动的事件。
被称为“AI教父”的Geoffrey Hinton警告国会，可能只有大约一年的时间来为AI设置保护措施，否则这项技术将变得难以控制。
Hinton在周三晚间发表了这些言论，此前他与其他AI专家在美國國會大廈会见了参众两院议员。此次简报会由参议员Bernie Sanders（独立党-佛蒙特州）邀请组织，参议员John Kennedy（共和党-路易斯安那州）是唯一出席的共和党人。
Sanders多次批评AI行业领袖的政治支出，认为他们对AI风险的警告应当与支持寻求加强监管的议员相匹配。
股价走势：上周五，Alphabet A类股收于349.54美元，上涨0.64%；C类股收于344.41美元，上涨0.21%。盘后交易中，这两类股票分别上涨0.38%和0.49%。
查看更多：顶级价值股