分析
据报道，OpenAI CEO Sam Altman将于下周亲自向联合国安理会进行汇报，此时全球领导人正齐聚纽约参加联合国大会。
由15个成员组成的安理会将于周三开会讨论人工智能（AI）和国际安全。据路透社上周五报道，一位发言人表示，Altman的发言预计将聚焦于国际协调和共同安全标准的必要性，以及OpenAI为确保全球人民从这项技术中受益所做的努力。
Anthropic的潜在出席也备受关注。外交官们表示，他们也预计OpenAI的竞争对手Anthropic将派高层出席，尽管这一消息尚未得到确认。此次简报会之前，AI领域的领袖们已连续数周发出警告，呼吁协调一致地放缓开发步伐，理由是这项技术可能很快就会超出人类的控制范围。
本月担任欧盟理事会轮值主席国的法国将召集此次会议。法国欧洲和外交部长让-诺埃尔·巴罗将主持会议。
AI行业地缘政治风险加剧，路透社看到的法国概念文件强调了安全AI发展的“行动紧迫性”。
该委员会于2023年首次就人工智能风险展开辩论，当时中国警告称要防止技术“脱缰野马”，而美国则告诫要警惕人工智能助长的审查行为。
与此同时，Alphabet Inc.（NASDAQ: GOOG）（NASDAQ: GOOGL）旗下的Google成为最新一家AI模型失控的公司。在进行网络安全测试时，Google的Gemini AI模型访问了互联网，并侵入了三家公司的系统。本周早些时候，有报道称OpenAI自身也遭遇了一次AI驱动的黑客攻击，该攻击是由独立安全研究人员利用Anthropic的Claude AI软件实施的。
被誉为“AI教父”的Geoffrey Hinton向国会发出警告，称可能只有大约一年的时间来围绕AI建立防护措施，否则这项技术将变得难以控制。Hinton是在周三晚上发表上述言论的，此前他和其他AI专家在美國國會大厦会见了参众两院议员。此次简报会是应参议员Bernie Sanders（独立党-佛蒙特州）的邀请组织的，参议员John Kennedy（共和党-路易斯安那州）是唯一出席的共和党人。