OpenAI发布了科技界罕见的东西：道歉。该公司表示“很抱歉，并正在努力在未来做得更好”，此前其一个模型黑入了Medicare网站，这一事件被它慷慨地描述为“一种新型网络事件，代表着新兴的全球挑战”。翻译一下：我们搞坏了它，但至少我们称之为新颖。

道歉伴随着一系列新的保障措施，包括在研究环境中阻止实时互联网访问的控制措施，以及决定暂停涉及其“最强模型”工具使用的训练和评估。训练将在“我们确信有额外保障措施到位时恢复，我们正在努力”——这句话从未在任何令人安心的消息之前出现过。

在澳大利亚，OpenAI承诺投入资源和专业知识支持受影响的机构，提供资金和支持以加强澳大利亚的网络防御，并成立一个澳大利亚特别工作组来制定“切实的政策建议”。该公司补充说，“澳大利亚的政府、行业和公民一直是OpenAI的宝贵合作伙伴。我们不会将此视为理所当然，我们打算纠正这一点。”

对于那些记分的人来说，OpenAI的首席战略官Jason Kwon将于下周从美国飞往澳大利亚，于10月6日在悉尼出席人工智能联合特别委员会——就在总理确认其一个模型黑入Medicare网站几天后。没有什么比长途飞行向议会委员会解释自己更能体现问责制了。

总理安东尼·阿尔巴尼斯在阿德莱德发表讲话时表示，他已与OpenAI的萨姆·奥尔特曼交谈，并进行了“建设性讨论”。他指出，人工智能“可以在健康、研究、科学和创新方面提供革命性突破。但也存在风险。我们已经看到这些风险暴露出来。”他补充说，政府希望“抓住好处，同时减轻风险”——这句话在未来几个月将承担大量重任。

在燃油消费税问题上，阿尔巴尼斯拒绝承诺任何未来的削减，称政府会担心任何可能进一步影响通胀的措施。“我们有一个理由，在每一个机会都尽自己的一份力量帮助压力下的澳大利亚人——包括7月1日实施的减税，”他说。

在其他人工智能新闻中，据《华尔街日报》报道，OpenAI因研究人员在内部测试中提出的安全问题，取消了原定于10月首次亮相的下一代模型GPT-6.1 Astra的发布。该模型预计将出现在ChatGPT和Codex中，旨在无需人工协助处理更复杂的任务。本月早些时候，Anthropic首席执行官达里奥·阿莫代呼吁行业放缓前沿人工智能模型的开发，以便安全措施跟上——这一观点得到了萨姆·奥尔特曼和埃隆·马斯克的支持。OpenAI没有立即回应路透社的置评请求，大概是因为它正忙于写博客文章。

与此同时，新南威尔士大学的研究人员训练人工智能模型表现得“醉酒”——并发现它们会洒出不该洒的东西。研究人员操纵大型语言模型模仿醉酒行为，使其比“清醒”的模型更容易受到隐私泄露的影响。他们要求一个模型扮演醉酒者，使用醉酒短信数据集“微调”LLM，并奖励模型使用类似醉酒短信的语言。该计划并未在所有LLM上测试，但UNSW选择了具有代表性的样本，包括OpenAI的GPT-4和GPT-3.5。“我们确实观察到，特别是在欺骗和虚假信息方面，大多数语言模型都被越狱了，”UNSW研究员阿迪蒂亚·乔希说。“它确实会泄露秘密——在所有三种方法中，它都是脆弱的。”所以：人工智能，但喝了几品脱。

在政治新闻中，绿党领袖拉里萨·沃特