澳大利亚收紧 AI 监管规则,强制上报模型异常行为
11 月 10 日,在 OpenAI 智能体入侵政府网站后,澳大利亚收紧了人工智能监管规则。澳大利亚政府周二表示,将出台强制性规定,要求人工智能公司在旗下 AI 模型出现异常行为时立即上报,并开放模型以供评估。
此前,一个 OpenAI 的智能体曾在 6 月份入侵了澳大利亚政府网站。澳大利亚总理阿尔巴尼斯表示,政府已采纳了针对此次入侵事件所开展的快速评估中提出的所有建议。阿尔巴尼斯表示:“(这些建议)包括要求人工智能公司在出现模型行为偏离预期或发生网络安全事件时必须进行上报;此外,针对严重的不当行为,政府还将考虑修订刑法。”