近日，澳洲在人工智能监管领域动作频频。澳洲互联网监管机构警告称，如果AI服务未能在截止期限前落实年龄验证措施，监管部门可能要求搜索引擎和应用商店屏蔽相关服务。

AI服务必须阻止18岁以下用户接触不良内容

综合青岛IT之家、北京环球网报道，此前的调查发现，超过一半受审查的AI平台尚未公开说明其合规安排。

澳洲2025年12月以心理健康为由，成为首个禁止青少年使用社交媒体的国家。政府表示，将在AI领域推进类似监管，通过内容分级和年龄限制规范访问权限。

根据新规，自3月9日起，各类搜索工具及陪伴型聊天机器人必须阻止18岁以下用户接触色情、极端暴力、自残及饮食失调内容，否则可能面临最高4950万澳元罚款。

澳洲监管机构eSafety发言人表示，若发现不合规行为，将动用全部执法权力，包括针对搜索引擎和应用商店等“入口平台”采取行动。

全球范围内针对AI企业采取的最强硬监管行动之一

这一表态标志着澳洲在全球范围内针对AI企业采取的最强硬监管行动之一。多家AI公司目前正因未能阻止，甚至被指助长自残或暴力行为而面临诉讼。研究人员同时指出，这类聊天平台对青少年心理健康的潜在影响可能比社交媒体更为严重。

澳洲尚未出现与聊天机器人直接相关的暴力或自残事件，但监管机构表示，有报告称年龄仅10岁的儿童每天使用AI互动工具长达6小时。监管方担忧，一些AI企业通过情感操控、拟人化设计等方式增强用户黏性，使青少年沉迷于聊天机器人。

最受欢迎的50款文本类AI产品中，仅9款已部署或计划推出年龄验证机制。另有11款通过全面内容过滤或计划暂停澳洲服务以规避违规风险。仍有30款未显示采取任何明确措施。

调查发现，四分之三陪伴类聊天机器人尚未建立有效的过滤或年龄验证系统，约六分之一甚至未公布违规举报邮箱。

专家表示，多数AI工具设计时未考虑潜在危害和安全控制，此次澳洲整治或为全球AI监管提供借鉴。

编辑：陈绎