Meta为AI聊天机器人推安全新功能：守护青少年，遇危险及时通知家长！
随着行业对科技公司为年轻用户构建安全保障措施的审查愈发严格，Meta将于周四为其AI聊天机器人推出新的安全导向功能。这些功能旨在为表现出自残或自杀意图迹象的青少年提供支持，并及时通知家长。
作为Meta为家长提供的监管工具一部分，成年人需主动选择并指定想要监管的Instagram、Facebook和Meta Horizons账户，操作说明可在Meta的家庭中心页面查看，目前该设置已在美国、加拿大、英国和澳大利亚开放。当青少年在与Meta AI聊天机器人对话中表现出讨论潜在有害内容迹象时，负责监管的家长将通过短信、电子邮件或应用内通知收到警报，且警报不包含青少年消息具体内容，但Meta会提供相关资源和建议。
Meta构建了AI系统来识别潜在危险对话，借助健康专家小组和外部心理健康临床医生的专业知识。在推出初期，所有警报都将经过人工审核流程发出，公司表示会“谨慎行事，及时通知家长”。此外，若青少年短时间内在Instagram上多次搜索自残或自杀相关内容，Meta也会提醒家长。
Meta还在开发一项功能，以便在存在可信自杀风险的情况下通知紧急救援服务，可能类似于其在Facebook和Instagram上已有的警报系统，该系统已在全球促成超1.9万次向紧急救援人员的转介。
编辑观点：Meta此次为AI聊天机器人增加安全功能，是在监管压力下的积极举措，虽面临过往负面事件影响，但有望提升用户信任，未来对接紧急救援服务若成功，将进一步完善安全保障体系。