打开APP

字节跳动Seed设立大模型安全与对齐部门

2026-10-13 14:26:01

北京商报讯(记者 魏蔚)10月13日,北京商报记者获悉,字节跳动近日宣布,将成立“Seed Model-Alignment&Preparedness”部门,由严林负责,汇报给 Seed 负责人吴永辉。原Responsible AI团队及部分Chat团队成员将转入新部门。该部门的设立旨在加强安全与对齐方向的投入,对齐的核心是让模型的行为与人类意图和安全约束保持一致,从而提升Agent Model(智能体模型)安全能力,以及防范CBRN(化学、生物、放射、核)等前沿能力风险。

据了解,Seed安全与对齐部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方向持续投入,并加强与外部研究机构和第三方评测的公开合作,最终使前沿模型在安全与授权约束内有效完成任务,随着模型能力和自主性增强,持续降低滥用及行为偏离风险,建立面对未知风险的全面安全体系。

评论区

暂无评论

    免责声明:本文观点仅代表作者本人,供参考、交流,不构成任何建议。