中新经纬10月4日电 据彭博社当地时间10月3日报道， 此前负责OpenAI安全团队透明度工作的David Robinson已经辞职。
他在为《大西洋月刊》撰写的一篇文章中称，OpenAI高度依赖“迭代部署”，即在出现问题时发布新系统，并加强防护措施。但是，随着技术能力提升，这种方式失败的风险也在增加，比如在测试中失控的情况。
近几周，多家顶级人工智能公司的员工警告称，人工智能可能带来灾难性风险，有人甚至认为有朝一日可能会导致人类灭绝。
在文中，Robinson表示，人工智能公司应该像核电站或机场那样运营，“通过多层冗余和细致且耗时的规划，这样偶然且不可避免的人为错误就不会为灾难打开大门。”但他认为，目前人工智能公司还不知道怎么做。
报道称，OpenAI发言人表示，公司正在进行调整，加强研究和测试环境的安全，训练AI模型以负责任地完成任务，扩大与第三方评估者的合作，并提升实时监控能力。(中新经纬APP)
暂无评论