微软被曝解散整个AI风险评估团队

3月14日消息，美国当地时间周一，微软被曝解散了其整个AI风险评估团队。据悉，这个团队正式名称为AI道德与社会团队，其主要职能在于指导微软在AI方面的创新，从而产生符合道德标准、负责任以及可持续的结果。最近，该团队始终在努力评估微软将OpenAI技术整合到其产品中可能存在的风险。
多位微软离职和在职员工表示，此举导致微软将再也没有专门的团队来确保其AI原则与产品设计紧密结合，而目前该公司正在引领潮流，努力让AI工具成为主流。不过，微软仍然保留着名为负责任AI办公室（ORA）的团队，其任务是制定规则来管理公司的AI计划。微软表示，尽管最近进行了裁员，但其在责任工作方面的整体投资始终在增加。
微软在一份声明中表示：“微软致力于以安全、负责任的态度开发AI产品和体验，并通过投资于优先考虑这些因素的人员、流程和合作伙伴来实现该目标。在过去的六年里，我们增加了产品团队和ORA的人员数量，他们与微软的所有人一起，负责确保我们将AI原则付诸实践。我们感谢道德与社会团队所做的开创性工作，帮助我们继续完成负责任AI之旅。”
微软员工透露，在确保公司产品和服务符合负责任AI原则方面，道德和社会团队发挥了关键作用。一位离职员工表示：“人们看到ORA提出的原则却不知道如何运用，而我们的工作就是向他们展示，并在缺乏规则的领域制定规则。”
近年来，该团队设计了名为《Judgment Call》的角色扮演游戏，帮助设计师设想AI可能带来的潜在危害，并在产品开发过程中进行讨论。道德和社会团队在2020年达到了最大规模，当时有大约30名员工，包括工程师、设计师和哲学家。但在去年的重组过程中，该团队被削减至只剩7人。
在重组后的一次团队会议上，微软AI业务副总裁约翰·蒙哥马利(John Montgomery)表示，公司管理层已经指示他们迅速行动。据悉，蒙哥马利当时说：“来自首席技术官凯文·斯科特(Kevin Scott)和首席执行官萨蒂亚·纳德拉(Satya Nadella)的压力非常大，他们都要求加速将OpenAI模型和后续模型送到客户手中。”
蒙哥马利说，由于这种压力，道德和社会团队中的许多人将被转移到公司的其他业务。当时，蒙哥马利称该团队不会被淘汰，而是需要将“更多精力放在构建服务和软件的单个产品团队上”。随后，该团队多数成员都被调到其他部门，剩余人员则因为人员不足，促使许多雄心勃勃的计划再也难以实施。
大约五个月后，剩下的员工被告知整个团队最终被解散。一名员工表示，此举在AI产品的用户体验和整体设计方面留下了巨大漏洞。他们解释说：“最糟糕的是，我们这样做让企业面临风险，人类陷入风险之中。”
道德与社会团队的成员表示，他们通常会努力支持产品开发。但随着微软开始专注于比竞争对手更快地推出AI工具，公司管理层对该团队所专注的那种长期考虑不再那么感兴趣。
就在道德与社会团队被解散之际，其他人正将注意力放在预测微软向全球观众发布OpenAI支持的AI工具时产生的影响。在去年的备忘录中，道德与社会团队详细说明了与必应图像创建器相关的风险，该工具使用OpenAI的Dall-E系统根据文本提示创建图像。这款图像工具于10月份在几个国家推出，使其成为微软与OpenAI的首批公开合作之一。
虽然文字转图像的技术已经被证明非常受欢迎，但微软的研究人员准确地预测到，它也可能威胁到艺术家的生计，因为它允许任何人轻松复制艺术家的创作风格。此外，OpenAI更新了其服务条款，赋予用户“使用Dall-E创建图像的完全所有权”，这让微软道德和社会团队感到担忧。 （小小）

                    
               
               
               
               
               
               
                    
                        延伸阅读
                        
                           
                           
                           
                                ChatGPT-4震撼发布！在SAT上能击败90%人类
                           
                           
                           
                           
                                不降价，不学特斯拉，比亚迪销量还涨啦？
                           
                           
                           
                           
                                考试能力超90%人类的GPT-4发布！中国的ChatGPT们要怎么追？