“我们看到了科学将引领我们走向何方，所以也理解人们对现在即将发生的事感到恐惧和焦虑。”
近日，OpenAI 首席技术官米拉·穆拉蒂（Mira Murati）在一次访谈中再次谈起 AI（人工智能）安全，并对“超级对齐”安全团队解散、ChatGPT 斯嘉丽语音风波、公司面临监管审查等问题作出回应。
穆拉蒂表示，过去几年取得了难以置信的技术进步，超出了所有人的预料。随着继续这一进步，人们对现在即将发生的事感到恐惧和焦虑也可以理解。她认为 OpenAI 有着非常出色的安全团队，安全地部署了能力最强的模型，“考虑到技术以及 OpenAI 的进步速度，在安全性、模型的训练和部署风险等方面加倍努力是非常重要的”。
OpenAI 首席技术官米拉·穆拉蒂
一个多月前，OpenAI 联合创始人、首席科学家伊尔亚·苏茨克韦（Ilya Sutskever）、超级对齐团队负责人杨·莱克（Jan Leike）在内的多位核心成员相继离开，作为核心安全团队的超级对齐也随之解散。消息人士透露，注重 AI 系统安全的员工已经对奥特曼的领导失去信心。莱克在宣布离职后还在X（推特）发帖怒斥 OpenAI 及领导层“重视光鲜的产品，安全文化和流程不再受到重视”。
对此，穆拉蒂在 9 日回应称：“超级对齐是 OpenAI 非常重要的安全团队，但只是团队之一，公司有很多人负责安全工作。”她表示并不认同“公司把产品放在安全之前”这一观点，并称这一论调有点过于愤世嫉俗。
她表示，很多人认为安全和能力是分开的，一定要一方优于另一方，而“安全应该从项目开始就与能力一同考虑，而不是事后追加”。在航天、汽车这些有着成熟安全思维和系统的行业，人们不一定会一直围着桌子争论什么是安全，但他们也一直在做这件事情。她认为整个行业也应该向成熟的安全纪律方向发展，不仅仅是操作纪律，也包含产品和部署安全，考虑偏见、虚假信息等因素。同时，她表示，OpenAI 也一直在考虑模型的长期对齐，不仅仅是当下。
穆拉蒂也对 ChatGPT 的 Sky 语音与好莱坞知名影星“寡姐”斯嘉丽·约翰逊高度相似的问题进行了回应。她表示，当时与 OpenAI CEO 山姆·奥特曼（Sam Altman）分别去找了 Sky 的配音者和斯嘉丽，但两人并未协调一致，才不幸导致了后续的局面发生。
彼时，斯嘉丽发布了声明并向 OpenAI 发送律师函，要求说明 Sky 确切的创造过程。约翰逊在声明中表示，去年 9 月，奥特曼找到她，询问她是否愿意为 ChatGPT 配音，去安慰用户，弥合 AI 与人类之间巨大的差异所带来的不适感。斯嘉丽称当时拒绝了这一提议，而在 ChatGPT-4 演示版发布前两天，奥特曼再次联系了斯嘉丽的经纪人，要求重新考虑。斯嘉丽强调，“在我们接触之前，系统声音就已经存在了”。随后 OpenAI 宣布暂停使用 Sky 语音，表示对斯嘉丽·约翰逊的尊重。
至于此次事件是否会影响科技或是科技公司的形象，穆拉蒂表示，能做的就是把事情做好，让人们看到发生了什么，通过这种方式建立信任，除此之外并没有什么神奇的办法。
对科技担忧的，不仅仅是普通使用者，全球越来越多的监管机构也开始密切关注。
6 月初，据外媒报道，美国联邦政府的两家监管机构已达成协议，联邦贸易委员会（FTC）将带头审查 OpenAI，并针对微软向 OpenAI 进行投资、以及与其他 AI 公司达成协议的行为进行调查。6 月末，又有报道称，欧盟正在加大对 AI 行业的审查力度，包括重新调查微软与 OpenAI 的合作以及投资关系。
对此，穆拉蒂表示：“有审查很好，我们正在建设一些难以置信的非常强大的东西，我们非常努力让它们变得更好，但也存在风险，人们应该更深入地参与并了解这项技术是什么，并理解对于各个领域意味着什么，如何更有效更安全地去部署……微软一直是与我们非常一致的重要合作伙伴，我们紧密合作去打造最强超级计算机，这也是 AI 模型的核心所在。”
不过，就在当地时间 7 月 10 日，据外媒报道，微软已经放弃在 OpenAI 董事会的观察员席位，而此前传言称有望获得相同席位的苹果也不会加入 OpenAI 董事会。OpenAI 的一位发言人表示，在微软退出后，公司将不再有董事会观察员。微软、苹果接连放弃观察员席位，外界认为，或是出于对可能会被反垄断监管机构盯上的担忧。
来自: 网易科技
标签：AI,快讯,安全,斯嘉丽,OpenAI,对齐,穆拉 From： https://blog.csdn.net/www3300300/article/details/140398257