最近，人工智能领域的领军人物、图灵奖得主杨立昆（Yann LeCun）在接受约翰霍普金斯大学和 Vox Media 联合播客 "On with Kara Swisher" 的采访时，提出了一个极具价值的观点：“AI 的安全性在于设计，而不是限制。”
https://weibo.com/1233486457/P77gm41G3#comment
https://www.youtube.com/watch?v=UmxlgLEscBs
这句看似简单的话语，却蕴含着对当前 AI 安全讨论的深刻反思，以及对未来 AI 发展方向的重要启示。
LeCun 巧妙地运用了航空发展的历史作为类比。他指出，在 1920 年代，当喷气发动机尚未被发明时，讨论未来航空技术的安全性是缺乏现实基础的。因为当时人们甚至不清楚未来的飞机将会采用何种动力形式，过早地关注安全细节很可能偏离方向。
同样的道理，在我们尚未真正理解如何构建拥有人类级别智能的 AI 之前，过度关注各种限制措施，可能不仅无法解决根本问题，反而会适得其反。
限制的困境：头痛医头，脚痛医脚的安全探索
当前关于 AI 安全的讨论，常常聚焦于各种“限制”。例如，限制 AI 的数据来源，限制其行动范围，限制其决策能力等等。这些限制措施的出发点是好的，希望通过设置人为的边界来降低潜在风险。然而，LeCun 认为，这种思路就像“头痛医头，脚痛医脚”，只关注表面问题，而忽略了更深层次的解决方案。 就好比我们不了解疾病的真正病因，就盲目地针对症状进行治疗，可能延误病情，甚至适得其反。
为什么限制可能不够有效？
1、认知局限性：
我们对未来高级 AI 的真正形态、能力和潜在风险知之甚少。基于我们当前的认知制定限制，很可能无法覆盖未来可能出现的问题，甚至可能因为过于狭隘而阻碍了安全技术的创新。
2、反应式而非预防式：
限制往往是在问题出现之后才被提出和实施，是被动的应对措施。而真正的安全应该是主动的、预防性的，应该从根源上消除风险。
3、可能扼杀创新：
过多的限制可能会束缚 AI 技术的发展，使其无法充分发挥潜力，甚至可能阻碍我们找到更安全、更有效的方法来构建 AI。
4、难以真正执行：
对于高度智能的 AI 而言，如果其目标与限制相悖，它可能会找到绕过限制的方法。
设计才是关键：从航空史中汲取智慧
LeCun 借鉴了航空发展的历史，为我们展示了“安全性在于设计”的真正含义。早期的飞机事故频发，但随着航空技术的不断进步，人们逐渐理解了空气动力学、发动机原理、材料科学等关键要素。通过精心的工程设计，例如更稳定的机翼、更可靠的发动机、先进的导航系统和冗余备份系统，现代民航客机实现了令人难以置信的安全水平。
正如 LeCun 引用的惊人数据：美国航空公司的总飞行距离已达 2.3 光年。这个数字背后，是无数工程师的智慧和对安全的不懈追求，而这种安全，是建立在精密的系统设计之上的。
“安全性在于设计”的核心要义：
1、从一开始就融入安全理念：
在 AI 系统的设计之初，就将安全性作为核心考量，而不是在系统构建完成后再进行修补。
2、深入理解 AI 的内在机制：
要确保 AI 的安全，我们需要深入理解其工作原理、学习方式、决策过程等。只有了解了 AI 的“内部运作”，才能从根本上解决潜在的安全问题。
3、构建本质安全的系统：
类似于现代飞机的容错设计，我们应该努力构建那些本质上就更安全的 AI 系统，例如：
可解释性：
设计出能够解释其决策过程的 AI，以便我们理解其行为背后的逻辑，及时发现潜在问题。
鲁棒性：
设计出能够抵抗恶意攻击、数据污染和意外输入的 AI，使其在各种环境下都能稳定可靠地运行。
价值观对齐：
探索如何让 AI 的目标和价值观与人类的价值观对齐，但这需要我们首先理解如何构建具有目标和价值观的 AI。
展望未来：以设计驱动 AI 安全
LeCun 的观点并非否定所有关于 AI 安全的讨论，而是强调在当前阶段，更应该将重心放在基础研究和系统设计上。 与其花费大量精力去制定可能并不完善的限制措施，不如投入更多资源去研究如何构建本质上更安全、更可靠的 AI 系统。
这需要 AI 研究人员、工程师、政策制定者以及社会各界的共同努力，需要我们拥抱创新，深入理解 AI 的本质，并将安全性深深地融入到 AI 的每一个设计环节。
结语：
杨立昆的洞见为我们思考 AI 安全问题提供了一个全新的视角。 与其像在黑暗中摸索，试图通过限制来控制未知的力量，不如点亮灯塔，深入研究 AI 的内在规律，通过精心的设计来构建安全可靠的未来。
正如航空业的成功经验所展示的那样，真正的安全源于对技术的深刻理解和精益求精的设计，这同样适用于人工智能的未来。
让我们将目光从简单的“限制”转向更根本的“设计”，共同迎接一个安全、可信赖的 AI 时代。
标签：构建,限制,AI,安全,在于,LeCun,设计,洞见 From： https://www.cnblogs.com/ghj1976/p/18641737/yang-li-kun-de-dong-jianai-an-quan-de-guan-jian