Tips：
- Sam Altman - The Intelligence Age：我们变得更有能力不是因为基因突变了,而是我们受益于社会基础设施的进步,它比我们任何一个人都更聪明、更有能力;从某重要的意义上说,社会本身就是一种高级智能的形式,这是我们的前辈建筑的伟大框架。Al将赋予人们解决难题的工具,并帮助我们在这个框架上添加新的支柱,而这些支柱是我们凭借自身能力无法构建的。
- 模型的下一步非常明确,要让它们思考和解决问题,要让学会它们失败,并了解失败的原因,然后再次尝试，其实要做这样的推理并不难,主要还是训练数据的问题,来自互联网的数据很少会有推理过程,通常都是结论。因此你必须自己去创造这样的训练数据,这是最复杂的地方,但目前OpenAl、Anthropic 还有Cohere都在做这方面的努力,搜集能够体现人类推理能力的数据也需要更好的算法来提取庞大网络数据中体现知识的部份,还包括了来自企业的特定领域的知识。要在模型架构中植入推理器和规划器型能执行长期任务。
- 第二次突破:强化学习与脊椎动物大约5亿年前,一个古老的双侧对称动物谱系进化出了脊椎、眼睛、鳃和心脏,成为了最早的脊椎动物它们与现代鱼类最为相似·它们的大脑形成了所有现代脊椎动物大脑的模板:皮层负责识别模式和构建空间地图,基底神经节则负责通过试错来学习。这都建立在更古老的效价机制之上,这些机制位于下丘脑中。这些变化带来了我们熟悉的心智和情感特征:时间感知、好奇、恐惧、兴奋、失望和解脱。模式识别(Pattern Recognition)强化学习(Reinforcement Learning)"无模型强化学习"的突破,最大的后发可能是和好奇心,试错是比模仿更基础的学习能力。
- 视觉不仅仅是一种"感觉",至少不是那种可以用温度计或计数器测量的"感觉",而是一种体验的催化剂.......视觉是定义人类思维情感最为重要的能力之一,是通往整个记忆、联想、概念和推理世界的入口,所有这些都交织在我们与周围环境的视觉联系中。
- 创造的引擎2.0：分子工程学大师Eric Drexler教授的成名作《ENGINES OF CREATION2.0》,这本书出版于1986年,2006年升级到2.0版,纳米技术科普的开山之作,像复制装配器、分子制造还有灰色黏液(失控的自我复制)等各种概念都被科幻小说大量引用Drexler早在40年前就在书中预言了纳米与Al技术分别会从物理和数字世界颠覆人类社会,分子工厂革新制造,人工智能则颠覆软件,书中关于AI的思考现在已经几乎实现,但纳米技术的大规模使用依旧在科幻小说里,毕竟复制原子要比复制比特难得多。在社会影响和人类安全方面,纳米技术和AI系统具有破坏性潜力超过了核武器,因为它们能被精细化应用。炸弹只能摧毁,而纳米机器和AI却可以用来肾-透、夺取、改变和统治一个地区或整个世界。