大语言模型的发展让研究人员专注于建立尽可能大的模型。但是其实较小的模型在某些任务中表现会优于较大的模型时，例如：Llama3-8B在MMLU任务上的表现优于较大的Llama2-70B!这就说明大模型并不是万能的，在一些特定任务中，小模型表现得可能会更出色。所以IBM的研究人员就推出了一个

这里没有严格的论证，只是自己的一些理解。attention机制下的Transformer确实是当前AI技术中最为火热的，基于其构建的大语言模型可以说是AI技术至今最强的技术之一了，但是attention是否真的的一定优于LSTM呢？其实，attention的效果或者说Transformer的效果是和数据量的多少有关系的，如

从1804年打孔式编程出现，编程语言至今已经存在了200多年。而从50年代以来，新的编程语言也不断涌现，现在已经有250多种了。这就意味着，开发人员最需要习惯的事情就是不断改变。 编程界最近的一个变化是集成开发环境（IDE）——软件应用程序，一般包括代码编辑器、编译器、调试器和图形用

微软发布了最新的Phi-2和promptbase。Phi-2的性能优于其他现有的小型语言模型，但它足够小，可以在笔记本电脑或移动设备上运行。一个27亿参数的语言模型，展示了出色的推理和语言理解能力，展示了参数少于130亿的基础语言模型中最先进的性能。在复杂的基准测试中，得益于模型扩展和训

熵模型论文<VARIATIONALIMAGECOMPRESSIONWITHASCALEHYPERPRIOR提出使用超先验，来捕获潜在表示的超先验。追根溯源发现：在香农的通信理论中给出数学解释即，使用联合分布比独立分布更优如果有先验的信息，对后续编码而言其不确定性会更小，从而获得更小的比特流。该博客提供

3.首先，约定优于配置是一种软件设计的范式，它的核心思想是减少软件开发人员对于配置项的维护，从而让开发人员更加聚焦在业务逻辑上。4.SpringBoot就是约定优于配置这一理念下的产物，它类似于Spring框架下的一个脚手架，通过SpringBoot，我们可以快速开发基于Spring生态下的

if you want to go famous, then we have slowly sleep; If you want to go long wisdom, then we have slowly proud. If you want to slow down the aging, then you will have to hurry up learning; If you want to slow down

1、快速可搭建的脚手架，少量配置，约定优于配置，不用像ssm那样增加复杂的配置文件2、这种方式使程序员更加集中于业务代码的编写，而不用关注部署和容器配置的问题3、约定优于配置也不是任何场景都适用，主要还是免去了servlet的配置4、内置tomcat直接启动

架构设计原则合适原则：合适优于业界领先考虑人员多少考虑时间成本，罗马不是一天建成的结合业务设计简单原则：简单优于复杂结构越复杂可用率越低逻辑越复杂，开发越慢，排查越慢演化原则：演化优于一步到位架构需要随业务的变化而变化不断迭代，去其糟粕留其精华

1.改变纵轴单位刻度的长度。造成差异比较大的视觉。 2. B车优于A车，没有考虑分布。

hi，我是熵减，见字如面。从事软件开发的人，都非常的清楚：大部分的软件工程不是一个人的英雄之旅，而是一项非常依赖团队的协作的、共同创造的系统性的工程。在复杂的团队协作中，