首页 > 其他分享 >SciTech-BigDataAIML-TensorFlow-Model的编译:设置(LossFunction+Optimizer+Metrics)与编译

SciTech-BigDataAIML-TensorFlow-Model的编译:设置(LossFunction+Optimizer+Metrics)与编译

时间:2024-05-11 14:52:05浏览次数:21  
标签:function metrics Optimizer 函数 loss Metrics 编译 class mean

机器学习|model.compile()用法

model.compile()的作用:

  • 为经过设计的Model(神经网络模型)设置好:
    • loss损失函数、
    • optimizer优化器、
    • metrics准确性评价函数。
  • 并且进行编译;

Optimizers优化器:

  • Optimizer 的主要功能是作用在GD(梯度下降)的过程,
    使得Gradient(梯度)更快(快速逼近峰值)更好(不空不漏不乱)的收敛,
    从而尽快找到LossFuction(目标函数)的最小值。
    可以理解为以最优最快方式的寻找最优的“损失”(loss)。
  • Optimizer可选参数:
    • SGD: 随机GD(随机梯度下降)
    • RMSprop(动量)
    • Adam(优化的动量, 常用的选择)
    • Adadelta
    • Adagrad
    • Adamax
    • Nadam
    • Ftrl

Loss损失函数

  • loss(cost) 描述的是 "真实值" 与 "预测值" 之间的信息差;
  • 而损失函数的目的是去计算其中“损失量”的大小,进而得出一个损失/信息熵尽可能小的解,即最优权重参数。
    (如图:随着训练轮次增加,损失值下降的过程)
  • loss function(cost function)是将随机事件或其有关随机变量的取值,
    映射为非负实数以表示该随机事件的Cost(成本)或Risk(风险)的函数。
  • Model(神经网络模型)以某个指标为线索寻找最优权重参数。

loss可选参数
Probabilistic losses
BinaryCrossentropy class
CategoricalCrossentropy class
SparseCategoricalCrossentropy class
Poisson class
binary_crossentropy function
categorical_crossentropy function
sparse_categorical_crossentropy function
poisson function
KLDivergence class
kl_divergence function

回归损失(Regression losses)
MeanSquaredError class
MeanAbsoluteError class
MeanAbsolutePercentageError class
MeanSquaredLogarithmicError class

CosineSimilarity class
mean_squared_error function
mean_absolute_error function
mean_absolute_percentage_error function
mean_squared_logarithmic_error function
cosine_similarity function
Huber class
huber function
LogCosh class
log_cosh function

最大间隔分类(maximum-margin classification)
Hinge class
SquaredHinge class
CategoricalHinge class
hinge function
squared_hinge function
categorical_hinge function

准确性评价函数(Metrics)

准确性评价函数用在评估模型预测的准确性。在模型训练的过程中,我们会记录模型在训练集、验证集上的预测准确性,之后会据此绘制准确率随着训练次数的变化曲线。

Metrics 可选参数

Accuracy metrics
BinaryAccuracy class
CategoricalAccuracy class
SparseCategoricalAccuracy class
TopKCategoricalAccuracy class
SparseTopKCategoricalAccuracy class
Probabilistic metrics
BinaryCrossentropy class
CategoricalCrossentropy class
SparseCategoricalCrossentropy class
KLDivergence class
Poisson class
Regression metrics

MeanSquaredError class
RootMeanSquaredError class
MeanAbsoluteError class
MeanAbsolutePercentageError class
MeanSquaredLogarithmicError class
CosineSimilarity class
LogCoshError class
Classification metrics based on True/False positives & negatives

AUC class
Precision class
Recall class
TruePositives class
TrueNegatives class
FalsePositives class
FalseNegatives class
PrecisionAtRecall class
SensitivityAtSpecificity class
SpecificityAtSensitivity class
Image segmentation metrics

MeanIoU class
Hinge metrics for "maximum-margin" classification

Hinge class
SquaredHinge class
CategoricalHinge class

发布于 2022-11-14 15:40・IP 属地浙江
深度学习(Deep Learning)
机器学习
Keras

标签:function,metrics,Optimizer,函数,loss,Metrics,编译,class,mean
From: https://www.cnblogs.com/abaelhe/p/18186495

相关文章

  • linux环境静态编译openssl、curl
    编译opensslopenssl下载地址:https://www.openssl.org/source/index.htmltarzxvfopenssl-3.3.0.tar.gzcdopenssl-3.3.0/./config-fPICno-shared--prefix=/root/openssl_install--openssldir=/root/openssl_installmakemakeinstall编译curlcurl下载地址:https:/......
  • Keil 和Eclipse 软件编译环境下bin和ram以及flash大小及关系
    一.keil软件编译环境ProgramSize:Code=65228 RO-data=5302 RW-data=48 ZI-data=1681keil软件编译后会出现上面的提示,其意义如下:Code:指程序中代码的字节数RO-data:指程序中定义的常量字节数RW-data:程序中已初始化的变量字节数ZI-Data:程序中未初始化的变量字节数......
  • XFreerdp2.x编译安装
    1、下载freerdp编译包gitclonehttps://github.com/FreeRDP/FreeRDP.git或者指定版本zip文件下载 2、安装freerdp所依赖包foriin`find./-typef`;docat${i}|grep-i'openssl-devel';if[$?=="0"];thenecho"${i}";fi;done查看需要的安装包2.x版本的实际......
  • 线性同余-常见语言编译器参数
    Sourcem(multiplier) a   (increment) coutputbitsofseedin rand() /Random(L)NumericalRecipes23216645251013904223 Borland C/C++232226954771bits30..16in rand(),30..0inlrand()glibc (usedby GCC)[5]231110351524512345b......
  • 《编译原理》阅读笔记:p4-p17
    《编译原理》学习第2天,p4-p17总结,总计14页。一、技术总结1.structureofcompiler编译器组成包括:LexicalAnalyzer->SyntaxAnalazer->Semantictree->IntermediateCodeGenerator->Machine-IndependentCodeOptimizer->CodeGenerator->Machine-Dependent......
  • linux openCV编译
    1、修改平台文件opencv/platforms/linux/arm-gnueabihf.toolchain.cmakeset(GCC_COMPILER_VERSION""CACHESTRING"GCCCompilerversion")set(GNU_MACHINE"arm-linux-gnueabihf"CACHESTRING"GNUcompilertriple")set(CMAKE_C_COMP......
  • GCC编译C++步骤
    在使用GCC编译器编译多个源文件时,你需要将所有需要编译的源文件列出,并在命令行中将它们一起传递给GCC。GCC会将这些源文件编译成目标文件(.o文件),然后链接成最终的可执行文件或动态库。下面是一个示例命令行:bashCopycodeg++-cfile1.cppfile2.cppfile3.cpp在这个......
  • rust搭建交叉编译环境
    最近尝试了一下rust交叉编译,简单记录一下。原理1、使用rust的编译器将rust源码编译到汇编或者.o的状态(具体是汇编还是.o没有考证过)。2、使用目标平台的toolchain将rust生成的汇编或者.o链接成ELF等可执行的格式。基于上述原理,需要解决两个问题:首先,怎么让rust将rust代......
  • windows下源码编译CMake项目
    Cmake项目1、安装路径和源码安装包下载地址:https://cmake.org/download/源码地址https://github.com/Kitware/CMake2、编译源码下载后会有一个CMake-master的文件夹在里面新建一个build目录打开cmake-gui可执行文件出现cmake的界面,设置source路径为刚刚的CMake-......
  • 《编译原理》阅读笔记:p1-p3
    《编译原理》学习第1天,p1-p3总结,总计3页。一、技术总结1.compiler(编译器)p1,But,beforeaprogramcanberun,itfirstmustbetranslatedintoaforminwhichitcanbeexecutedbyacomputer.Thesoftwaresystemsthatdothistranslationarecalledcomp......