首页 > 其他分享 >【图书阅读】人工智能数据与模型安全

【图书阅读】人工智能数据与模型安全

时间:2024-08-12 16:27:00浏览次数:8  
标签:机器 人工智能 模型 学习 攻击 鲁棒性 窃取 图书

可信机器学习是机器学习的一个新兴的分支,旨在解决现有机器学习算法和模型的可信度问题。

可解释性
一般鲁棒性
对抗鲁棒性(对抗性攻击和防御)
数据中毒(数据中毒和防御)
后门鲁棒性(后门攻击和防御)
隐私(数据泄露和模型窃取)
差分隐私
联邦学习
公平性
数据篡改和伪造

机器学习不同层次的理解

机器学习模型是一个学习器
机器学习模型是一个计算器
机器学习模型是一个存储器
机器学习模型是一个复杂函数

模型窃取

模型窃取攻击的目标是通过一定手段窃取得到一个跟{受害者模型}功能和性能相近的窃取模型,从而避开昂贵的模型训练并从中获益。
在这里插入图片描述

基于方程式求解的窃取攻击

在这里插入图片描述
早在2016年,Tramèr等人 (Tramèr et al., 2016) 便提出通过求解模型结构方程式来窃取机器学习模型参数。在该攻击方法中,攻击者向受害者模型发送大量查询并构建模型参数方程式,随后通过受害者模型返回的预测输出来窃取模型参数。
在这里插入图片描述

标签:机器,人工智能,模型,学习,攻击,鲁棒性,窃取,图书
From: https://blog.csdn.net/Glass_Gun/article/details/141120310

相关文章

  • 横空出世的文生图大模型:FLUX.1,怎么用 Python 操作它呢?
    提到文生图、图生图,你首先肯定会想到StableDiffusion、Midjourney,但最近又有一个文生图模型横空出世,它就是由StableDiffusion原班人马打造的FLUX.1。FLUX.1包含专业版、开发者版、快速版三种模型,它们的区别如下:FLUX.1[pro]专业版,最先进的一个版本,具有顶级的提示词遵循、......
  • 增强现实系列—深入探索ARKit:平面检测、三维模型放置与增强现实交互
    ......
  • 零基础学习人工智能—Python—Pytorch学习(四)
    前言接续上一篇的optimizer的学习。optimizer代码和上一篇文章的一样,如下:importtorchimportnumpyasnpimporttorch.nnasnnX=torch.tensor([1,2,3,4],dtype=torch.float32)Y=torch.tensor([2,4,6,8],dtype=torch.float32)w2=torch.tensor(0.0,requ......
  • 大模型备案过程讲解
    以下是一般情况下大模型备案的大致过程讲解(不同地区和具体要求可能存在差异和细化等情况):一、备案前准备了解法规和政策熟悉《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等相关法律法规对大模型备案的要求和规定。明确备案的主管部门(通常是网信......
  • 奥特曼花园私照“惊”到AI圈创始人,引出OpenAI代号“草莓”神秘项目进展大讨论,匿名基础
    今天,SamAltman在X上晒了一张自家花园的照片,结果却把AI界的创始人们“惊”到了。图片公司高层突发的巨大变动,似乎并没有太多影响到这位当家人,奥特曼在海外媒体秀出了一张花园花盆中生长的草莓的宜人景色,并用他典型的全小写文字风格配文“我喜欢花园里的夏天”。看起来,既在......
  • 如何创建良好的数据模型?
    数据模型是构建高效和稳定系统的基础。它不仅决定了如何存储和管理数据,还直接影响系统的性能和可扩展性。本文将带你深入了解如何创建一个高效的数据模型,并以NocoBase为例,展示如何快速建立适合业务需求的数据结构。无论你是刚接触数据建模的新手,还是希望优化现有模型的经验丰......
  • 人工智能时代,程序员如何保持核心竞争力?
    随着AIGC(如chatgpt、midjourney、claude等)大语言模型接二连三的涌现,AI辅助编程工具日益普及,程序员的工作方式正在发生深刻变革。有人担心AI可能取代部分编程工作,也有人认为AI是提高效率的得力助手。面对这一趋势,程序员应该如何应对?是专注于某个领域深耕细作,还是广泛学习以适......
  • 人工智能时代程序员的核心竞争力塑造
    在当今的科技浪潮中,人工智能,特别是以AIGC为代表的大语言模型以及日益普及的AI辅助编程工具,正以前所未有的速度和深度重塑着程序员的工作领域。在这个变革的时代,程序员面临着前所未有的机遇和挑战,如何保持并提升自身的核心竞争力成为了至关重要的议题。目录一、AI辅助......
  • node.js 使用joi来验证数据模型
    node.js使用joi来验证数据模型     joi是nodej的一个工具模块,主要用于JavaScript对象的校验。它是一种简单易用的javacript对象约束描述语言,可以轻松解决nodejs开发中的各种参数的校验。 直接上代码//导入joi模块constjoi=require('joi')//定义......
  • 如何训练一个大语言模型(LLMs)?
    前言在当今数字时代,语言模型已经成为自然语言处理任务的强大工具,从文本生成到情感分析和机器翻译等各个方面都有涉猎。然而,训练这些模型需要仔细的规划、大量的计算资源以及机器学习技术方面的专业知识。那么一个大型语言模型(LLMs)到底是如何训练出来的呢?在查阅了解之后,我......