首页 > 其他分享 >colab运行google最新开源模型Gemma

colab运行google最新开源模型Gemma

时间:2024-02-22 14:13:07浏览次数:30  
标签:google Gemma 点击 Google colab 模型

Google开源了新的大模型 GemmaGemma是一系列轻量级、最先进的开放式模型,采用与创建Gemini模型相同的研究和技术而构建。Gemma 由 Google DeepMind 和 Google 的其他团队开发,其灵感来自 Gemini,其名称反映了拉丁语_gemma_,意思是“宝石”。除了模型权重之外,我们还发布了工具来支持开发人员创新、促进协作并指导负责任地使用 Gemma 模型。

Gemma 是为推动人工智能创新的开发人员和研究人员的开放社区而构建的。您今天就可以开始与 Gemma 合作,使用 Kaggle 中的免费访问权限、Colab 笔记本的免费套餐以及首次使用 Google Cloud 用户的 300 美元积分。研究人员还可以申请高达 50 万美元的Google Cloud 积分来加速他们的项目。

google提供了keras3.0来提供跨所有主要框架的推理和监督微调 (SFT) 工具链:JAX、PyTorch 和 TensorFlow 。还有 即用型ColabKaggle 笔记本,以及与Hugging FaceMaxTextNVIDIA NeMoTensorRT-LLM等流行工具的集成,让您可以轻松开始使用 Gemma。

google也提供了一个快速指南来使用ai.google.dev/gemma

kaggle 获取访问权限

首先访问Gemma在kaggle的页面,登陆你的kaggle账号

image.png

这里会有一个 Request Access,点击(我这是已经有访问权限了,你点了之后也变成这样说明就成功了)

然后我们点击kaggle的设置,按照我的截图依次点击
image.png

image.png
image.png
你的浏览器会下载一个json文件,例如就像下面这样
image.png

colab运行

如果你有google账号那就直接打开Gemma的colab页面 (没有的话就注册一个啦)

不出意外你会看到这样一个页面
image.png

接下来点击右上角,按照我的截图顺序,选择显卡为t4
image.png
image.png

image.png
点击保存,等待右上角变成这样,代表成功
image.png

接下来点击左侧
image.png

选择新建新密钥
image.png
先添加一个叫做 KAGGLE_USERNAME, 值写我们刚下载的json里面的username字段对应的值,

举个例子,加入我们下载的json是这样,那就填入的是example_username

{"username":"example_username","key":"12345678901112131415"}

image.png
再添加一个KAGGLE_KEY,值填写的是key对应的值,在刚才的例子那就是写12345678901112131415

image.png

记着打开两个的访问权限

运行colab

运行notebook即可,就是点击这里的开始按钮就会执行这个小方格里的代码
image.png

里面有推理和微调的示例,感兴趣的同学可以自己实践

评测

我这边运行了几个2b模型的例子,效果是实话实说,emmmmmmmmmmmm,一言难尽,可能是2b太拉胯了吧
image.png

经过微调之后效果好了不少
image.png

标签:google,Gemma,点击,Google,colab,模型
From: https://www.cnblogs.com/studyinglover/p/18027199

相关文章

  • Google Earth Pro谷歌地球专业版,标准版,在国内可以用,解决黑屏问题街景
    --------------------------------win电脑下载地址点这里☜---------------------------------------------------------------mac电脑下载地址点这里☜--------------------------------====================-----------------------------有百度网盘会员的可以点这里☜------......
  • Google搜索操作符:让你秒变搜索专家
    搜索引擎对互联网的重要性不言而喻,不过,随着ChatGPT及其类似AI工具的推出,对搜索引擎带来了前所未有的挑战。因为ChatGPT具有自然语言处理能力,能够更好地理解用户的搜索意图,提供更准确、更相关的搜索结果。同时,还可以根据用户的搜索历史和行为数据,为用户提供更加个性化的搜索体验,推......
  • ubuntu Fix The Google GPG Error on Ubuntu
    想装下node.js,结果ubuntu输入aptupdate环境炸了,原因是google的GPGkey更新了报错(base)woodx@Machine:~$sudoaptupdateGet:1file:/var/cudnn-local-repo-ubuntu1804-8.8.1.3InRelease[1,572B]Get:2file:/var/nv-tensorrt-local-repo-ubuntu1804-8.5.1-cuda-11.8InR......
  • google chrome 获取书签的添加日期
    有的时候想找一个书签的添加日期,在浏览器上貌似看不到 设备:win10google书签位置:username是你的用户名C:\Users\username\AppData\Local\Google\Chrome\UserData\Default\Bookmarkspython获取数据importpandasaspdimportjsonimportdatetimewithopen......
  • 创新技巧|迁移到 Google Analytics 4 时如何保存历史 Universal Analytics 数据
    GoogleUniversalAnalytics从2023年7月起停止收集数据(除了付费GA360之外)。它被GoogleAnalytics4取代。为此,不少用户疑惑:是否可以将累积(历史)数据从GoogleAnalyticsUniversal传输到GoogleAnalytics4?您无法将数据传输到新的GA4界面。但您可以将数据保存在Goog......
  • Google Earth Pro谷歌地球专业版
    GoogleEarthPro谷歌地球专业版,标准版,在国内可以用的,常见的黑屏问题可以解决的需要解决黑屏问题的可以找我(V×:F2233F) ......
  • Google的蛋白质结构预测项目代码(Demo)
    相关:ArtificialIntelligence|60MinutesFullEpisodes......
  • 为什么是Google创造了AlphaGo,而不是其他公司?
    相关:ArtificialIntelligence|60MinutesFullEpisodes答案:Google一直在进行AI方向的探索;Google有足够的算力。......
  • 在我的VS2019中重新配置2017项目生成的google test 项目
    原来的项目是其他版本的VS配置的,自己下载下来时候,本机也没有装GoogleTest所以用不起。如果重建项目在一个个引入工程代码太麻烦(文件多),所以我就想着有没有什么办法快捷配置,不用重建工程以下是我的一个配置方法,供大家交流学习:1.首先你本机要安装上GoogleTest,安装方法自查;2.如......
  • google play(谷歌) 订阅接入 支付后台配置
    一、Google开发者平台配置回调订阅后台地址https://console.cloud.google.com/projectselector2/cloudpubsub/topic/list 新建主题   创建订阅输入回调服务端地址(付款成功后进行回调) 并且需要设置 [email protected]......