Chrome内置了Gemini Nano AI,完全离线运行,你不会还不知道吧!

avatar
作者
猴君
阅读量:7

猫头虎 🐯

建联猫头虎,商务合作,产品评测,产品推广,个人自媒体创作,超级个体,涨粉秘籍,一起探索编程世界的无限可能!

🌟 Chrome内置了Gemini Nano AI,完全离线运行,你不会还不知道吧!

💡 提示: 想知道如何让你的Chrome浏览器更智能?了解如何在Chrome中启用全新的Gemini Nano AI,这个离线运行的强大语言模型吧!👇

前言

在当今信息化时代,浏览器已经成为我们日常生活中不可或缺的一部分。然而,随着人工智能技术的迅猛发展,我们对浏览器的期望也在不断提高。谷歌浏览器(Google Chrome)作为全球最受欢迎的浏览器之一,一直在不断创新和提升用户体验。近期,Google推出了Gemini Nano AI,这是一款能够完全离线运行的轻量级人工智能语言模型,让用户在离线状态下也能享受AI带来的智能化服务。今天,我们就来了解一下如何在Chrome中启用这个强大的功能,并体验其带来的便利。

猫头虎是谁?

大家好,我是 猫头虎,别名猫头虎博主,擅长的技术领域包括云原生、前端、后端、运维和AI。我的博客主要分享技术教程、bug解决思路、开发工具教程、前沿科技资讯、产品评测图文、产品使用体验图文、产品优点推广文稿、产品横测对比文稿,以及线下技术沙龙活动参会体验文稿。内容涵盖云服务产品评测、AI产品横测对比、开发板性能测试和技术报告评测等。

目前,我活跃在CSDN、51CTO、腾讯云开发者社区、阿里云开发者社区、知乎、微信公众号、视频号、抖音、B站和小红书等平台,全网拥有超过30万的粉丝,统一IP名称为 猫头虎 或者 猫头虎博主。希望通过我的分享,帮助大家更好地了解和使用各类技术产品。

原创作者 ✍️

  • 博主猫头虎
    • 全网搜索关键词猫头虎
    • 作者微信号Libin9iOak
    • 作者公众号猫头虎技术团队
    • 更新日期2024年6月16日
    • 🌟 欢迎来到猫头虎的博客 — 探索技术的无限可能!

专栏链接 🔗

领域矩阵 🌐

加入猫头虎的技术圈,一起探索编程世界的无限可能! 🚀

文章目录

概要

Gemini Nano是Google推出的一款轻量级人工智能语言模型,设计用于在设备本地运行,提供快速响应和高效性能。其体积小巧,适合在智能手机、平板电脑甚至笔记本电脑等设备上运行,特别是在不依赖网络连接的情况下发挥其强大功能。

Google的Gemini Nano语言模型足够小(见 📎https://www.androidauthority.com/gemini-ai-google-pixel-3392146/),可以完全在Pixel 8上运行,但我们还没有看到很多它的使用案例。目前,该模型仅用于Gboard的智能回复或Recorder应用中的AI生成摘要等功能。

幸运的是,Google似乎在桌面端有更宏大的目标,目前已经开始在Chrome中测试Gemini Nano的集成。这意味着你可以在浏览器中完全离线地与一个现代大型语言模型对话!

Gemini Nano for Chrome是在上个月刚刚宣布的,Google承诺很快会向开发者开放测试权限。几周前,在Chrome Canary的127版本中发现了这个功能,热心的开发者们已经创建了展示本地模型能力的网页应用。其中一个演示由Twitter/X用户Morten Just提供,他展示了Gemini Nano的快速响应能力。

图片

视频显示Gemini Nano实时响应,延迟时间在几百毫秒之内。然而,开发者承认该演示是在Apple Silicon M3 Max-powered Mac上运行的,其性能比普通桌面要强得多。不过,即使是较慢的硬件也应该能够处理Gemini Nano,因为其响应速度比普通人类的响应时间还要快。

例如,我在配备Apple M1芯片和64GB内存的MacBook Pro上安装了Chrome Canary。这些是高端PC规格,但足以运行像Meta的Llama 3(见 📎https://www.androidauthority.com/llama-3-vs-chatgpt-3448849/)这样的更大模型。

如何在Chrome中启用Gemini Nano

想要体验Gemini Nano的强大功能?请按照以下步骤操作:

1. 安装Chrome Canary版本128或更高版本

  • 下载地址 📎https://www.google.com/chrome/canary/

2. 启用相关功能标志

  • 打开Chrome Canary,输入 chrome://flags
  • 启用 prompt-api-for-gemini-nanooptimization-guide-on-device-model 两个标志

3. 下载语言模型

  • 进入 chrome://components
  • 查找“Optimization Guide On Device Model”
  • 等待模型下载完成,Gemini Nano大约有2GB大小

4. 测试Gemini Nano

  • 访问网页应用 📎https://chromeai.pages.dev
  • 断开网络连接
  • 发送你的第一条消息,你应该会看到几乎即时的响应

使用体验

在完成以上步骤后,我在配备高端硬件的MacBook Pro上测试了Gemini Nano,结果令人震惊地好。模型的响应速度几乎与视频演示相当。虽然速度本身并不惊人,但关键是,Gemini Nano可以作为一个临时聊天机器人使用,并且由于其较小的体积,可以在更广泛的硬件上运行。

注意: 在输入诸如“总结一下…”这样的开放性提示时,Gemini Nano可能会出现无响应的情况。这可能是网页应用中的一个错误,但请记住,Chrome中的Gemini Nano毕竟是一个实验性功能

总结

Gemini Nano的出现为Chrome浏览器带来了全新的可能性,让用户可以在离线状态下体验强大的AI功能。如果你对技术有兴趣,或者只是想体验一下未来的浏览器AI,不妨按照上述步骤试一试!

💬 想了解更多技术资讯和最新AI应用?记得关注我哦!

🌟 关注我,获取更多科技前沿资讯!


希望你能喜欢这个教程!如果有任何问题或需要进一步的帮助,请随时联系我。你的反馈对我来说非常重要! 😊

👉 更多信息:有任何疑问或者需要进一步探讨的内容,欢迎点击下方文末名片获取更多信息。我是猫头虎博主,期待与您的交流! 🦉💬
在这里插入图片描述

联系与版权声明 📩

  • 联系方式
    • 微信: Libin9iOak
    • 公众号: 猫头虎技术团队
  • 版权声明
    本文为原创文章,版权归作者所有。未经许可,禁止转载。更多内容请访问猫头虎的博客首页

点击✨⬇️下方名片⬇️✨,加入猫头虎领域社群矩阵。一起探索科技的未来,共同成长。🚀

🔗 猫头虎社群 | 🔗 Go语言VIP专栏 | 🔗 GitHub 代码仓库 | 🔗 Go生态洞察专栏✨ 猫头虎精品博文

广告一刻

为您即时展示最新活动产品广告消息,让您随时掌握产品活动新动态!