谷歌发文解释为什么要在Chrome中内置本地AI模型:为开发者提供设备端应用 – 蓝点网

谷歌目前已经尝试在 Chrome 浏览器中内置 AI 模型,应用该模型需要下载到本地后使用,蓝点模型版本为 Google Gemini Nano 版。谷歌供设
这个模型并不是发文面向普通用户提供的,主要是解释给开发者使用,让开发者可以在网站或 PWA 应用里调用本地 AI 模型执行运算,为什网而不需要调用某些云端模型。中内置本者提
最重要的备端是经过谷歌的优化,Gemini Nano 版可以在本地使用硬件加速功能,应用无论是 GPU、NPU 甚至是 CPU 都可以用来运算。
使用本地模型的好处有很多:
本地处理敏感数据:设备端 AI 可以改进隐私保护,例如处理敏感数据时可以通过端到端加密为用户提供 AI 功能。
流畅的用户体验:在某些情况下无需来回往返服务器即可获得近似实时的回答。
对 AI 的访问权限更高:设备端可以承担一些处理负载,以换取对功能的更多访问权限,即如果使用云端 AI 用户可能需要额外付费分摊开发者的 token 费用,如果仅在本地处理那么这些费用就可以省了。
离线使用 AI:显然设备端的本地 AI 是可以在离线状态下使用的,这意味着某些 PWA 类应用在离线情况下也可以处理内容。
亦或者采用混合架构:
对于简单的任务使用本地 AI 处理是可以的,但如果需要进行复杂的任务开发者应当考虑使用服务端实现,也就是继续调用云端 AI。
第二种是保持 AI 功能的弹性,当网络连接顺畅的情况下开发者可以调用云端 AI,如果网络不畅或者离线则可以回退到本地 AI 处理。
第三种是安全回退:采用内置 AI 的浏览器需要一定的时间,而且某些型号或某些太旧的设备可能无法使用本地 AI,这种情况下开发者可以继续调用云端 AI。
Chrome 内置 AI 为所有开发者提供通用模型:
现阶段开发者通过浏览器运行 AI 要么直接调用云端 AI 要么需要下载本地模型,而不同的开发者和不同的网站采用的 AI 模型不同,用户可能需要下载一大堆模型。
Chrome 内置 AI 模型为所有开发者提供通用模型,这些模型一次下载即可使用,在用户已经下载过模型的情况下,调用模型的 PWA 应用可以做到开箱即用。
这种方式应该可以大幅度提高 PWA 应用对 AI 功能的采用率,提高用户体验的同时也可以减少开发者很多繁杂的工作。
目前 Chrome 尚未正式推出 AI API 接口,有兴趣的开发者们可以点击这里先报名:https://forms.gle/ksWMYFtsUSZiC63m9
限时活动推荐:软购618多款正版软件2折购、阿里云服务器仅36元/年、腾讯云轻量服务器82元/年、B站大会员88元。
相关文章
- 随着苍生经济支出水平的稳步后退,花难题的不断增强,人们对于太阳眼镜的破费品的置办需要呈激增形态。另一方面,随国花难题以及破费水平、技术的强化,人们对于国货物牌的定夺也逐渐削减。良多国货物牌的突起离不开2025-04-11
- 几天前,Steam 俄然正在越北被出有任何启事的完整启禁了。越北玩家正在 Steam 论坛上表示,该国统统支散供应商俄然一同樊篱了 Steam 利用战浏览器的拜候。一名批评者表示,他正在与一名体会乌幕2025-04-11
- 近日,由同人游戏制作组MICAteam云母组制作的策略类回合制游戏《逆向坍塌:面包房行动Reverse Collapse: Code Name Bakery)》Steam好评率已经升至70%,为多半好2025-04-11
- 热血重燃,战歌复兴!正在玛法大年夜陆的深处,新的豪杰篇章正等候着您的誊写!心法屠龙专区801区)即将于4月26日本周五)震惊开启,没有但是一场游戏的开启,更是一次心灵的醉觉。正在那里,您将找回那份最后2025-04-11
- 前阵子,知乎上一篇对于“副业”的回覆震撼到了我,一个大三学生,只靠副业赚够14W+。如今的年迈人都靠甚么赚钱?猎聘网今日宣告的一组数据展现,五成以上的90后有副业。而在40.3%的有守业想法的90后中2025-04-11
北方暴雪降温 设备实力验证! 四季沐歌空气源热泵智能除霜技术大显身手
【家电资讯-家电新闻 - 行业新闻,作者:编辑】 秋冬的分水岭,从一场纷飞的大雪开始。近段时间我国北方多地迎来降雪天气,气温犹如断崖式下降。伴随着寒潮的2025-04-11
最新评论