Text generation web UI可为类ChatGPT的大型语言模型提供能够快速上手的网页界面,不仅可以提高使用效率,还可满足私有化部署,或对模型进行自定义。目前,该Web UI已经支持了许多流行的语言模型,包括LLaMA、llama.cpp、GPT-J、Pythia、OPT、GALACTICA等。
而且,Text generation web UI部署非常简便,不仅在github主页上直接提供了一键部署安装包,同时由于是web UI形式,如果需要远程访问、使用,也可搭配贝锐花生壳之类的内网穿透工具,在没有公众IP、不设置路由的情况下,快速实现异地访问,打造私有的类ChatGPT服务。
Text generation web UI本地部署+贝锐花生壳内网穿透实现远程访问的过程如下:
1.在github主页下载系统对应的一键安装包,以Windows为例,运行start_windows.bat即可一键下载依赖环境,并自动安装。
2.完成后,进入Text generation web UI所在的目录,下载所需的语言模型,具体可看github主页,例如使用如下命令:
3.完成模型下载后,再次运行start_windows.bat就能启动Web UI,不过此时只能本地浏览器访问,如需远程或外部使用,还需搭配贝锐花生壳内网穿透,安装部署过程同样简便。
1.首先,在贝锐官网下载、安装花生壳的客户端,并在安装完成后,登录注册好的贝锐帐号。
值得一提的是,花生壳除了支持Windows、Mac、Linux、树莓派、OpenWRT、Android等多种操作系统及设备,还提供了硬件花生壳盒子,适用于一些不方便安装软件客户端的场景。
2.在花生壳主界面的内网穿透一栏点击添加映射,进入云端管理平台,根据提示信息填写,提交后就会自动生成外网访问地址。
3.当用户需要远程访问Text generation web UI时,只需要在浏览器中输入贝锐花生壳生成的外网访问地址即可。
总之,使用贝锐花生壳实现远程访问Text generation web UI的过程非常简便,只需要根据上述步骤进行操作就行,如果对私有化的类ChatGPT服务有所需求,不妨可以参考下。
Stable Diffuison Web UI是最近非常热门AI绘图工具,它可将非常复杂的AI绘画流程转化为可视化的网页...
7月1日至7日,沙特阿拉伯通信与信息技术部部长Abdullah Al-Swaha在中国进行了为期一周的深度访问。7月2...
7月6日-8日,2023年第六届世界人工智能大会(WAIC)在上海世博中心及世博展览馆盛大举行。作为本届大会...
7月6日,以远见超越未见2023 山石网科 安全守护者峰会在四川成都隆重举办。大会由中国计算机...
【中国,东莞,2023年7月7日】华为开发者大会2023(Cloud)7月7日在中国东莞正式揭开帷幕,并同时在全球...
在数字经济时代,数字资产的价值持续被人们所认可和追捧,各个机构都在争先恐后地推出各自的产品。一时...
7月6日至8日,2023世界人工智能大会(WAIC 2023)于上海举办。在大会中,腾讯多媒体实验室首次发布自研...
在闷热天气下,手心出汗,手机发烫等问题频繁影响玩家的游戏体验,让人苦恼。LEADJOY 暴风眼苹果手游手...
从在上海黄浦江畔高歌,到北京朝阳公园健步;自线上直播开麦,到线下与公众宣传科普近日,中美联泰...
Stable Diffuison Web UI是最近非常热门AI绘图工具,它可将非常复杂的AI绘画流程转化为可视化的网页...
7月1日至7日,沙特阿拉伯通信与信息技术部部长Abdullah Al-Swaha在中国进行了为期一周的深度访问。7月2...
网彤云(青岛)数字科技有限公司,一家专注于边缘计算行业的创新企业,正在全国范围内大力铺设边缘计算...
随着各地旅游大热,特别是西藏地区的旅游业不断发展,越来越多的酒店行业投资者将目光转向这片充满魅力...
7月5日至8日,2023舟山中国鱿鱼产业大会隆重举办,政界领导、商界领袖、学界专家、产业链各环节专...
7月6日-8日,2023年第六届世界人工智能大会(WAIC)在上海世博中心及世博展览馆盛大举行。作为本届大会...
7月6日,以远见超越未见2023 山石网科 安全守护者峰会在四川成都隆重举办。大会由中国计算机...
为提升保险行业社会认知度,树立行业良好社会形象,持续加强全社会的保险意识。在第十一个7 8全国保险...
时代在发展,科学在进步。为了满足更多人更全面的求美需求,医美行业正在迅猛发展,并且迎来了社会审美...
在新生人口数断崖式下跌、经济下行等各因素影响下,曾作为母婴门店两大主要业绩支柱的奶粉、纸尿裤品类...
7月7日,正值第十一个全国保险公众宣传日活动期间,在广东银保监局指导和统一部署下,广东平安产险、寿...
【中国,东莞,2023年7月7日】华为开发者大会2023(Cloud)7月7日在中国东莞正式揭开帷幕,并同时在全球...
责任凝聚,微光筑梦。7月7日上午,《2022年河南省体育彩票社会责任报告》(以下简称《报告》)发布活动在...
近日,由中科院《互联网周刊》、中国社会科学院信息化研究中心、eNet研究院、德本咨询联合发布的《2023...
在数字经济时代,数字资产的价值持续被人们所认可和追捧,各个机构都在争先恐后地推出各自的产品。一时...
7月7日,顺丰同城发布公告称,预期2023年上半年将实现盈利,这意味着顺丰同城成为首个在即时物流领域实...
夏日炎炎,阳光如火炙烤大地,空气中的热浪扑面而来,出行烦恼也随之而来。空调制冷效果不尽如人意、内...
为积极响应国家碳达峰、碳中和号召,近年来,防城港移动不断探索新技术应用,利用科技创新践行节能减排...
7月6日至8日,2023世界人工智能大会(WAIC 2023)于上海举办。在大会中,腾讯多媒体实验室首次发布自研...
巴彦淖尔乌拉特前旗居民高波弘扬红色文化,需要我们牢记初心使命,继续发扬艰苦奋斗的文化精神;如今祖...
星巴克作为全球知名的咖啡连锁品牌,自1999年进军中国市场以来,一直在中国的咖啡市场中稳步发展。如今...
6月15日,重庆市住房和城乡建设委员会与巴南区住房和城乡建设委员代表团实地视察了由重庆昌睿乡墅科技有...
近期新出台的《无障碍环境建设法》再次将信息无障碍聚焦在时代的镁光灯下。面对日新月异的信息时代,如...
在闷热天气下,手心出汗,手机发烫等问题频繁影响玩家的游戏体验,让人苦恼。LEADJOY 暴风眼苹果手游手...
从在上海黄浦江畔高歌,到北京朝阳公园健步;自线上直播开麦,到线下与公众宣传科普近日,中美联泰...
6月7日,为推动长期发展战略,达成友好互信、合作共赢的局面,标普云联合契约锁在上海契约锁大厦举办了...
摘要:助品牌提升效率和效果7月6日,由胖鲸传媒、品牌拍档联合主办的探寻变量2023第四届首席数字官闭门...
俗话说,是药三分毒,它的意思就是说不管是什么样的药,七分治病还会留下三分毒素在人体内对人的健康产...