抱脸(huggingface)的使用姿势
摘要:本文介绍了Hugging Face平台的多种使用方式,包括Jupyter Lab环境搭建、FastAPI RESTful服务部署以及自定义Docker容器。作者通过实践展示了如何利用Hugging Face提供的2核16G免费资源进行开发测试,重点演示了Jupyter Notebook使用、API服务创建和WebSSH终端部署的方法。文章指出虽然该平台不适合高流量业务,但非常适合作为学习和测
抱脸(huggingface)的使用姿势
简介
抱脸huggingface.co,其实早知道他有一个很好的免费资源给到所有用户:2c16g
这个配置,也许扛不动太多的流量业务,但是足够部署各种学习和测试环境了。一直没动心思,只是因为他需要私网来访问。但是随着内存翻了几番,各家开始抠起来,就又想起来他了。
尝试几种姿势
hugging face space: https://huggingface.co/spaces
首先这里有这大量的别人公开的项目,可以多看看,知道这个space能做什么(部分是付费的)

jupyter lab
抱脸大数据,大模型,最先想到的事python,最友好的工具就是jupyter了,先试试他:
点击“new space” ,然后按照如下选择:

新建好会自动打开,登录后如下图:

- ipykernel 正常notebook ,如下:

- terminal 可以用来安装软件和包

另外需要注意,源码包映射的事/app, 而jupyterlba打开的数据目录是/data,如果想要保存ntebook,记得自己保存(下载或者挪入git)
restful api
作为一个苦逼程序员,任何时候很容易想到的,就是部署一个restful测试环境:
这个直接按照官方文档建了一个:https://huggingface.co/docs/hub/spaces-sdks-docker-first-demo
这是一个泗洪fastapi写的helloworld:
from fastapi import FastAPI
app = FastAPI()
@app.get("/")
def greet_json():
return {"Hello": "yiqiu!"}
dockerfile
FROM python:3.9
RUN useradd -m -u 1000 user
USER user
ENV PATH="/home/user/.local/bin:$PATH"
WORKDIR /app
COPY --chown=user ./requirements.txt requirements.txt
RUN pip install --no-cache-dir --upgrade -r requirements.txt
COPY --chown=user . /app
CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]
代码提交后,会自动启动:

注意,这是一个嵌入式的,想要直接当restful访问是不行,参考如下:
找到这个菜单:

打开的窗口:

这个就是独立地址,来试试:


这就是要的效果,可以用来当做后端测试了。
终极
提供的很多docker模板,就不一一测试了,来试试终极:blank
我的理解,就是可以自定义dockerfile,来试试!

新建完有了git地址,直接下载代码(就是个空的),新建一个dockerfile
FROM debian:trixie
RUN apt-get update && apt-get install -y \
curl \
wget \
&& rm -rf /var/lib/apt/lists/*
RUN curl -fsSL -o /usr/local/bin/ttyd https://github.com/tsl0922/ttyd/releases/download/1.7.7/ttyd.x86_64 && \
chmod +x /usr/local/bin/ttyd
ENTRYPOINT ["/usr/local/bin/ttyd","-p","7860","-W","/usr/bin/bash"]
就是一debian为基,装了个webssh,提交代码(push),然后系统会自动开始启动:
成了!!

装了几个软件,看看资源,一切正常,可惜,docker in docker 没有……

好了,现在可以发挥创造力了!!!!
小结
抱脸,还是值得找个私网来访问的,毕竟现在存储那么贵,各家都开始扣起来了,他的价值也慢慢体现……
微信公众号:
https://mp.weixin.qq.com/s/a_Y4yqk4ZO_UBcXiZPc-7Q
更多推荐
所有评论(0)