ipynb:kaggle 跑 gemma4:31b (q4)
- 内容介绍
- 文章标签
- 相关推荐
image1804×698 557 KB
ollama-gemma4-31b.ipynb.txt (14.9 KB)
kaggle跑gemma4:31b (q4),出字好像还挺快的
用法:下载文件,去掉.txt后缀,上传到kaggle,选定 T4,Add-ons/Secrets 设好 NGROK_AUTHTOKEN (https://dashboard.ngrok.com/get-started/your-authtoken)
交互一路点击到最后或Run all(闲置一阵会自动下线)或Save and Commit(可跑10小时)
kaggle原则上禁止用thread或subprocess跑background job,脚本里的ngrok隧道用的是get_ipython().system_raw,不清楚是不是被禁止。请自行衡量风险。
ipynb笔记本也可以在colab里设好Secrets NGROK_AUTHTOKEN(不过单T4拖不动`gemma4:31b`)或modal里设好环境变量NGROK_AUTHTOKEN
隧道自然也可以用cloudflare或其他内网穿透程序或自己折腾ssh反向隧道转发。
image1804×698 557 KB
ollama-gemma4-31b.ipynb.txt (14.9 KB)
kaggle跑gemma4:31b (q4),出字好像还挺快的
用法:下载文件,去掉.txt后缀,上传到kaggle,选定 T4,Add-ons/Secrets 设好 NGROK_AUTHTOKEN (https://dashboard.ngrok.com/get-started/your-authtoken)
交互一路点击到最后或Run all(闲置一阵会自动下线)或Save and Commit(可跑10小时)
kaggle原则上禁止用thread或subprocess跑background job,脚本里的ngrok隧道用的是get_ipython().system_raw,不清楚是不是被禁止。请自行衡量风险。
ipynb笔记本也可以在colab里设好Secrets NGROK_AUTHTOKEN(不过单T4拖不动`gemma4:31b`)或modal里设好环境变量NGROK_AUTHTOKEN
隧道自然也可以用cloudflare或其他内网穿透程序或自己折腾ssh反向隧道转发。

