ipynb：kaggle 跑 gemma4:31b (q4)

问题描述：

image1804×698 557 KB

ollama-gemma4-31b.ipynb.txt (14.9 KB)

kaggle跑gemma4:31b (q4)，出字好像还挺快的

用法：下载文件，去掉.txt后缀，上传到kaggle，选定 T4，Add-ons/Secrets 设好 NGROK_AUTHTOKEN （https://dashboard.ngrok.com/get-started/your-authtoken）

交互一路点击到最后或Run all（闲置一阵会自动下线）或Save and Commit（可跑10小时）

kaggle原则上禁止用thread或subprocess跑background job，脚本里的ngrok隧道用的是get_ipython().system_raw，不清楚是不是被禁止。请自行衡量风险。

ipynb笔记本也可以在colab里设好Secrets NGROK_AUTHTOKEN（不过单T4拖不动`gemma4:31b`）或modal里设好环境变量NGROK_AUTHTOKEN

隧道自然也可以用cloudflare或其他内网穿透程序或自己折腾ssh反向隧道转发。

体验10小时（4月11号4:30点下线）https://newapi.applane.qzz.io/v1 sk-h6xlUUmlv0rkxdGaj0Igykzp8GDw41BVvpdsdthRmH27dy17 gemma4:31b

例如

curl --max-time 130 -sS -XPOST "https://newapi.applane.qzz.io/v1/chat/completions" --header "Content-Type: application/json" --header "Authorization: Bearer sk-h6xlUUmlv0rkxdGaj0Igykzp8GDw41BVvpdsdthRmH27dy17" --data "{\"model\": \"gemma4:31b\", \"messages\": [{\"role\": \"user\", \"content\": \"Say this is abc\"}]}"

image1803×167 129 KB

网友解答：

---

--【壹】--：

image1804×698 557 KB

ollama-gemma4-31b.ipynb.txt (14.9 KB)

kaggle跑gemma4:31b (q4)，出字好像还挺快的

用法：下载文件，去掉.txt后缀，上传到kaggle，选定 T4，Add-ons/Secrets 设好 NGROK_AUTHTOKEN （https://dashboard.ngrok.com/get-started/your-authtoken）

交互一路点击到最后或Run all（闲置一阵会自动下线）或Save and Commit（可跑10小时）

kaggle原则上禁止用thread或subprocess跑background job，脚本里的ngrok隧道用的是get_ipython().system_raw，不清楚是不是被禁止。请自行衡量风险。

ipynb笔记本也可以在colab里设好Secrets NGROK_AUTHTOKEN（不过单T4拖不动`gemma4:31b`）或modal里设好环境变量NGROK_AUTHTOKEN

隧道自然也可以用cloudflare或其他内网穿透程序或自己折腾ssh反向隧道转发。

体验10小时（4月11号4:30点下线）https://newapi.applane.qzz.io/v1 sk-h6xlUUmlv0rkxdGaj0Igykzp8GDw41BVvpdsdthRmH27dy17 gemma4:31b

例如

curl --max-time 130 -sS -XPOST "https://newapi.applane.qzz.io/v1/chat/completions" --header "Content-Type: application/json" --header "Authorization: Bearer sk-h6xlUUmlv0rkxdGaj0Igykzp8GDw41BVvpdsdthRmH27dy17" --data "{\"model\": \"gemma4:31b\", \"messages\": [{\"role\": \"user\", \"content\": \"Say this is abc\"}]}"

image1803×167 129 KB