如何在Spark ScalaJava应用中嵌入并执行Python脚本?
- 内容介绍
- 文章标签
- 相关推荐
本文共计1034个文字,预计阅读时间需要5分钟。
原文:本文将介绍如何在Spark scala程序中调用Python脚本,Spark java程序调用Python的过程大体相同:1.PythonRunner 对于运行在JVM上的程序(即Scala、Java程序),Spark 提供了PythonRunner 类。只需要调用即可。
改写后:本文将说明如何在Spark的Scala程序中嵌入Python脚本,Spark的Java程序调用Python的方法类似:首先,使用PythonRunner类来运行位于JVM上的程序(如Scala或Java程序)。Spark已提供该类,调用它即可。
本文将介绍如何在 Spark scala 程序中调用 Python 脚本,Spark java程序调用的过程也大体相同
1.PythonRunner
对于运行与 JVM 上的程序(即Scala、Java程序),Spark 提供了 PythonRunner 类。只需要调用PythonRunner 的main方法,就可以在Scala或Java程序中调用Python脚本。在实现上,PythonRunner 基于py4j ,通过构造GatewayServer实例让python程序通过本地网络socket来与JVM通信。
本文共计1034个文字,预计阅读时间需要5分钟。
原文:本文将介绍如何在Spark scala程序中调用Python脚本,Spark java程序调用Python的过程大体相同:1.PythonRunner 对于运行在JVM上的程序(即Scala、Java程序),Spark 提供了PythonRunner 类。只需要调用即可。
改写后:本文将说明如何在Spark的Scala程序中嵌入Python脚本,Spark的Java程序调用Python的方法类似:首先,使用PythonRunner类来运行位于JVM上的程序(如Scala或Java程序)。Spark已提供该类,调用它即可。
本文将介绍如何在 Spark scala 程序中调用 Python 脚本,Spark java程序调用的过程也大体相同
1.PythonRunner
对于运行与 JVM 上的程序(即Scala、Java程序),Spark 提供了 PythonRunner 类。只需要调用PythonRunner 的main方法,就可以在Scala或Java程序中调用Python脚本。在实现上,PythonRunner 基于py4j ,通过构造GatewayServer实例让python程序通过本地网络socket来与JVM通信。

