KernelRestarter：在 jupyter 中重启失败，内核死了

Question

[I 10:43:53.627 NotebookApp] 启动notebooks 在本地路径: /opt/soft/recommender/jupyter

[I 10:43:53.627 NotebookApp] 本程序运行在: http://10.48.204.120:8888/

[I 10:43:53.627 NotebookApp] 使用control-c停止此服务器并关闭所有内核(两次跳过确认).

[W 10:43:53.628 NotebookApp] 没有找到web浏览器: could not locate runnable browser.

[I 10:44:11.697 NotebookApp] Kernel started: 7ea0717b-b85b-44b1-bd10-7a2079b24d94

[I 10:44:11.708 NotebookApp] 302 GET /notebooks/doc/source/images/als-diagram.png (10.252.183.252) 6.63ms

[I 10:44:14.691 NotebookApp] KernelRestarter: restarting kernel (1/5), new random ports

[I 10:44:17.719 NotebookApp] KernelRestarter: restarting kernel (2/5), new random ports

[I 10:44:20.746 NotebookApp] KernelRestarter: restarting kernel (3/5), new random ports

[I 10:44:23.774 NotebookApp] KernelRestarter: restarting kernel (4/5), new random ports

[W 10:44:26.800 NotebookApp] KernelRestarter: restart failed

[W 10:44:26.801 NotebookApp] Kernel 7ea0717b-b85b-44b1-bd10-7a2079b24d94 died, removing from map.

[W 10:45:11.836 NotebookApp] Timeout waiting for kernel_info reply from 7ea0717b-b85b-44b1-bd10-7a2079b24d94

[E 10:45:11.839 NotebookApp] Error opening stream: HTTP 404: Not Found (Kernel does not exist: 7ea0717b-b85b-44b1-bd10-7a2079b24d94)

[I 10:46:11.948 NotebookApp] Saving file at /notebooks/elasticsearch-spark-recommender.ipynb

我正在尝试通过 pyspark 启动 jupyter notebook，使用命令：

PYSPARK_DRIVER_PYTHON="jupyter" PYSPARK_DRIVER_PYTHON_OPTS="notebook"

../spark-2.2.0-bin-hadoop2.7/bin/pyspark --driver-memory 4g --driver-class-path /opt/soft/recommender/spark/elasticsearch-hadoop-5.3.0/dist/elasticsearch-spark-20_2.11-5.3.0.jar

我可以通过远程浏览器打开jupyter，但是由于内核重启失败，我无法通过jupyter运行python演示。

python 版本是 3.5.0。Jupyter 和 ipykernel 都是最新的。prompt-toolkit版本是 1.0.15。

如果我将prompt-toolkit版本更新到 2.0.4，那么启动 pyspark 会抛出很多错误消息。

我该如何解决？

Answer 1

我已将其更新为：pip install --upgrade prompt-toolkit==2.0.4 （旧的是1.0.15）pip install --upgrade ipython==7.0.1 （旧的是6.5.0）pip install --upgrade jupyter-console==6.0.0 （旧的是5.2.0）但是，上述问题并没有解决，上述信息保持不变。

Answer 2

我已经用其他方式修复了它：重新安装 python ，重新安装 pip 和其他模块，例如 jupyter 、tmdbsimple 、elasticsearch 等。但是这个错误我估计是内存不足，因为当我加载大量数据分析时，会再次出现这个异常信息，我也在尝试分别部署es和spark，寻找其他解决方案