推荐系统-安装Python开发环境(二)

由于需要使用提供 HTTP 服务,所以先安装了 FLASK 框架(可选)

一、安装 Flask 框架(可选)

1. 虚拟环境
建议使用虚拟环境来管理开发和生产环境中的项目依赖关系。

[En]

It is recommended that virtual environments be used to manage project dependencies in both development and production environments.

为什么要使用虚拟环境?随着你的 Python 项目越来越多,你会发现不同的项目 会需要不同的版本的 Python 库。同一个 Python 库的不同版本可能不兼容。

虚拟环境可以为每一个项目安装独立的 Python 库,这样就可以隔离不同项目之 间的 Python 库,也可以隔离项目与操作系统之间的 Python 库。

Python 内置了用于创建虚拟环境的 venv 模块。

2. 创建一个虚拟环境安装 Flask
创建一个项目文件夹,然后创建一个虚拟环境。创建完成后项目文件夹中会有一个 venv 文件夹


$ mkdir recommend

$ cd recommend

$ python3 -m venv venv

$ pip3 install Flask

二、安装 SPARK

依赖 java1.8环境,若无则先安装

推荐系统-安装Python开发环境(二)
访问 Spark 官网下载 下载需要的版本

sudo mv spark-3.2.0-bin-hadoop3.2.tgz /usr/local
sudo tar -zvxf  spark-3.2.0-bin-hadoop3.2.tgz
sudo mv spark-3.2.0-bin-hadoop3.2 spark

sudo vim ~/.bash_profile

export SPARK_HOME=/usr/local/spark
export PATH=$PATH:$SPARK_HOME/bin

export PYSPARK_PYTHON=python3

export PYTHONPATH=$SPARK_HOME/python:$SPARK_HOME/python/lib/py4j-0.10.9.2-src.zip:$PYTHONPATH
export PATH=$SPARK_HOME/python:$PATH

source ~/.bash_profile

二、安装 pyspark


pip3 install pyspark

pip3 install numpy

三、启动 pyspark

pyspark

推荐系统-安装Python开发环境(二)

问题
在启动 pyspark 时发现 WARING: WARN NativeCodeLoader: Unable to load native-hadoop library for your platform.

Original: https://blog.csdn.net/haolinbird/article/details/121164100
Author: 满满和米兜
Title: 推荐系统-安装Python开发环境(二)



相关阅读

Title: Python之pip命令指定安装源和版本

背景

用pip安装依赖包时默认访问 https://pypi.Python.org/simple/。该路径经常出现不稳定以及访问速度非常慢的情况,国内厂商提供的一些pipy镜像可以加快下载速度,目前可用的有:

  • 清华:https://pypi.tuna.tsinghua.edu.cn/simple
  • 阿里云:http://mirrors.aliyun.com/pypi/simple/
  • 中国科技大学 https://pypi.mirrors.ustc.edu.cn/simple/
  • 华中理工大学:http://pypi.hustunique.com/
  • 山东理工大学:http://pypi.sdutlinux.org/
  • 豆瓣:http://pypi.douban.com/simple/
  • 搜狐镜像:http://mirrors.sohu.com/Python/
  • 百度镜像:https://mirror.baidu.com/pypi/simple

安装方式1–直接安装:

pip install package-name

安装方式2–下载whl文件后安装:

pip install package-name.whl

安装方式3–镜像源安装

pip install package-name -i mirror-path

指定镜像源安装–细节

[global]
index-url = https://pypi.tuna.tsinghua.edu.cn/simple

[install]
trusted-host=mirrors.aliyun.com

有两种方法可以使用我们自己指定的镜像源。

[En]

There are two ways to use our own designated mirror source.

方式1:每次手动输入指定

pip install -i http://pypi.douban.com/simple Flask  -- trusted-host pypi.douban.com
或者
pip install Flask -i http://pypi.douban.com/simple -- trusted-host pypi.douban.com

缺点:此方法在每次安装时手动指定

[En]

Cons: this method is manually specified at each installation

方式2:在当前用户目录下创建.pip文件夹。

Linux下,修改 ~/.pip/pip.conf (没有就创建一个文件夹及文件。文件夹要加”.”,表示是隐藏文件夹)

mkdir ~/.pip

然后在该目录下创建pip.conf文件填写

[global]
index-url = https://pypi.tuna.tsinghua.edu.cn/simple

[install]
trusted-host=mirrors.aliyun.com

上面配置是针对OSX/Linux系统,如果是Windows,那么创建%HOMEPATH%\pip\pip.ini文件来配置。

例如:C:\Users\fxl\pip\pip.ini

pip.ini配置的主要一些配置:

[global]
index-url = https://pypi.tuna.tsinghua.edu.cn/simple

[install]
trusted-host=mirrors.aliyun.com

新增:一般本地会有多个python版本,创建多个pip.ini文件(与自己的安装时pip命名对应)

推荐系统-安装Python开发环境(二)

清华镜像源使用帮助:

推荐系统-安装Python开发环境(二)

转自: Python之pip命令指定安装源和版本_慕城南风的博客-CSDN博客_pip 指定源

Original: https://blog.csdn.net/Strive_For_Future/article/details/126587870
Author: wzg2016
Title: Python之pip命令指定安装源和版本

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/304553/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

  • Python概述

    IDLE 交互式开发环境中,每次只能执行一条语句普通语句可以直接按键运行并立即输出结果选择结构、循环结构、哈桉树定义、类定义、with块等属于一条复合语句,需要按两次键才能执行 在…

    Python 2023年1月23日
    028
  • python的数据清理_Python数据清理,清洗

    一.数据清洗与准备 1.缺失值 NaN(np.nan): 对数值型数据,浮点值NaN(not a number) NA(not available) None 均为缺失值,通过da…

    Python 2022年12月30日
    036
  • Linux安装Anaconda及简单操作

    1、进入anaconda 官网 ,见到下图,点击红框。 见到下图,鼠标放置红框位置,右键复制下载链接。 2、打开ubuntu终端,建立下载所用文件夹,输入以下内容 wget htt…

    Python 2022年12月23日
    047
  • Python数据结构与算法(2.1)——线性表的基本概念

    Python数据结构与算法(2.1)——线性表的基本概念 * – 0. 学习目标 – 1. 线性表的定义 – 2. 线性表的操作 –…

    Python 2022年8月31日
    0137
  • 【C结构体】初识结构体

    ⭐博客主页:️CS semi主页 ⭐欢迎关注:点赞收藏+留言 ⭐系列专栏:C语言初阶 ⭐代码仓库:C Advanced 家人们更新不易,你们的点赞和关注对我而言十分重要,友友们麻烦…

    Python 2023年2月2日
    021
  • 常用Java接单平台一览

    不少主攻Java的程序员兄弟除了工作,还会在空闲时间选择接单来增加自己的收入;对于那些生活在二三线的程序员兄弟们,通过接单,来获得与一线城市对等的收入。具体该怎么做,且听我娓娓道来…

    Python 2023年1月20日
    044
  • 使用Python分析网易云歌曲评论信息,通过可视化处理我发现了这些有趣的规律

    前言 前几天有个学生娃子找我帮忙做点可视化的作业,作业内容包括采集网易云音乐热评评论内容,数据量1W作业足够,然后就是做点数据分析相关的工作即可。这份大作业里边有网络爬虫,有数据分…

    Python 2023年1月9日
    035
  • Python组合数据类型——映射类型:字典

    🤵‍♂️ 个人主页: @Flyme awei 个主页👨‍💻 作者简介: Python领域新星创作者。📒 系列专栏:《在线编程-Python篇》🌐 推荐一款 找…

    2022年8月20日
    0191
  • 机器学习–K均值聚类

    机器学习–聚类 一、无监督学习 二、KMeans聚类 * 2.1 概览 2.2 理论介绍 – 2.2.1 模型 2.2.2 策略 2.2.3 算法 2.3 …

    Python 2023年1月11日
    025
  • python数据分析day5

    目录 1.字符串离散化的案例 2.数据合并 3.数据分组聚合 4.索引和复合索引 1.字符串离散化的案例 以统计电影分类为例,我们可以构造一个全零的数组,列名是分类。如果某条数据有…

    Python 2023年1月9日
    030
  • PyCharm安装教程(简单又实用)

    一、简介 PyCharm是一款Python IDE,其带有一整套可以帮助用户在使用Python语言开发时提高其效率的工具,比如, 调试、语法高亮、Project管理、代码跳转、智能…

    2022年8月24日
    0177
  • def序列化器—视图&序列化&反序列化

    0.介绍 a. 本文介绍了常用的,视图&反序列化&序列化,中使用的方法。 b. 序列化器他有两个作用:序列化、校验。 c. 序列化、校验,可以走一个序列化器,也可以…

    Python 2022年12月27日
    054
  • 《我用Python写网站05》文章编辑

    上一篇:《我用Python写网站04》用户登录、注册 本系列所有代码均可在Gitee仓库对应分支找到欢迎来我的论坛讨论 Python搭建博客网站的问题和经验。www.ahoh.cl…

    Python 2023年1月5日
    053
  • Python入门到放弃(一)

    介绍python和库文件管理 python是解释型语言Python的特点:简单、易学、速度快、免费开源、高层语言、可移植性、解释性、面向对象(也支持面向过程)、可扩展性、可嵌入性、…

    2022年8月20日
    0151
  • 【Python基础】Python 实现 时间的格式化输出(例如: Oct 24, 2019 1:26:45 PM)

    想实现如下格式的,对取得的时间值的输出: Oct 24, 2019 1:26:45 PM 程序如下: 测试结果如下: Original: https://www.cnblogs.c…

    Python 2022年8月12日
    0166
  • Python中的切片(详细篇)学起来喔

    Python中的切片知识. 在Python中, 切片(slice)是对序列型对象(如list, string, tuple)的一种高级索引方法。 普通索引只取出序列中 一个下标 对…

    2022年8月19日
    0251
亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载