sofiapavone/job-market-data-analysis-python

GitHub: sofiapavone/job-market-data-analysis-python

一个基于 Python 的招聘市场数据分析项目,通过对三万条以上招聘信息进行清洗、特征工程和探索性分析,输出热门岗位、薪资分布与招聘趋势等商业洞察。

Stars: 0 | Forks: 0

# 招聘职位分析 ## 概述 本项目分析了一个包含超过 30,000 条招聘信息的数据集,旨在识别招聘趋势、薪资分布以及最热门的技术岗位。该分析包括使用 Python 进行数据清洗、特征工程、探索性数据分析 (EDA) 以及商业洞察。 ## 技术栈 * Python * Pandas * NumPy * Matplotlib * Seaborn * Jupyter Notebook * Parquet # 项目结构 ### 01_DatasetExploration_Cleaning.ipynb 第一个 notebook 侧重于数据探索、验证和清洗。 执行了以下任务: * 探索了数据集结构,包括行、列和数据类型。 * 分析了所有特征中的缺失值。 * 将 **Job Posting Date** 转换为适当的 `datetime` 数据类型。 * 验证了 **Pay Rate** 列并标准化了其值(例如 `hr` → `Hourly`)。 * 验证了最早和最晚的发布日期。 * 使用 `str.strip()` 去除了所有文本列的首尾空格。 * 将 **Job Position Type** 重命名为 **Contract Type**。 * 将 **Job Location** 拆分为三个新特征: * Location * State * Country * 验证了 **Min Pay** 和 **Max Pay** 的值。 * 基于平均薪资创建了 **Avg Pay** 特征。 * 将清洗后的数据集导出为 **Parquet** 格式,以提升性能和存储效率。 ### 02_BusinessAnalysis.ipynb 第二个 notebook 侧重于商业分析和可视化。 执行了以下分析: * 识别了需求最大的职位名称。 * 创建了 Year、Month 和 Year-Month 维度,用于时间序列分析。 * 分析了随时间变化的招聘趋势。 * 按资深级别比较了招聘职位。 * 使用箱线图分析了薪资分布。 * 使用四分位距 (IQR) 方法检测了薪资异常值。 * 按资深级别识别了薪资最高的职位。 * 比较了不同年份间最热门的职位。 # 关键洞察 ## 最热门的职位 发布频率最高的五个职位是: | 排名 | 职位名称 | 招聘信息数量 | | ---- | ----------------- | -----------: | | 1 | Software Engineer | 8,112 | | 2 | Data Engineer | 3,462 | | 3 | Business Analyst | 2,009 | | 4 | Data Scientist | 1,999 | | 5 | Developer | 1,502 | Software Engineer 在整个数据集中始终是需求最大的职位。 ## 招聘趋势 在分析期内,招聘活动稳步增加。 招聘信息数量最多的情况出现在: * **2020年:** 6,305 条信息 * **2021年:** 8,174 条信息 ## 资深级别分布 大多数发布的职位空缺都面向有经验的专业人士。 招聘信息最集中的级别属于: 1. Mid-Senior level 2. Associate 3. Entry level ## 薪资分析 Director 职位呈现出最高的薪资范围。 使用 IQR 方法,识别出了每个资深级别内的薪资异常值。 分析显示,以下职位的薪资异常高: * Machine Learning Engineer * Software Engineer * Data Engineer * Data Scientist * Product Manager * Developer * Compensation Analyst 这些薪资由包括 Insight Global、Oxygen、Belcan、Harnham、Storm2、CareerWellness 等在内的公司提供。 ## 薪资最高的职位 Machine Learning Engineer 在多个资深级别中都是薪资最高的职位。 按资深级别划分的薪资最高职位: | 职位级别 | 职位名称 | | ---------------- | ------------------------- | | Internship | Data Scientist | | Entry level | Machine Learning Engineer | | Associate | Product Manager | | Mid-Senior level | Machine Learning Engineer | | Director | Machine Learning Engineer | | Executive | Data Scientist | ## 按年份划分的招聘需求 Software Engineer 每年都是需求最大的职位,其次是 Data Engineer,这显示出对软件开发和数据工程专业人士的持续需求。
标签:NoSQL, Python, 代码示例, 招聘趋势分析, 探索性数据分析, 数据分析, 数据清洗, 无后门, 逆向工具