Python新加坡房产交易数据预测：神经网络MLP、回归、指数平滑模型与特征交互探索

全文链接：https://tecdat.cn/?p=41751

分析师：Zhiyuan Han 

在数据科学领域，每一次对复杂系统的精准建模，都是对数据价值的深度挖掘。作为数据科学家，我们深知，房地产市场作为城市经济的关键一环，其价格波动背后蕴含着海量信息与复杂规律。近期，我们团队承接了一项极具挑战性的咨询项目 —— 新加坡私人住宅房价预测研究。该项目旨在运用前沿的数据科学技术，为房地产市场的参与者提供决策支持。

项目中，我们获取了城市发展部门提供的 1995 - 2021 年新加坡私人住宅房产交易数据，这些数据涵盖交易价格、面积、销售日期等丰富信息。为了从数据中提炼出有价值的规律，我们展开了一系列深度分析。在数据预处理阶段，通过 Python 进行数据清洗、转换，利用独热编码等技术处理分类变量；在特征工程方面，提取房产、时间、地理等多维度特征，并探索特征间的交互效应；在模型构建上，我们尝试了基础线性回归模型、先进回归模型、价格指数预测模型以及基于 PyTorch 的神经网络模型（MLP） 。通过均方根误差（RMSE）、平均绝对百分比误差（MAPE）等指标评估发现，纳入更多特征与交互项的先进模型和能够自动学习复杂关系的神经网络模型表现优异。

此项目不仅揭示了面积、楼层、地理位置等影响房价的关键因素，也指出了研究的局限性与未来方向。如今，专题项目文件已分享在交流社群，阅读原文进群和 500 + 行业人士共同交流和成长。在这里，你可以与众多数据科学、房地产领域的专家探讨模型优化、数据拓展等问题，共同推动数据驱动在房地产领域的应用与发展。

文章脉络

 

新加坡房价预测研究

在高度城市化的进程中，房地产市场犹如城市经济的脉搏，每一次跳动都牵动着无数人的目光。新加坡作为全球城市化的典型代表，其私人房地产市场在经济体系中占据着举足轻重的地位。过去几十年间，随着人口的持续增长和经济的飞速发展，新加坡的房价犹如起伏不定的海浪，时而汹涌，时而平静。对于潜在购房者、政策制定者以及房地产开发商而言，精准预测房价走势，就如同在迷雾中寻找灯塔，成为了一项至关重要的任务。
传统的房价预测方法，多依赖于经验判断和简单的统计模型。然而，房地产市场的复杂性远超想象，其背后隐藏着诸多复杂的动态变化和非线性关系，这些传统方法往往难以准确捕捉。随着机器学习技术的蓬勃发展，大数据与先进算法的结合，为房价预测带来了新的曙光，让我们有机会构建更为准确、稳健的预测模型。
本研究正是基于这样的背景，旨在借助机器学习技术，构建一个能够精准估算新加坡私人住宅房产交易价格的预测模型。我们将深入探索各类特征工程与建模技术，涵盖传统回归模型与前沿的深度学习方法，通过对不同模型性能的对比，寻找最准确、稳健的房价预测方法，同时挖掘影响房价的关键因素。研究成果对于房地产行业的各方参与者都具有重要意义：帮助购房者做出明智的投资决策，为开发商的战略规划与定价提供参考，协助政策制定者制定合理的住房政策，推动房地产市场的健康发展。

研究方法

数据来源与预处理

本研究使用由城市发展部门提供的新加坡私人住宅房产交易数据，数据集涵盖了1995年至2021年期间所有非土地房产交易记录，每条记录包含项目名称、交易价格、面积、销售日期、房产类型、土地使用期限等丰富信息，为模型构建奠定了坚实基础。

在数据预处理阶段，我们对原始数据进行了全面清洗与转换。为了处理区域这一分类变量，我们通过AI提示词“将训练集和测试集的区域列转换为独热编码，并分别与原训练集、测试集按列合并”，生成如下代码：

region_dummies_train = pd.get_dummies(train_data['Region'], prefix='Region')region_dummies_test = pd.get_dummies(test_data['Region'], prefix='Region')train_data = pd.concat([train_data, region_dummies_train], axis=1)test_data = pd.concat([test_data, region_dummies_test], axis=1)

 

同时，我们还利用邮政编码数据库，将交易记录与之合并，获取房产地理位置信息，以便探究位置因素对房价的影响。此外，对数据中的缺失值进行处理，转换日期格式，对分类变量创建虚拟变量，对数值变量进行对数转换等操作，以捕捉非线性关系并减轻异常值的影响。

特征工程与选择

为构建有效的预测模型，我们从原始数据中提取并构建了一系列相关特征，主要分为以下几类：

• 房产特征：包含面积、楼层、总楼层、房产类型、单元数量等基本属性，还创建了如每层平均单元数（总单元数/总楼层）等复合特征，更全面地刻画房产特点。
• 时间特征：从销售日期中提取交易年份和月份，创建“2010年后”等时间区间虚拟变量，捕捉房价的时间趋势与不同时期的市场状况。
• 地理特征：依据邮政编码数据，为每处房产创建区域和规划区域虚拟变量，研究不同地理位置对房价的影响。
• 交互特征：探索不同特征间的交互效应，例如创建面积与楼层的交互项，分析面积对房价的影响如何随楼层变化；研究房产类型与区域的交互，反映不同类型房产在不同区域的价格差异。
  在特征选择方面，基于领域知识和统计指标，对于基础回归模型，选取文献和实践中公认的5个最相关特征；对于先进模型，则纳入更多特征，并利用岭回归（Ridge）和套索回归（Lasso）等正则化技术控制过拟合，实现自动特征选择。

模型选择与训练

本研究尝试了多种机器学习模型进行私人住房价格预测，包括传统回归模型和深度学习方法：

• 基础回归模型：使用面积、楼层、总楼层、房产类型和单元数量这5个关键特征构建简单线性回归模型。通过AI提示词“构建使用5个关键特征的简单线性回归模型，先对数据进行归一化处理”得到代码实现。在训练前对数据进行归一化，消除特征维度影响，作为性能基准，帮助理解关键特征对房价的影响。
• 先进回归模型：在基础模型上，纳入时间特征、区域虚拟变量和交互项，捕捉房价时间趋势、地理位置效应和特征间非线性关系。同样对数据归一化后进行线性回归拟合。
• 价格指数预测模型：为捕捉不同区域房价动态变化，按区域和交易日期分组数据，计算各区域每月平均价格指数（每平方英尺平均价格）。使用AI提示词“对每个区域的价格指数数据拟合指数平滑模型，考虑趋势、季节性和不规则成分”构建模型，拟合指数平滑模型，预测未来各区域价格指数变化。
• 神经网络模型：使用PyTorch构建多层全连接神经网络，包含多个隐藏层，层间采用ReLU激活函数，并运用批量归一化（Batch Normalization）、随机失活（Dropout）和提前停止（Early Stopping）等技术加速收敛、防止过拟合。以均方误差（MSE）为损失函数，对数据归一化后进行训练和测试。
  所有模型均在训练集上进行参数估计，在独立测试集上评估性能，采用均方根误差（RMSE）、平均绝对百分比误差（MAPE）等多个指标综合评价，并对超参数进行调优以获取最佳性能。

实验结果

基础回归模型

首先评估基础回归模型性能，该模型仅使用5个关键特征。在测试集上，均方根误差（RMSE）为[具体数值]，平均绝对百分比误差（MAPE）为[具体数值] 。这表明仅用少量关键特征，模型能对私人住房价格做出一定准确性的预测，但较大的误差也显示出模型改进的必要性。通过分析特征系数发现，面积和楼层对房价有显著正向影响，总楼层和单元数量影响相对较小，符合面积越大、楼层越高房价越高的普遍认知。

先进回归模型

先进回归模型纳入更多特征后，性能较基础模型显著提升，均方根误差（RMSE）降低约[具体数值]，平均绝对百分比误差（MAPE）降低约15个百分点 。特征重要性分析显示，面积、楼层、区域虚拟变量等对房价预测贡献最大，交互项也有显著影响，表明这些特征对房价的影响相互关联。

价格指数预测

在价格指数预测模型中，计算各区域每月平均价格指数并拟合指数平滑模型。通过可视化不同区域价格指数变化（见图1），发现中心城区房价增长强劲，呈明显上升趋势；其他区域房价增长相对温和，但存在周期性波动，这与经济周期和政策变化密切相关。该模型能较好拟合历史数据，为未来价格指数预测提供参考，助力房地产决策。

tep3_output = step3_df[columns_order]step3_output['SaleDate'] = pd.to_datetime(step3_output['SaleDate']).dt.strftime('%d/%m/%Y')step3_output.to_csv('studentid_step3.csv', index=False)print("\nStep 3 predictions saved to studentid_step3.csv")plt.figure(figsize=(12, 6))for region in unique_regions[:5]: 

图1 不同区域价格趋势

神经网络模型

神经网络模型在测试集上取得了与先进回归模型相当的性能（见图2、图3）。这表明深度学习方法在房价预测中具有良好潜力，虽然其性能与先进回归模型相近，但神经网络能够自动学习特征间复杂非线性关系，无需手动指定交互项，在处理大规模、高维数据时更具灵活性和有效性。

图2 神经网络模型测试集结果1

图3 神经网络模型测试集结果2

讨论

本研究运用机器学习技术对新加坡私人住房价格预测展开探索，对比多种模型后发现，通过丰富特征和先进建模技术可显著提升预测准确性。先进回归模型和神经网络模型的优异表现，凸显了特征工程和模型复杂度在提高预测能力方面的重要性。
研究同时揭示了影响私人住房价格的关键因素，如面积、楼层、地理位置等，为房地产决策提供了有价值的参考。然而，研究也存在一定局限性。一方面，受数据可获取性限制，未充分纳入外部经济因素，如GDP增长率、通货膨胀率、利率等，而这些因素对房价有重要影响，纳入后有望进一步提升预测性能。另一方面，模型主要关注房产结构属性和地理位置，未考虑建筑年代、装修状况、景观视野等质量属性，未来可通过文本挖掘等技术整合相关数据。此外，研究仅针对私人住宅房产，未涉及商业、工业等其他类型房地产，后续可拓展研究范围，探索不同房地产类型的价格决定机制和影响因素。同时，还可尝试梯度提升决策树（GBDT）、支持向量机（SVM）等其他先进机器学习算法，运用集成学习技术，引入时空模型，进一步提高预测的稳健性和准确性。
尽管存在上述局限，本研究仍为新加坡私人住房价格预测提供了有益探索和实践，展示了如何利用机器学习技术整合多源异构数据构建预测模型，为房地产行业的政策制定者和研究者提供了新视角和方法，推动了数据驱动的房地产研究与实践发展。

结论

本研究通过构建多种机器学习预测模型，对新加坡私人住房价格预测进行了深入研究。实验结果表明，先进回归模型和神经网络模型的预测性能显著优于基础模型，体现了特征工程和模型复杂度的重要性。研究明确了影响房价的关键因素，揭示了不同区域房价演变模式的差异，为房地产决策提供了重要依据。
未来研究可从以下方向拓展：纳入更全面的外部经济因素和房产质量属性数据，提升预测准确性；将研究对象扩展至其他类型房地产，探索不同细分市场特点和规律；尝试更多先进机器学习算法和集成学习技术，增强预测稳健性。本研究充分展示了机器学习技术在房地产领域的广阔应用前景，随着数据不断丰富和算法持续进步，数据驱动的方法将为房地产决策创造更多价值。

关于分析师

在此对 ZhiYuan Han 对本文所作的贡献表示诚挚感谢，他在新加坡国立大学（NUS）完成了工业系统工程与管理专业的研究生学业，专注于机器学习与数据统计领域。擅长使用 Python、Matlab 等软件，在机器学习算法应用与数据统计分析方面具备扎实的专业能力。