尝试为我的模型找到最佳多项式回归度时出现错误

Question

from sqlalchemy import create_engine

import os

import pandas as pd

snowflake_username = os.environ['SNOWFLAKE_USERNAME']

snowflake_password = os.environ['SNOWFLAKE_PASSWORD']

snowflake_account = os.environ['SNOWFLAKE_ACCOUNT']

snowflake_warehouse = os.environ['SNOWFLAKE_WAREHOUSE']

snowflake_database = 'test_db'

snowflake_schema = 'public'

if __name__ == '__main__':

    engine = create_engine(

        'snowflake://{user}:{password}@{account}/{db}/{schema}?warehouse={warehouse}'.format(

            user=snowflake_username,

            password=snowflake_password,

            account=snowflake_account,

            db=snowflake_database,

            schema=snowflake_schema,

            warehouse=snowflake_warehouse,

        )

    )

    df = pd.DataFrame([('Mark', 10), ('Luke', 20)], columns=['name', 'balance'])

    df.to_sql('TEST_TABLE', con=engine, schema='public', index=False, if_exists='append')

每次我运行上面的脚本时，马可福音和路加福音的记录都会附加到我的test_db.public.test_table表中。

Answer 1

如果你的 x 是一维列向量，np.polyfit()并且np.polyval()将完成工作。np.polyfit(x,y,order,full=True)返回残差（我相信是残差平方和）供您检查最佳顺序。您不需要第二次回归拟合来获得残差。注意，您选择最小残差的逻辑在工程师方面是可行的，但在数学上并不合理。这是因为误差平方和 (SSE) 始终会随着回归量数量的增加而减小，因此您始终会从最大多项式阶次获得结果。您必须尝试使用带有惩罚的公式，以便在选择模型时添加更多项（例如AIC或BIC标准）。然而，这部分完全由研究者自由选择，当然超出了问题本身的范围。import numpy as npimport matplotlib.pyplot as plt# get your x and y as np arrayx = np.random.uniform(-1,1, 100)y = x - x**2 + x**3 - x**4 + np.random.normal(0, 0.1, 100)def poly_fit(n):  ls_res=[]  ls_coeff = []  for i in range(2, n):    coeff, res, _, _, _ = np.polyfit(x, y, i, full=True)    ls_res.append(res)    ls_coeff.append(coeff)  # argmin should be taken from a penalized loss function  # add it here  return ls_coeff[np.argmin(ls_res)]plt.scatter(x, y, color='red')coeff = poly_fit(6)plt.plot(np.sort(x), np.polyval(coeff, np.sort(x)), color='blue')plt.title('Polynomial Regression results')plt.xlabel('Position/level')plt.ylabel('Salary')plt.show()