(转)[sklearn]sklearn警告:ConvergenceWarning: lbfgs failed to converge
转自:sklearn警告:ConvergenceWarning: lbfgs failed to converge (status=1):_音程的博客-CSDN博客问题这个警告是训练逻辑回归模型的时候出来的。model=LogisticRegression()train_model("logistic regression",model,trainxv,trainy,testxv,testy)结果
问题
这个警告是训练逻辑回归模型的时候出来的。
model=LogisticRegression()
train_model("logistic regression",model,trainxv,trainy,testxv,testy)
结果如下:
ConvergenceWarning: lbfgs failed to converge (status=1):
STOP: TOTAL NO. of ITERATIONS REACHED LIMIT.
解决
上面默认运行了:
LogisticRegression(... solver='lbfgs', max_iter=100 ...)
1.lbfgs问题
lbfgs stand for: “Limited-memory Broyden–Fletcher–Goldfarb–Shanno Algorithm”. It is one of the solvers’ algorithms provided by Scikit-Learn Library.
The term Limited-memory simply means it stores only a few vectors that represent the gradients approximation implicitly.
It has better convergence on relatively small datasets.
2.没有收敛问题
这是说训练模型的时候,参数的迭代次数达到了限制(默认max_iter=100),但是两次迭代参数变化还是比较大,仍然没有在一个很小的阈值以下,这就叫没有收敛。
不过,这只是一个警告(温馨提示)而已,我们要么选择 1.忽略,要么 2.增大最大迭代次数,要么 3.更换其他的模型或者那个参数solver,要么 4.将数据进行预处理,提取更有用的特征。
我们选择方案2,如下:
model=LogisticRegression(max_iter=1000)
train_model("logistic regression",model,trainxv,trainy,testxv,testy)
我们选择方案3,如下:
model=LogisticRegression(solver="sag")
train_model("logistic regression",model,trainxv,trainy,testxv,testy)
我们选择方案1,忽略一切警告,绝了。如下:
import warnings
warnings.filterwarnings("ignore")
model=LogisticRegression()
train_model("logistic regression",model,trainxv,trainy,testxv,testy)
更多推荐
所有评论(0)