我刚刚将熊猫从 0.11 升级到 0.13.0rc1。现在,该应用程序会弹出许多新警告。其中之一是这样的:
E:\FinReporter\FM_EXT.py:449: SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_index,col_indexer] = value instead
quote_df['TVol'] = quote_df['TVol']/TVOL_SCALE
我想知道这到底是什么意思?我需要改变一些东西吗?
如果我坚持使用quote_df['TVol'] = quote_df['TVol']/TVOL_SCALE
应该如何暂停警告?
def _decode_stock_quote(list_of_150_stk_str):
"""decode the webpage and return dataframe"""
from cStringIO import StringIO
str_of_all = "".join(list_of_150_stk_str)
quote_df = pd.read_csv(StringIO(str_of_all), sep=',', names=list('ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefg')) #dtype={'A': object, 'B': object, 'C': np.float64}
quote_df.rename(columns={'A':'STK', 'B':'TOpen', 'C':'TPCLOSE', 'D':'TPrice', 'E':'THigh', 'F':'TLow', 'I':'TVol', 'J':'TAmt', 'e':'TDate', 'f':'TTime'}, inplace=True)
quote_df = quote_df.ix[:,[0,3,2,1,4,5,8,9,30,31]]
quote_df['TClose'] = quote_df['TPrice']
quote_df['RT'] = 100 * (quote_df['TPrice']/quote_df['TPCLOSE'] - 1)
quote_df['TVol'] = quote_df['TVol']/TVOL_SCALE
quote_df['TAmt'] = quote_df['TAmt']/TAMT_SCALE
quote_df['STK_ID'] = quote_df['STK'].str.slice(13,19)
quote_df['STK_Name'] = quote_df['STK'].str.slice(21,30)#.decode('gb2312')
quote_df['TDate'] = quote_df.TDate.map(lambda x: x[0:4]+x[5:7]+x[8:10])
return quote_df
E:\FinReporter\FM_EXT.py:449: SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_index,col_indexer] = value instead
quote_df['TVol'] = quote_df['TVol']/TVOL_SCALE
E:\FinReporter\FM_EXT.py:450: SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_index,col_indexer] = value instead
quote_df['TAmt'] = quote_df['TAmt']/TAMT_SCALE
E:\FinReporter\FM_EXT.py:453: SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_index,col_indexer] = value instead
quote_df['TDate'] = quote_df.TDate.map(lambda x: x[0:4]+x[5:7]+x[8:10])
SettingWithCopyWarning
是标记可能引起混淆的 “链接” 分配,例如以下内容,这种分配并不总是按预期工作,特别是当第一个选择返回一个copy 时。 [有关背景讨论,请参见GH5390和GH5597。]
df[df['A'] > 2]['B'] = new_val # new_val not set in df
该警告提出了如下重写建议:
df.loc[df['A'] > 2, 'B'] = new_val
但是,这不适合您的用法,等效于:
df = df[df['A'] > 2]
df['B'] = new_val
显然,您不关心将其写回到原始帧的写操作(因为您正在覆盖对它的引用),但是不幸的是,这种模式无法与第一个链式分配示例区分开。因此,(误报)警告。如果您想进一步阅读,可能会在建立索引的文档中解决误报的可能性。您可以通过以下分配安全地禁用此新警告。
import pandas as pd
pd.options.mode.chained_assignment = None # default='warn'
如何处理 Pandas 中的
SettingWithCopyWarning
这篇文章是为那些谁,
设置
np.random.seed(0)
df = pd.DataFrame(np.random.choice(10, (3, 5)), columns=list('ABCDE'))
df
A B C D E
0 5 0 3 3 7
1 9 3 5 2 4
2 7 6 8 8 1
SettingWithCopyWarning
?要知道如何处理此警告,重要的是要理解它的含义以及为什么首先提出它。
过滤 DataFrame 时,可以对帧进行切片 / 索引以返回view或copy ,具体取决于内部布局和各种实现细节。顾名思义,“视图” 是原始数据的视图,因此修改视图可能会修改原始对象。另一方面,“副本” 是原始数据的复制,修改副本不会影响原始数据。
如其他答案所述SettingWithCopyWarning
以标记 “链式分配” 操作。在上面的设置中考虑df
假设您要选择 “B” 列中的所有值,其中 “A” 列中的值 > 5。Pandas 允许您以不同的方式执行此操作,其中某些方法比其他方法更正确。例如,
df[df.A > 5]['B']
1 3
2 6
Name: B, dtype: int64
和,
df.loc[df.A > 5, 'B']
1 3
2 6
Name: B, dtype: int64
这些返回相同的结果,因此,如果您仅读取这些值,则没有区别。那么,这是什么问题呢?链式分配的问题在于,通常很难预测是否返回视图或副本,因此在尝试分配回值时,这在很大程度上成为一个问题。为了建立在前面的示例的基础上,请考虑解释器如何执行此代码:
df.loc[df.A > 5, 'B'] = 4
# becomes
df.__setitem__((df.A > 5, 'B'), 4)
通过对df
的单个__setitem__
调用。 OTOH,请考虑以下代码:
df[df.A > 5]['B'] = 4
# becomes
df.__getitem__(df.A > 5).__setitem__('B", 4)
现在,根据__getitem__
返回的视图还是副本, __setitem__
操作可能不起作用。
通常,应该使用loc
进行基于标签的分配,而使用iloc
进行基于整数 / 位置的分配,因为该规范保证它们始终在原始文件上运行。另外,要设置单个单元格,应使用at
和iat
。
可以在文档中找到更多信息。
笔记
loc
完成的所有布尔索引操作也可以使用iloc
完成。唯一的区别是iloc
期望索引的整数 / 位置或布尔值的 numpy 数组,以及列的整数 / 位置索引。例如,
df.loc[df.A > 5, 'B'] = 4
可以写成 nas
df.iloc[(df.A > 5).values, 1] = 4
和,
df.loc[1, 'A'] = 100
可以写成
df.iloc[1, 0] = 100
等等。
df
的 “A” 列上的简单操作。选择 “A” 并除以 2 将发出警告,但该操作将起作用。
df2 = df[['A']]
df2['A'] /= 2
/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/IPython/__main__.py:1: SettingWithCopyWarning:
A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_indexer,col_indexer] = value instead
df2
A
0 2.5
1 4.5
2 3.5
有两种方法可以直接静默此警告:
(推荐)使用loc
切片子集:
df2 = df.loc[:, ['A']]
df2['A'] /= 2 # Does not raise
更改pd.options.mode.chained_assignment
可以设置为None
, "warn"
或"raise"
。默认为"warn"
None
不会完全抑制警告,而"raise"
将抛出SettingWithCopyError
,从而阻止操作进行。
pd.options.mode.chained_assignment = None
df2['A'] /= 2
进行deepcopy
df2 = df[['A']].copy(deep=True)
df2['A'] /= 2
@Peter Cotton在评论中提出了一种不错的方法,即使用上下文管理器以非侵入方式更改模式(从此要点修改),仅在需要时才设置模式,然后将其重置为完成后的原始状态。
class ChainedAssignent: def __init__(self, chained=None): acceptable = [None, 'warn', 'raise'] assert chained in acceptable, "chained must be in " + str(acceptable) self.swcw = chained def __enter__(self): self.saved_swcw = pd.options.mode.chained_assignment pd.options.mode.chained_assignment = self.swcw return self def __exit__(self, *args): pd.options.mode.chained_assignment = self.saved_swcw
用法如下:
# some code here
with ChainedAssignent():
df2['A'] /= 2
# more code follows
或者,引发异常
with ChainedAssignent(chained='raise'):
df2['A'] /= 2
SettingWithCopyError:
A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_indexer,col_indexer] = value instead
很多时候,用户尝试寻找抑制此异常的方法,而没有完全理解为什么首先出现该异常。这是 XY 问题的一个很好的示例,用户尝试解决问题 “Y”,而这实际上是更深层次的问题 “X” 的症状。将根据遇到此警告的常见问题提出问题,然后提出解决方案。
问题 1
我有一个 DataFramedf A B C D E 0 5 0 3 3 7 1 9 3 5 2 4 2 7 6 8 8 1
我想将 col“A” 中的值分配为 > 5 到 1000。我的预期输出是
A B C D E 0 5 0 3 3 7 1 1000 3 5 2 4 2 1000 6 8 8 1
这样做的方法错误:
df.A[df.A > 5] = 1000 # works, because df.A returns a view
df[df.A > 5]['A'] = 1000 # does not work
df.loc[df.A 5]['A'] = 1000 # does not work
loc
正确方法:
df.loc[df.A > 5, 'A'] = 1000
问题 2 1
我正在尝试将单元格(1,'D')中的值设置为 12345。我的预期输出是A B C D E 0 5 0 3 3 7 1 9 3 5 12345 4 2 7 6 8 8 1
df['D'][1]
等不同方法来访问此单元格。做这个的最好方式是什么?1. 这个问题与警告并不特别相关,但是最好了解如何正确地执行此特定操作,以避免将来可能出现警告的情况。
您可以使用以下任何一种方法来执行此操作。
df.loc[1, 'D'] = 12345
df.iloc[1, 3] = 12345
df.at[1, 'D'] = 12345
df.iat[1, 3] = 12345
问题 3
我正在尝试根据某些条件对值进行子集化。我有一个 DataFrameA B C D E 1 9 3 5 2 4 2 7 6 8 8 1
我想将 “D” 中的值分配给 123,以使 “C” ==5。我尝试过
df2.loc[df2.C == 5, 'D'] = 123
看起来不错,但我仍在获取
SettingWithCopyWarning
!我该如何解决?
实际上,这可能是因为您的管道中的代码更高。您是否从较大的对象df2
df2 = df[df.A > 5]
?在这种情况下,布尔索引将返回一个视图,因此df2
将引用原始视图。您需要做的是将df2
分配给一个副本:
df2 = df[df.A > 5].copy()
# Or,
# df2 = df.loc[df.A > 5, :]
问题 4
我正在尝试从中就地删除列 “C”
A B C D E 1 9 3 5 2 4 2 7 6 8 8 1
但是使用
df2.drop('C', axis=1, inplace=True)
抛出
SettingWithCopyWarning
。为什么会这样呢?
这是因为df2
必须已经通过其他切片操作(例如:
df2 = df[df.A > 5]
此处的解决方案是制作df
copy()
或像以前一样loc
通常, SettingWithCopyWarning
是向用户(尤其是新用户)显示他们可能正在使用副本,而不是他们认为的原始内容。有误报(IOW 如果你知道你在做什么,它可能是确定)。一种可能性就是按照 @Garrett 的建议关闭(默认情况下为警告)警告。
这是另一种选择:
In [1]: df = DataFrame(np.random.randn(5, 2), columns=list('AB'))
In [2]: dfa = df.ix[:, [1, 0]]
In [3]: dfa.is_copy
Out[3]: True
In [4]: dfa['A'] /= 2
/usr/local/bin/ipython:1: SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_index,col_indexer] = value instead
#!/usr/local/bin/python
您可以将is_copy
标志False
,这将有效地关闭该对象的检查:
In [5]: dfa.is_copy = False
In [6]: dfa['A'] /= 2
如果您明确复制,则不会发生进一步的警告:
In [7]: dfa = df.ix[:, [1, 0]].copy()
In [8]: dfa['A'] /= 2
OP 在上面显示的代码是合法的,并且可能是我也可以做的,但从技术上讲,此警告是一种情况,而不是误报。没有警告的另一种方法reindex
进行选择操作,例如
quote_df = quote_df.reindex(columns=['STK', ...])
或者,
quote_df = quote_df.reindex(['STK', ...], axis=1) # v.0.21