• 技术文章 >后端开发 >Python教程

    你应该知道的python列表去重方法

    高洛峰高洛峰2017-02-21 10:50:18原创1189
    前言

    列表去重是写Python脚本时常遇问题,因为不管源数据来自哪里,当我们转换成列表的方式时,有可能预期的结果不是我们最终的结果,最常见的就是列表中元素有重复,这时候第一件事我们就要做去重处理。

    我们先来个最简单的方式,用python内置的数据类型set来实现。

    假设我们的列表数据是这样的:

    level_names = [
     u'Second Level',
     u'Second Level',
     u'Second Level',
     u'First Level',
     u'First Level'
    ]

    因为集合的元素是不能重复的,所以将列表转换成集合时,会自动去掉重复的元素,这就是基本原理,代码如下:

    >>> the_list = set(level_names)
    >>> print(the_list)
    set([u'Second Level', u'First Level'])

    这种方式缺点是再转换成列表时无法保存之前的列表顺序,如果没这个要求,这种方式是最简答的, 也许有的小伙伴觉得好简单呀,这没什么技术含量吗,没错,所以一般面试题里让你列表去重一般会这么写:

    请写出列表去重的方法(不能用set)

    人家写明不能用set了,所以呢,这招有时候还不能用,那当然也难不倒我们,我们还有其他方法。

    我们都知道列表可以遍历,能遍历问题也就简单了,我们再定义空列表,然后遍历有数据的列表,再遍历时加一个判断,如果在空列表里没有,就加进去,如果有了就丢掉,代码如下:

    the_list = []
    for level in level_names:
     if level not in the_list:
      the_list.append(level)
    print(the_list)

    大家觉得这种方式是不是还可以,但这种方式对付一般的小列表是没问题的,但如果遇到一个超级大列表,也会力不从心,因为在the_list列表变的非常大,在判断时候会影响效率,因为列表是按索引顺序去查找的,当数据量很大时会变慢。

    也许你要问了,那我遇到大的列表咋办? 有更牛掰点的方法吗?当然有,让我们继续,既然在判断时用列表会影响效率,那我们就转换一个思路,我们用集合,那你可能要问了,那集合就快了?没错,因为set使用的hash函数查找值,虽然set无序,但位置是固定的,只需一次就可以查到特定元素是否存在,网上有人做了列表和set的元素查找对比,相同的数据条件下,用list耗时16分钟,用set耗时是52秒,这一对比看出效果了吧,别的不多说了,贴代码:

    the_list = []
    the_set = set()
    for level in level_names:
     if level not in the_set:
      the_set.add(level)
      the_list.append(level)
    print(the_list)

    更多你应该知道的python列表去重方法相关文章请关注PHP中文网!

    声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn核实处理。
    专题推荐:python 列表 去重
    上一篇:python正则分析nginx的访问日志 下一篇:Python实现字符串格式化的方法小结
    千万级数据并发解决方案

    相关文章推荐

    • 图文详解怎么用Python绘制动态可视化图表• 介绍六个超好用的Python内置函数• 一起聊聊Python的编码样式• 带你搞懂Python反序列化• 详细介绍python的numpy模块
    1/1

    PHP中文网