Перейти к контенту
SPCXTools

Удаление дубликатов строк

Удаляйте повторяющиеся строки из списков и текста с опциями игнорирования регистра, удаления пробелов и сортировки.

Работает локально — файлы не покидают ваше устройство

Загрузка инструмента…

Как использовать Удаление дубликатов строк

  1. 1Вставьте ваш список или текст в поле Ввод — по одному элементу на строку.
  2. 2Дубликаты удаляются мгновенно; первое вхождение каждой строки сохраняется на своей исходной позиции.
  3. 3Настройте параметры: игнорировать регистр, удалить лишние пробелы, удалить пустые строки или отсортировать результат по алфавиту (А–Я или Я–А).
  4. 4Скопируйте очищенный список или скачайте его как текстовый файл. В строке состояния будет указано, сколько строк было удалено.

Удалить дубликаты строк из любого списка

Списки, собранные из электронных таблиц, экспортов, логов или просто скопированные откуда-либо, почти всегда содержат повторы. Этот инструмент удаляет дубликаты строк в один клик и оставляет только первое вхождение каждой из них, поэтому ваш список сохраняет исходный порядок. Дополнительные настройки позволяют не учитывать регистр, игнорировать лишние пробелы, удалять пустые строки и сортировать результат. Все операции выполняются локально в вашем браузере, поэтому даже конфиденциальные данные, такие как email-адреса или ID клиентов, никогда не покидают ваш компьютер.

Описание настроек

  • Игнорировать регистр — London и london будут считаться одной и той же строкой.
  • Обрезать пробелы — удаляет пробелы и символы табуляции в начале и конце каждой строки перед сравнением (частая причина появления «неудаляемых дубликатов»).
  • Удалить пустые строки — полностью удаляет пустые строки.
  • Сортировка — сохраняет исходный порядок или сортирует по алфавиту (A→Z или Z→A) с использованием естественной сортировки с учетом языка.

В строке состояния отображается количество исходных строк, полученных уникальных строк, а также число удаленных дубликатов и пустых строк.

Полезно для

Списки email и контактов. Объедините списки подписчиков из разных источников, а затем удалите дубликаты адресов перед импортом в сервис рассылок. Включите Игнорировать регистр, так как на практике регистр в email-адресах не имеет значения.

Сбор ключевых слов для SEO. Экспорты ключевых фраз из разных сервисов часто сильно пересекаются. Вставьте их все, удалите дубли и отсортируйте, чтобы получить чистый итоговый список.

Очистка данных. Получите уникальные значения из столбца таблицы — артикулы, города, категории — без создания сводной таблицы.

Разработчикам и сисадминам. Удаляйте дубликаты строк в логах, IP-адресов, названий пакетов или путей к файлам. В связке с Regex Tester можно сначала извлечь нужные значения из логов, а затем удалить дубликаты здесь.

Советы

  • Чтобы найти отличия между двумя версиями списка, а не просто удалять повторы, используйте Diff Checker.
  • Если элементы разделены запятыми, а не переносами строк, сначала замените запятые на разрывы строк (например, через поиск и замену в текстовом редакторе), а затем вставьте результат сюда.
  • Хотите узнать, сколько элементов осталось? Количество отображается в строке состояния. Для получения подробной статистики используйте Word Counter.

Частые вопросы

Какая из повторяющихся строк остается?
Остается первое вхождение, а последующие повторы удаляются. Исходный порядок списка сохраняется, если вы не включили сортировку.
Что делает опция "Без учета регистра"?
Если она включена, строки, отличающиеся только регистром (например, Apple, apple и APPLE), считаются дубликатами. Сохраняется тот вариант, который встречается первым.
Почему некоторые одинаковые на вид строки не удаляются?
Скорее всего, они отличаются невидимыми символами, например, пробелом в конце или табуляцией. Оставьте включенной опцию Обрезать пробелы, чтобы игнорировать пробелы в начале и конце строк. Другие отличия, такие как неразрывный пробел или другой вид тире, считаются реальными различиями в тексте.
Как сортируются числа?
Применяется естественная сортировка с учетом языка, поэтому item 2 будет идти перед item 10, а буквы с диакритическими знаками сортируются вместе с основными буквами.
Есть ли ограничение на размер списка?
Строгих ограничений нет. Списки из сотен тысяч строк обрабатываются мгновенно, полностью в вашем браузере.
Загружаются ли мои данные на сервер?
Нет. Список обрабатывается локально на вашем устройстве и никуда не отправляется — это идеально подходит для работы с email-базами, данными клиентов или внутренними ID.