Ich habe eine 6 MB große CSV-Datei. Ich möchte die Daten nach Spalte A & Spalte C filtern, so dass ich alle Duplikate entfernen muss. Was ist der einfachste Weg dies zu tun? Jede Hilfe wird sehr geschätzt.Finden von eindeutigen Werten aus einer Datei
1
A
Antwort
4
Verwenden Sie cut oder awk, um Felder auszuwählen. Sortieren und uniq zum Entfernen von Duplikaten. Zum Beispiel
awk -F"," '{print $1}' A.csv|sort|uniq
8
cat foo.csv | cut -f2 -d , | sort | uniq
Es wird Ihnen eine eindeutige ID aus der 2. Säule
cat foo.csv | cut -f1 -d , | sort | uniq
Es wird Sie eindeutige IDs aus der 1. Säule
-f <number> : column number
-d <space><delimiter> : file delimiter
Verwandte Themen
- 1. Erhalten von eindeutigen Werten aus der Spalte
- 2. Zählen von eindeutigen Werten in einer VBA-Sammlung
- 3. Erhalten von eindeutigen Werten von 2 Arrays
- 4. Einfügen von eindeutigen Werten aus XML in Tabelle
- 5. Auswählen von eindeutigen Werten aus Array in MongoDB
- 6. Python: Schlüssel mit eindeutigen Werten in einem Wörterbuch finden?
- 7. Erstellen Sie ein Array aus eindeutigen Werten aus Spalte
- 8. in einer Liste von Werten finden Average
- 9. Lesen von Werten aus einer Datei in Java
- 10. Pandas: Plot der Graph von eindeutigen Werten
- 11. Erhalten Sie einen eindeutigen Wert für Eingabefeld beim Durchlaufen von Werten aus einer Datenbank
- 12. Setzen von Werten in eine Struktur aus einer Datei
- 13. Kombinieren von Werten aus verschiedenen Dateien in einer CSV-Datei
- 14. Auswählen von Werten aus einer JSON-Datei in Python
- 15. Summieren von Datetime-Werten aus einer Einfachdatei
- 16. Tabelle Join mit eindeutigen Werten
- 17. Hinzufügen einer Spalte zu einem Datenrahmen mit (Extrahieren von eindeutigen Werten) aus vorhandenen Spalten
- 18. Summe-Aggregatfunktion mit nicht-eindeutigen Werten
- 19. Wie mit LINQ Summe von Werten finden
- 20. So erhalten Sie eine Reihe von eindeutigen Werten aus vielen Listen effizient (Python)
- 21. Abrufen von Werten aus einer Checkbox
- 22. Isolieren von Werten aus einer Listbox-Zeile
- 23. C# Empfangen von Werten aus einer Liste
- 24. Rückgabe von 2 Werten aus einer Methode
- 25. Automatisierung der Eclipse-Konsoleneingabe mit Werten aus einer Datei
- 26. finden eindeutigen Wert aus der Tabelle in php
- 27. Sammlungen addAll Methode für eine Reihe von eindeutigen Werten
- 28. Anhängen eines Collect-Array mit eindeutigen Werten
- 29. ersetzen Elemente mit Werten aus einer anderen XML-Datei
- 30. Doktrin: entfernen, dann mit eindeutigen Werten
Sprache geben ...... .? –
Der einfachste Weg ist, was ich will – mousey