Ich habe ein Paket, das täglich eine Datei in Data Lake Store importiert. Das ist also die gleiche Datei mit unterschiedlichen Werten (gleiche Spalten usw.). Meine Idee ist es, diese Dateien für einen monatlichen Bericht in Data Lake zu vereinigen. Ich möchte U-SQL untersuchen, also ist meine Frage:
Ist das möglich mit U-SQL zu tun?
Wenn es nicht möglich ist, gibt es irgendwelche anderen Möglichkeiten, das zu tun?Dateien aus Data Lake speichern
0
A
Antwort
3
Es ist sehr einfach möglich, Datensätze aus zwei Dateien zusammenzuführen und eine neue Datei zu schreiben. Hier sind die Schritte
- alle der neuen Datei lesen EXTRACT mit
- Lesen Sie alle Datensätze der aktuellen Master-Datei EXTRACT mit
- Verwenden UNION alle Datensätze zu verschmelzen: https://msdn.microsoft.com/en-us/library/azure/mt621340.aspx
- schreiben Ausgang Master-Datei mit OUTPUT-Anweisung
Für ein schnelles U-SQL-Tutorial geht hier: https://docs.microsoft.com/en-us/azure/data-lake-analytics/data-lake-analytics-u-sql-get-started
0
Ich bin noch nicht in der Azure-Datenbank eingebunden, aber ich kann mir vorstellen, dass die Datentools von Microsoft dafür eine Anwendung erstellen könnten. Kann es versuchen?
Verwandte Themen
- 1. Azure Data Lake-Autorisierung
- 2. Azure Data Lake: Verschlüsselung
- 3. Azure Data Lake Alle Elemente
- 4. Daten Aufbewahrungsrichtlinien in Data Lake
- 5. U-SQL-Cursor in Azure Data Lake
- 6. Data Lake Analytics: Benutzerdefinierter Outputter zum Schreiben in verschiedene Dateien?
- 7. Azure Data Lake Store - JSON in CSV konvertieren
- 8. Azure Data Lake-Speicher und Data Factory - Temporäre GUID-Ordner und Dateien
- 9. Autorisierungsheader für WebHDFS mit Azure Data Lake
- 10. Integrieren von Azure CDN mit Azure Data Lake Store
- 11. Data Lake Analytics Anruf von. NET SDK (Benutzer nicht autorisieren)
- 12. Azure Data Lake Store - Fehler beim Lesen von Datei
- 13. U-SQL mit Python zum Konvertieren von JSON zu CSV in Azure Data Lake speichern
- 14. Optimieren Sie für den maximalen Parallelisierungsgrad in Azure Data Lake
- 15. Datenkatalog und Metadatenverwaltung in AWS für eine Data Lake-Architektur
- 16. Laden Sie Bilder auf Data Lake Store mit u sql
- 17. Wie wird Azure Data Lake Storage mit Azure ML verbunden?
- 18. Azure Batch-Unterstützung für verknüpften Data Lake Store-Service
- 19. Polybase über Data Lake - was ist der OAuth_2.0_Token_EndPoint?
- 20. Azure Data Lake Store erstellen Ordner über C# -Skript
- 21. CreateJob für Azure Data Lake Analytics von C#
- 22. Verschieben einer DocumentDB-Sammlung in den Azure Data Lake-Speicher
- 23. Können wir in Data Lake Daten in Azure Storage ausgeben?
- 24. Azure Webjobs SDK - Kann ich eine Bindung/einen Trigger auf Azure Data Lake Files erstellen
- 25. Können wir Snappy-Daten verwenden, um einen Datensatz in Azure Data Lake zu aktualisieren? ODER ist Azure Data Lake nur anhängen?
- 26. Wie zu behandeln oder Architektur, inkrementelle Datenaufnahme in Azure Data Lake Store?
- 27. Data Factory Data Gateway ohne Zertifikat
- 28. Speichern und Abrufen von Listen aus Dateien
- 29. Wie fügt man dem Dateinamen die Datetime hinzu, die von Data Factory in Azure Data Lake Store veröffentlicht wird?
- 30. Wie man überprüft, ob es Datensätze in einer Data Lake Tabelle gibt
Danke für deine Antwort. Ich werde versuchen, mit diesem https://msdn.microsoft.com/en-us/library/azure/mt621340.aspx?f=255&MSPPError=-2147217396 – DraganB