Damit ein KI-Modell überhaupt etwas lernen kann, braucht es saubere, gut strukturierte Daten. In der Praxis sind Daten aber selten perfekt: Sie enthalten Tippfehler, fehlende Einträge, Duplikate oder Angaben in unterschiedlichen Formaten. Selbst ein guter Algorithmus liefert schlechte Ergebnisse, wenn die Eingabedaten nicht gut sind («garbage in, garbage out»). Deshalb ist die Datenaufbereitung (engl. Data Preprocessing) einer der wichtigsten Schritte bei der Entwicklung eines KI-Modells. Dazu gehören folgende Schritte:
- Bereinigung
- fehlerhafte oder fehlende Werte korrigieren bzw. entfernen.
- Vereinheitlichung
- Texte in Kleinbuchstaben umwandeln, alle Zahlenwerte in dasselbe Format umwandeln etc.
- Labeling
- Klassifizieren der Daten (z.B. Spam oder Ham).
- Trainings- und Testdaten
- Datensatz in einen Trainings- und einen Testanteil aufteilen, damit das Modell auf einem Teil der Daten lernen und auf dem anderen Teil überprüft werden kann.
Datensets
Die folgenden Dateien beinhalten Ausschnitte aus dem synthetic-spam-detection-dataset-german[1] (zur Verfügung gestellt auf Hugging Face).
Aufgabe: zur Datenaufbereitung
- Um unseren Spamfilter zu trainieren, brauchen wir Daten. Du erhältst ein Datenset (siehe oben) bestehend aus 50 Spam- und Ham-Nachrichten zugeteilt.
- Kontrolliere die enthaltenen Daten (ohne etwas zu ändern):
- Gibt es unbrauchbare Einträge, die gelöscht werden sollten?
- Stimmen die Klassifizierungen (Label)?
- Findest du weitere Aspekte, die bei einer automatisierten Aufbereitung beachtet werden sollten?
- Was ist dir bei den vorherigen Aufgaben aufgefallen? Was denkst du, wo sind die Herausforderungen beim Sammeln und Aufbereiten von Daten für eine KI?
Aufgabe: Trainingsdaten von GPT-3
Was denkst du, wie gross die Menge an Daten für das Erstellen von GPT-3 (ein KI-Sprachmodell aus dem Jahre 2020) war? Und woher stammen diese Daten?
Lösung (nicht angemeldet)
Diese Lösung ist nur für angemeldete Benutzer zugänglich – wenn die LK die Lösung freigegeben hat. Bitte melde dich an, um die Lösung einsehen zu können.Klassifizieren von Daten
In manchen Fällen ist das Klassifizieren (engl. labelling) von Daten nicht so klar. In unserem Beispiel, ob die Nachricht Spam oder Ham ist, wie wir dies an Graymails anschauen:
Graymail ist eine Art von E-Mail, die zwar vom Empfänger ursprünglich gewünscht oder abonniert wurde (also kein Spam ist), aber mittlerweile nicht mehr relevant, interessant oder erwünscht ist. Typische Beispiele sind Newsletter, Werbeaktionen oder Benachrichtigungen, die der Nutzer sich irgendwann eingetragen hat, aber heute nicht mehr aktiv liest oder darauf reagiert. Graymail kann den Posteingang füllen und wird oft ignoriert, was mit der Zeit dazu führt, dass E-Mail-Programme solche Mails weniger anzeigen oder sogar als Spam einstufen, obwohl sie technisch nicht als Spam gelten.
Quelle: https://huggingface.co/datasets/tanaos/synthetic-spam-detection-dataset-german (Lizenz: MIT) ↩︎