Eerst je data checken, dan pas automatiseren

Bij bijna elke automatisering die wij (Jurjen en Albert-Jan, zwagers) bouwen, gaan we eerst door de data heen. Dat kost een paar uur en levert regelmatig een verrassing op. In dit artikel drie voorbeelden uit ons werk: wat we tegenkwamen, wat de flow daarmee gedaan zou hebben en wat we in plaats daarvan deden.
16 van 396

datums in dienst klopten niet, dus die flow bouwden we niet

136 van 400

planningsregels stonden al op een factuur

870 naar 792

klantregels na opschonen, in één avond

Waarom we eerst kijken

Een flow doet precies wat je zegt, ook met verkeerde data

Staat er een verkeerde datum in je personeelssysteem, dan stuurt de flow een verkeerde felicitatie. Staat een order in je planning én op een factuur, dan telt het overzicht hem twee keer mee. De automatisering is dan niet kapot. Hij werkt netjes op data die niet klopt, en dat merk je pas als iemand belt.

Daarom beginnen we met kijken naar de bron: hoe is dit gevuld, door wie, sinds wanneer, en welke waarden komen verdacht vaak voor. Die uren zitten in het vooronderzoek dat we beschrijven op Wat kost een koppeling. Soms is de uitkomst dat we iets niet bouwen. Dat is ook een uitkomst.

De jubileumflow die we niet bouwden

Een horecagroep wilde een seintje bij werkjubilea. 16 van de 396 datums in dienst bleken onbetrouwbaar, juist bij de mensen die het langst in dienst zijn.

Drie bronnen, één omzetoverzicht

Een houthandel hield verkopen bij in drie bestanden. Bij het samenvoegen stond een derde van de planningsregels al op een factuur.

Drie klantenlijsten in één avond

Dezelfde houthandel stapte over op een nieuw systeem. 870 regels werden 792 klanten, met 231 leveranciers eruit en 55 dubbele bedrijven samengevoegd.

Voorbeeld 1

De jubileumflow die we niet bouwden

Een horecagroep wilde een automatische herinnering bij werkjubilea: een bericht aan de leidinggevende als iemand 5, 10 of 12,5 jaar in dienst is. Technisch een klein klusje. We keken eerst naar de datums in dienst.

Een opvallend groot cluster stond op 1 januari 2020. Dat bleek een artefact van een systeemmigratie: wie toen al in dienst was, kreeg die datum mee. Juist bij de langst zittende medewerkers klopte de datum dus niet, en dat zijn precies de mensen voor wie een jubileum iets betekent. In totaal waren 16 van de 396 datums onbetrouwbaar.

We hebben de flow niet gebouwd en dat zo teruggekoppeld, met de lijst van 16 erbij. Zodra die datums zijn hersteld, is de flow in een uur klaar.

Voorbeeld 2

Drie bronnen, één omzetoverzicht, zonder dubbeltellingen

Een houthandel hield de verkoop op drie plekken bij: een Excel met orderregels, een planningsbestand en pdf-facturen uit de boekhouding. Wie de beste klant was, of welke maat en lengte het best betaalde, was daardoor niet te zien.

We voegden de drie bronnen samen tot één Excel met een overzicht dat de klant zelf kan filteren en bijwerken. Bij het samenvoegen bleken 136 van de 400 planningsregels al op een factuur te staan. Zonder die controle had het overzicht een derde van de planning dubbel geteld. De beste klant was dan iemand anders geweest, en de best betalende maat ook.

Voorbeeld 3

Drie klantenlijsten in één avond opgeschoond

Dezelfde houthandel stapte over op een nieuw systeem en had drie klantenlijsten uit verschillende bedrijfsonderdelen. Leveranciers en klanten stonden door elkaar. Bedrijven stonden er dubbel in, elk met een andere contactpersoon. In één lijst waren adressen per ongeluk met Excel doorgetrokken, zodat een reeks bedrijven een adres had dat van de buurman was.

We maakten er in één avond één klant per bedrijf van: 870 regels werden 792 klanten, 231 leveranciers gingen eruit en 55 dubbele bedrijven werden samengevoegd. De twijfelgevallen lieten we staan, zodat de klant daar zelf over kon beslissen. De volgende dag konden ze in het nieuwe systeem aan de slag.

Werkwijze

Zo checken wij data voordat we bouwen

Vijf stappen. De laatste is pas bouwen, en soms is dat: nog niet.
01
Bron bekijken
Waar komt het vandaan, wie vult het in en sinds wanneer.
02
Tellen en sorteren
Welke waarden komen verdacht vaak voor.
03
Kruisen met een tweede bron
Staat deze regel ook in de planning of op een factuur.
04
Twijfelgevallen apart
Wat wij niet zeker weten, gaat als lijst terug.
05
Dan pas bouwen, of niet
Klopt de data, dan bouwen we. Anders eerst herstellen.

  • Bron bekijken. We vragen wie het veld vult en sinds wanneer, en of er ooit een migratie is geweest. Bij de horecagroep was het antwoord "ja, in 2020", en dat verklaarde het cluster meteen. Een migratiedatum verklaart vaak een heel cluster.
  • Tellen en sorteren. Een draaitabel met het aantal keren dat elke waarde voorkomt is genoeg. De grootste blokken bekijk je met de hand: één datum, één adres, lege velden bij de oudste records. Bij de datums in dienst stak één datum er ver bovenuit.
  • Kruisen met een tweede bron. Orderregels, planningsregels en facturen leggen we naast elkaar op ordernummer, klant en datum. Wat op twee plekken staat, telt één keer.
  • Twijfelgevallen apart. Bij de klantenlijsten matchten we bedrijven op naam en adres. Waar dat niet eenduidig was, bleef de regel staan en kreeg de klant de vraag. Wat wij niet zeker weten, beslissen wij niet.
  • Terugkoppelen, dan pas bouwen. De uitkomst gaat als lijst terug: wat klopt, wat niet, en wat de klant zelf moet beslissen. Daarna bouwen we, of we laten het liggen tot de bron hersteld is.
Herkennen

Signalen dat je data eerst aandacht nodig heeft

Eén datum of waarde die opvallend vaak voorkomt

1 januari, 00:00, of de dag van een systeemovergang. Meestal een migratie of een standaardwaarde die niemand heeft aangepast.

Hetzelfde bedrijf meerdere keren

Met een andere schrijfwijze of een andere contactpersoon. Elke contactpersoon heeft dan zijn eigen klantrecord aangemaakt.

Leveranciers en klanten in dezelfde lijst

Bij de houthandel zaten er 231 leveranciers tussen de klanten.

Adressen, nummers of datums die netjes oplopen

Alsof ze in Excel zijn doorgetrokken. Dat is dan meestal ook zo gebeurd.

Dezelfde order in je planning én op een factuur

Twee bronnen die elk een deel van de waarheid bevatten, en elkaar deels overlappen.

Lege velden vooral bij de oudste records

Het veld is later toegevoegd en nooit met terugwerkende kracht gevuld.

Overzicht

Wat we zagen, wat de flow gedaan zou hebben, wat we deden

Wat we zagenWat de automatisering zou doenWat we deden
16 van 396 datums in dienst op een migratiedatumVerkeerde jubileumberichten, juist bij de langst zittende medewerkersFlow niet gebouwd, lijst van 16 teruggegeven
136 van 400 planningsregels ook op een factuurOmzet per klant een derde te hoog, verkeerde beste klantRegels ontdubbeld vóór het overzicht
870 klantregels in drie lijsten, 231 leveranciers ertussenDubbele klanten en leveranciers als klant in het nieuwe systeem792 klanten, twijfelgevallen laten staan voor de klant

Twijfel je of je data goed genoeg is om op te bouwen?

Stuur een export, dan kijken we er een paar uur naar en vertellen we wat we zien. Vraag naar Jurjen Rijsdijk, jurjen@flowbros.nl.

Jurjen RijsdijkAlbert-Jan van der Meij

Jurjen en Albert-Jan

Bro-owners van Flowbros

Bel of mail Jurjen even:

M+31 6 40 88 93 71Ejurjen@flowbros.nl

Vragen

Veelgestelde vragen