Inleiding

Voorbeeld

Stel er komt een aantal buitenlandse studenten binnen op de hogeschool waar jij als studiecoördinator werkt en jij moet er voor zorgen dat deze studenten worden bijgeschoold in Engels voordat zij mogen beginnen met de rest van de opleiding.

Er zijn twee docenten beschikbaar en je wilt de studenten indelen in twee groepen (een groep noemen we in het vervolg een cluster), groep A en groep B. Bij de indeling wil je clusters maken van studenten van gelijk niveau. De grootte van de clusters is onbelangrijk.

Je wilt indelen op de twee eigenschappen lezen en verstaan van Engels. Je laat daarom alle studenten een test maken waaruit een score van 1 tot 10 komt. Daarbij geef je alleen gehele punten als cijfer.

Om inzicht te krijgen hoe je de clusters kunt indelen zet je de studenten in een schema waarbij de horizontale as het cijfer voor lezen aangeeft en de verticale as het cijfer voor verstaan. In het onderstaande schema zijn de resultaten van de vijf studenten s1 t/m s5 weergegeven.

Welke clusters zou jij maken?

De meest logische indeling is om s1 en s4 in groep A te stoppen en s2,s3 en s5 in groep B.

In het voorbeeld was het niet zo moeilijk om te bepalen welke clusters je het best kon maken. Maar wat nu als er veel meer studenten zijn en/of veel meer eigenschappen zijn waar je rekening mee wilt houden?

Clusteranalyse is het classificeren of het groeperen in 'clusters' of 'klassen' van objecten op grond van hun kenmerken zonder vooraf de clusters vast te leggen. De gebruikte algoritmen bepalen wel de weg om tot clusters te komen, maar de gegevens bepalen welke clusters het worden. Deze algoritmen zijn, net als de algoritmen uit de associatie analyse, vormen van unsupervised learning (= ongestuurd leren). Het belangrijkste AI-kenmerk is ook hier: de invoer die het programma krijgt, is niet volledig te bepalen en is complex.

Vraag

1. Wat zijn in het voorbeeld de objecten en de kenmerken?
   antwoord
   • De objecten zijn de studenten, de kenmerken de resultaten voor lezen en verstaan.

Figuur 1: Het classificeren
van objecten

Het doel van clusteranalyse (trainingsfase) is het vormen van deelverzamelingen (clusters of groepen) die elk hun eigen gedeelde kenmerken bevatten. De clusters en liefst ook het aantal clusters zijn vooraf niet bekend. Het streven is zoveel mogelijk gelijkenis binnen een groep en zoveel mogelijk verschil tussen de groepen te krijgen.

De clusteranalyse levert een aantal groepen, de clusters, op. Op basis van die groepen kun je bepalen tot welke groep een aan de applicatie aangeboden object behoort. In het voorbeeld van de studenten waren er al twee klassen gemaakt, een nieuwe student wordt dan toegevoegd aan de best passende klas. Een ander voorbeeld zou kunnen zijn dat jij films krijgt aangeboden nadat jij een aantal wensen hebt aangegeven op een website. Van te voren is er al een classificatie van films gemaakt en jij krijgt dan die films voorgeschoteld die in het cluster zitten dat het best bij jouw wensen past.

Men zou ook dit aangeboden object aan de trainingsdata kunnen toevoegen en de clusteranalyse opnieuw uitvoeren. Dit zou kunnen leiden tot een nieuwe groepsindeling. We gaan het hier vooral over de trainingsfase hebben: het algoritme K-means-clustering.

Vraag

2. Er meldt zich weer een nieuwe buitenlandse student bij de hogeschool, een week na de start van de bijscholing. Deze student haalt een 4 voor lezen en een 3 voor verstaan. In welke groep wordt deze student geplaatst?
   antwoord
   • Als je deze student in de tabel plaatst dan bevindt deze zich dichter bij de groep A met de leerlingen s1 en s4, dan bij de groep B. De student wordt dus geplaatst in groep A.

Voor we het algoritme ($K$-means-clustering) meer in detail uitwerken en jullie laten kennismaken met alternatieve clusteralgoritmen geven we eerst een aantal voorbeelden van terreinen waarin clusteranalyse wordt toegepast. Meer voorbeelden zijn onder andere hier en hier te vinden.

Toepassingen

Identificatie van nepnieuws

Nepnieuws is geen nieuw fenomeen, maar het treedt meer en meer op de voorgrond vooral binnen sociale media. Zelfs president Trump schaamde zich niet om zijn campagne met nepnieuws te voeren of ander onwelgevallige berichten tot nepnieuws te bombarderen.

In een artikel gepubliceerd door twee informaticastudenten (Seyedmehdi Hosseinimotlagh en Evangelos E. Papalexakis, University of California, Riverside) wordt een clusteralgoritme gebruikt om nepnieuws te identificeren. Het algoritme krijgt (nep)nieuwsartikelen aangeboden. Uit deze artikelen worden de belangrijkste en meest sensatierijke woorden gevist. Op deze woorden wordt dan geclusterd. Omdat sensatiebeluste woorden de aandacht van mensen trekken komen deze woorden vaker voor in nepnieuwsartikelen. De clusters bevatten dus combinaties van dit soort woorden waarmee nieuwe berichten geclassificeerd kunnen worden op mate van nepnieuws.

Biologie

In de biologie zijn er meerdere gebieden waar clusteranalyse wordt toegepast. Denk bijvoorbeeld aan de classificatie van verschillende organismen. Elk organisme hoort bij een soort. Soorten kunnen op hun beurt weer worden onderverdeeld in lagere taxa, zoals ondersoort en variëteit. Soorten zelf worden samengevoegd in geslachten en deze weer in families en in taxa van nog hogere rang. Een ander voorbeeld van het gebruiken clustertechnieken in de biologie is het maken van groepen met genen die een bepaalde erfelijke ziekte kunnen bevatten. Door het gebruik van clustermethoden kunnen groepen met samenwerkende genen gevonden worden. Als deze groepen bekend zijn, kan deze kennis helpen om meer gericht onderzoek te doen naar medicijnen die een erfelijke ziekte gekoppeld aan de groep genen kan voorkomen of genezen.

Marketing

Personalisatie en bepaling van doelgroepen in marketing is big business. Dit wordt bereikt door naar specifieke kenmerken van een persoon te kijken en campagnes met hen te delen die succesvol zijn geweest met andere vergelijkbare mensen. Doet een bedrijf dat niet of verkeerd dan loopt het bedrijf de kans niets te verkopen of nog erger het vertrouwen van klanten te verliezen. Clusteranalyse helpt de doelgroepen te bepalen.

Clusters en afstanden

Om verder te kunnen met de clusteranalyse, hebben we extra begrippen nodig. Het gaat vooral om het begrip 'afstand'. Hoe meet je nu precies of twee objecten met hun eigenschappen dicht bij elkaar liggen?

Afstandsmaten

In clustering speelt afstand tussen gegevens een grote rol. Een computer heeft daar meestal getallen voor nodig. Vaak moet er eerst een bewerking van gegevens plaatsvinden om deze om te zetten in getallen. Combinatie van verschillende eigenschappen leveren dan datapunten op in een assenstelsel. Iedere eigenschap heeft dan zijn eigen as, bijvoorbeeld leeftijd, sociale klasse, salaris...

Afstand tussen datapunten (objecten):

Vervolg voorbeeld

In ons voorbeeld met de vaardigheden in de Engelse taal zijn er twee assen: luister- en leesvaardigheid. Studenten hebben een toets gedaan waarbij ze een cijfer kregen voor hun vaardigheid. Zo kregen we getallen voor de eigenschappen. We kunnen de cijfers dan in een assenstelsel zetten:

Wat is de afstand tussen $s_{1}$ en $s_{4}$?

antwoord

• De kortste afstand tussen $s_{1}$ en $s_{4}$ is $\sqrt{13}$. Weet je hoe je die afstand berekent?
  Als je alleen langs de roosterlijnen mag meten dan is de kortste afstand 5.
  Het is dus van belang eerst een lengtemaat vast te leggen.

Figuur 2: De stelling van Pythagoras


Figuur 3: Stukje Manhattan,
Je kunt alleen over de weg.

Hebben we datapunten zoals hierboven dan kunnen we wiskundig de afstand tussen punten uitrekenen. Je hebt waarschijnlijk de vorige vraag beantwoord met de stelling van Pythagoras. De stelling van Pythagoras (Figuur 2) is de manier om de afstand van de schuine zijde in een tweedimensionale rechthoekige driehoek te berekenen. In een assenstelsel vormen de verplaatsingen langs de assen de rechthoekzijden en de lengte van schuine zijde de kortste afstand tussen de punten. Deze afstand noemt men ook wel de Euclidische afstand,ook wel de vogelvluchtafstand. In drie dimensies en hoger wordt op een zelfde manier de afstand tussen twee punten berekend.

Naast de Euclidische afstand is er een andere maat die vaak gebruikt wordt, de Manhattan of City-block afstand. In figuur 3 zie je een stukje van de kaart van Manhattan. Je kunt alleen van hoek naar hoek komen als je door de straten gaat. Schuin, dwars door een blok, zoals bij de Euclidische afstand, is onmogelijk. In een rooster kun je dus alleen evenwijdig aan de assen bewegen.

Afstandsmatrix

Een matrix van afstanden is een matrix waarvan de elementen de afstanden tussen de punten aangeven.

Afstand tussen clusters

Als je de afstand tussen elk paar van objecten weet, wat is dan de afstand tussen twee clusters $C_{1}$ en $C_{2}$?
We nemen hier de kleinste afstand tussen twee objecten waarvan er één in $C_{1}$ aanwezig is en de andere in $C_{2}$. Deze afstand noemt men Single Linkage.

Voorbeeld C

Gegeven een dataset met zes punten.

	x	y
$A_{1}$	1	3
$A_{2}$	1	4
$A_{3}$	2	2
$B_{1}$	5	1
$B_{2}$	5	2
$B_{3}$	7	2

De clusters zijn $C_{1}=\{A_{1},A_{2},A_{3}\}$ en $C_{2}=\{B_{1},B_{2},B_{3}\}$
Geef de kleinste afstand tussen $C_{1}$ en $C_{2}$

uitwerking

De kleinste afstand in beeld.

De afstandsmatrix tussen de objecten in $C_{1}$ en $C_{2}$ is:

	$B_{1}$	$B_{2}$	$B_{3}$
$A_{1}$	4.47	4.12	6.03
$A_{2}$	5	4.47	6.32
$A_{3}$	3.16	3	5

De kleinste afstand tussen $C_{1}$ en $C_{2}$ is de kleinste afstand in de matrix:
$d(C_{1},C_{2})=\min\{d(A,B)|A \in C_{1}\,\,en\,\, B \in C_{2} \}$
$d(A_{3},B_{2})=\sqrt{(5-2)^{2}+(2-2)^2}=3$.

Centrum cluster

Als we straks na de training clusters hebben gevormd en willen bepalen in welk cluster een nieuw object moet worden geplaatst is het heel efficiënt om een cluster op een bepaalde manier samen te vatten. Het centrum $M(m_{1},m_{2}, \dots, m_{n})$ van een cluster bestaande uit $k$ punten wordt die samenvatting. Het centrum is een punt $M$ met $n$ coördinaten $m_{1},m_{2}, \dots, m_{n}$ en wordt berekend door het gemiddelde te nemen van al de coördinaten van de punten in de cluster. Wiskundig gezien is het centrum het zwaartepunt van de veelhoek ( een lichaam in hogere dimensie) die door de punten wordt gevormd.

Cluster methoden

Figuur 4: Animatie van het $K$-means algoritme

Figuur 5: Het algoritme

Er zijn verschillende methoden die gebruikt worden om tot clusters te komen. We presenteren hier $K$-means-clustering. In figuur 4 zie je een animatie van de werking, waarbij de data stap voor stap in drie groepen wordt verdeeld. De kleuren geven de clusters aan en de kruisjes die je ziet bewegen zijn de centra van de clusters.

$K$-means-clustering

K-means clustering is een eenvoudige en relatief snelle iteratieve manier van clusteren. Het is het oudste en meest bekende clusteralgoritme. Later zijn er veel varianten van deze methode ontwikkeld die het clusteren weer net wat sneller, slimmer aanpakken. Het gaat te ver om die hier te bekijken.

Voorafgaande aan het clusteren wordt bepaald hoeveel clusters ( b.v. $k$=3 ) je wilt krijgen. De clustering (training) op basis van de gegevens levert dan die clusters die worden samengevat door de bijbehorende centra. Het algoritme meet veel afstanden, we passen het daarom toe op punten in het platte vlak, zodat je met pen, papier en liniaal eenvoudig het algoritme na kan spelen.

In figuur 5 staat de flowchart van het algoritme dat we hieronder in meer detail beschouwen.

Om de optimale clustering te vinden ga je als volgt te werk:

1. Start: Kies de centra van de clusters de eerste keer willekeurig en bepaal het maximaal aantal stappen dat je toestaat.
2. Daarna bepaal je van elk datapunt de afstand tot ieder centrum, en wijs je ieder datapunt toe aan de cluster waarvan het centrum het meest dichtstbij is.
• Als er punten zijn die in de vorige stap van cluster zijn veranderden je nog niet voorbij het vooraf gekozen maximum aantal iteraties bent gekomen dan ga je naar stap 3. Anders ben je klaar.
3. Alle datapunten zitten weer in een cluster. Er zijn datapunten die nu in een andere cluster zitten. De centra zijn dan niet voor alle clusters meer hetzelfde en moeten dus opnieuw worden berekend. Hiervoor gebruik je voor ieder cluster apart de volgende formule:
   $M(m_{1},m_{2}, \dots, m_{n})= \left( \frac{\sum^{1}_{n} a_{1i}}{n},\frac{\sum^{1}_{n} a_{2i}}{n}, \dots, \frac{\sum^{1}_{n} a_{ni}}{n}\right)$.
   $n$ is dan het aantal elementen in één cluster.

   ---

   Met die nieuwe centra veranderen ook weer de afstanden van de datapunten tot die centra en moet je dus het hele proces vanaf stap 2 weer herhalen, ofwel start de volgende iteratie.

Voorbeeld E

Gegeven zijn de volgende vier objecten:

	x	y
$A_{1}$	2	2
$A_{2}$	4	2
$A_{3}$	6	1
$A_{4}$	8	2

We bepalen vooraf dat we twee clusters willen, dus $k=2$.
Bepaal met het $K$-means algoritme een geschikte clustering.
Als afstandsmaat gebruik je de normale (Euclidische) afstand.

uitwerking

Start

Iteratie 1

Start:

Kies twee willekeurig centra. $M_{1}=(4,4)$ en $M_{2}=(6,2)$ voor respectievelijk de clusters $C_{1}$ en $C_{2}$. Dit geeft de figuur Start hiernaast.

Iteratie 1:

1. Bepaal de afstanden van de datapunten tot de centra en plaats de datapunten in het juiste cluster.
   De afstandsmatrix wordt:
   Klap dit uit voor een heel handige tip!

   Als je op een ruitjesblaadje de situatie hiernaast natekent, dan kun je de afstanden ook meten met een liniaal in plaats van iedere keer de stelling van Pythagoras hoeft te gebruiken. Dat scheelt heel veel tijd. Het hoeft in deze voorbeelden en de opgaven er na echt niet heel precies.

	$M_{1}$	$M_{2}$	toewijzing
$A_{1}$	2.83	4	$C_{1}$
$A_{2}$	2	2	$C_{1}$
$A_{3}$	3.61	1	$C_{2}$
$A_{4}$	4.47	2	$C_{2}$

2. De nieuwe clusters zijn:

   $C_{1}$	$\{A_{1},A_{2}\}$
   $C_{2}$	$\{A_{3},A_{4}\}$

   We moeten door naar stap 3
3. Bereken de nieuwe centra:
   $M_{1}'=(\frac{4+2}{2},\frac{2+2}{2})=(3,2)$ en $M_{2}'=(\frac{6+8}{2},\frac{1+2}{2})=(7,1.5)$ (zie figuur Iteratie 1)

Iteratie 2:

1. Bepaal de afstanden van de datapunten tot de centra en plaats de datapunten in het juiste cluster.
   De afstandsmatrix wordt:

   	$M_{1}'$	$M_{2}'$	toewijzing
   $A_{1}$	1	5.02	$C_{1}$
   $A_{2}$	1	3.04	$C_{1}$
   $A_{3}$	3.16	1.12	$C_{2}$
   $A_{4}$	5	1.12	$C_{2}$

2. Alle datapunten zitten in de dezelfde cluster uit de vorige iteratie. De clusters zijn niet veranderd er zijn dus ook geen nieuwe centra. We kunnen stoppen. Het doel is bereikt. De geschikte clustering is:

   $C_{1}$	$\{A_{1},A_{2}\}$
   $C_{2}$	$\{A_{3},A_{4}\}$

Voorbeeld F

Gegeven zijn de volgende vijf objecten:

	x	y
$A_{1}$	0	1
$A_{2}$	3	1
$A_{3}$	3	2
$A_{4}$	0	3
$A_{5}$	4	1

We bepalen vooraf dat we twee clusters willen, dus $k=2$.
Bepaal een juiste clustering.
Als afstandsmaat gebruik je de normale (Euclidische) afstand.

uitwerking

Start

Iteratie 1

Iteratie 2

Start:

Kies twee willekeurig centra. $M_{1}=(2,2)$ en $M_{2}=(3,0)$

Iteratie 1:

1. De afstandsmatrix wordt:

   	$M_{1}$	$M_{2}$	toewijzing
   $A_{1}$	2.24	3.16	$C_{1}$
   $A_{2}$	1.41	1	$C_{2}$
   $A_{3}$	1	2	$C_{1}$
   $A_{4}$	2.24	4.24	$C_{1}$
   $A_{5}$	2.24	1.41	$C_{2}$

2. De nieuwe clusters zijn:

   $C_{1}$	$\{A_{1},A_{3},A_{4}\}$
   $C_{2}$	$\{A_{2},A_{5}\}$

3. De nieuwe centra zijn: $M_{1}'=(\frac{0+3+0}{3},\frac{1+2+3}{3})=(1,2)$ en $M_{2}'=(\frac{3+4}{2},\frac{1+1}{2})=(3.5,1)$

Iteratie 2:

1. De afstandsmatrix wordt:

   	$M_{1}'$	$M_{2}'$	toewijzing
   $A_{1}$	1.41	3.5	$C_{1}$
   $A_{2}$	2.24	0.5	$C_{2}$
   $A_{3}$	2	1.12	$C_{2}$
   $A_{4}$	1.41	4.03	$C_{1}$
   $A_{5}$	3.16	0.5	$C_{2}$

2. De nieuwe clusters zijn:

   $C_{1}$	$\{A_{1},A_{4}\}$
   $C_{2}$	$\{A_{2},A_{3},A_{5}\}$

3. De nieuwe centra zijn: $M_{1}''=(\frac{0+0}{2},\frac{1+3}{2})=(0,2)$ en $M_{2}''=(\frac{3+3+4}{3},\frac{1+2+1}{3})=(3.33,1.33)$

In het plaatje van iteratie 2 hiernaast zie je dat de derde iteratie niet tot een verandering van clusters gaat leiden. Dus de juiste clustering is:

$C_{1}$	$\{A_{1},A_{4}\}$
$C_{2}$	$\{A_{2},A_{3},A_{5}\}$

Bij stap 1 in het algoritme zijn nog twee opmerkingen nodig. Om te beginnen de keuze van de startpunten voor de centra. Die is willekeurig, maar ze moeten wel een beetje in de buurt van de objecten liggen. Als een cluster leeg blijft kan het algoritme niet goed werken, het geeft zelfs een fout. Een simpele keuze is gewoon een paar punten uit de lijst van objecten te nemen.

Ten tweede is er het aantal iteraties. Bij grote puntenwolken kan het algoritme heel lang doorgaan, waarbij steeds minder punten van cluster wisselen. Er verandert dan op den duur weinig meer en je kunt net zo goed stoppen. Wat ook kan optreden is dat een object in een oneindige herhaling per iteratie van cluster wisselt. Om dergelijke problemen te voorkomen kun je een maximaal aantal iteraties opgeven.

Vragen

Andere cluster methoden

Als het $K$-means algoritme zo eenvoudig en snel is, waarom zijn er dan, zoals eerder genoemd, andere clusteralgoritmen? Het antwoord hierop is dat er dataverzamelingen zijn die niet passen bij het $K$-means algoritme. Bekijk maar eens het volgende plaatje.

Figuur 6: Verschillende verdelingen datapunten (bron ) en algoritmen.

De eerste kolom hoort bij een $K$-means variant. Alleen de verdeling in de vijfde rij past daar echt goed bij. Welk algoritme denk jij dat bij de verschillende rijen het beste past? Er zijn een aantal algoritmen die bij meerdere verdelingen goed scoren, maar die hebben weer andere minpunten. Het is dus van belang om te controleren of je de juiste versie kiest. Heb je meer dan twee assen dan wordt een visuele inspectie zoals in de figuur al een stuk lastiger.

De clusteralgoritmen kunnen worden onderverdeeld in partitiemethoden en hiërarchische methoden. In de partitiemethoden staat clustering met een centrum centraal. Het $K$-means valt in deze groep. In de hiërarchische methoden zijn naaste buren belangrijker. Deze buren vormen dan een stamboom vergelijkbaar met een indeling in het dierenrijk. Iedere splitsing vormt op dat niveau een cluster. In figuur 6 is Agglomerative Clustering daarvan een voorbeeld.

Voor een eerste kennismaking met clustering is het voldoende te weten dat er verschillende methoden zijn en dat deze allen iteratief werken en op afstandsmaten zijn gebaseerd. Wil je je in deze cursus meer verdiepen in clustering dan zijn de verdiepingsopdrachten hieronder een startpunt.

Vragen en opdrachten andere methoden