# 🗒️ Feedback frenzy tekst

## Feedback&#x20;

{% file src="<https://2378271810-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-MT0yicKGa1bThrmParC%2F-MX6oZxWHdho0I2KdDIU%2F-MXHNnUy7sEHGKiLocHZ%2FFeedback%20Frenzy%20-%20Eyob%20Westerink%20pdf.pdf?alt=media&token=92d939d7-1f95-4c50-ab0f-4a85cea6b0d7>" %}
Feedback Frenzy - Catch Your Risk Profile&#x20;
{% endfile %}

Hoi ik zou graag feedback willen krijgen op mijn concept en mijn user interface.

Ik zal hierbij eerst iets meer vertellen over mijn&#x20;

onderwerp,  design challenge,  en vervolgens mijn concept.

## Mijn onderwerp gaat over

Biases in predictive policing systems

Nou wat zijn predictive policing systems ?&#x20;

in het kort zijn het **bestrijdingsmethodes die de politie helpt om op basis van algoritmen  criminaliteit te kunnen voorspellen.**

Nou wat het is probleem van het toepassen van zulke systemen in onze samenleving?

## Het probleem

~~Om misdadigers en verdachten sneller op te sporen maakt de politie gebruik van predictive policing-methodes~~.&#x20;

De politie maakt sinds 2016 gebruik gemaakt van gezichtsherkenningsprogramma   ‘CATCH’. De software wordt ook wel gelaatsvergelijking genoemd, omdat CATCH geen oordeel geeft wie iemand ‘is’, maar alleen ‘op wie iemand lijkt’.

CATCH wordt op dit moment ingezet om de identiteit van een verdachte of veroordeelde te veriferiëren **aan de hand van een dataset**. Het gezichtsherkenningssysteem wordt op dit moment dus nog **niet real time gebruikt** om verdachten te lokaliseren in de publieke ruimtes. Er zijn al wel proeven waarin het wordt getest en is het in principe technisch al mogelijk om real time gezichtsherkenning in de publieke ruimte toe te passen. Dit  wordt  daarom ook niet uitgesloten dat dit in de toekomst ook zal worden toegepast.&#x20;

Omdat de kans bestaat dat de politie de real time technologie wel wil gaan toepassen is de kans op "**function creep**" aanwezig.&#x20;

{% hint style="info" %}
**Wat is function creep?** Wanneer technologie op een bepaald moment ingezet wordt voor andere doeleinden dan oorspronkelijk bedoeld was wordt dit "function creep" genoemd.
{% endhint %}

Het ontstaan van function creep bij informatie en technologie is eerder een gewoonte dan een uitzondering. Dit komt met name door de wens van opsporingsdiensten om steeds efficiënter te werken. Hierdoor kunnen bepaalde functionaliteiten ook op eens voor de meest "nare scenario's" worden toegepast waar wij als burgers niet van bewust zijn.&#x20;

Het probleem van function creep is dat het er vaak voor zorgt dat in de toekomst precies datgene gebeurt wat op dit moment wettelijk wordt uitgesloten.

\----&#x20;

## Design challenge:

**“Hoe kan ik doormiddel van een interactieve ervaring bewustwording creëren over de impact van predictive policing systemen en zichtbaar maken hoe deze systeem kunnen leiden tot biased profiling?”**

## Concept:

Met mijn concept wil ik het gevaar laten zien wat "**function creep**" met zich mee brengt zodra bepaalde technieken verder worden toegepast binnen predictive policing systemen.&#x20;

Door een screening systeem te maken waarbij je inzicht krijgt "how likely" je door het systeem als misdader wordt aangemerkt. Wil ik aandacht en bewustwording creëren bij de onwetende burger. Ook wil ik hiermee een vraag achter laten of wij zulke systemen in onze samenleving willen hebben en-of dit te veel inbreuk maakt op onze privacy.&#x20;

Het doel van mijn applicatie is om de gebruiker inzicht te geven hoe A.I. systemen bepaalde biases hebben over jou en zomaar een bepaalde profiel van jou maken op basis van zelflerende software. Hierdoor wordt je als het ware als persoon in een bepaalde "hokje" geplaatst wat misschien onschuldig lijkt, maar door de koppeling tussen jou profiel en misdrijf data krijgt het een minder onschuldige wending en kan dit leiden tot en het versterken van etnisch profileren en discriminatie van bepaalde groeperingen met bepaalde kenmerken. Door transparant te zijn en uit te leggen hoe het systeem op bepaalde uitkomst is gekomen kan bewust wording gecreëerd worden in hoe soortgelijke a.i. systemen werken.

De politie zou in de toekomst een soortgelijke applicatie kunnen gebruiken waarbij zij  zich vervolgens op de personen of locaties die aangemerkt worden als ‘hoog risico’ gaan richten.

Mijn concept geeft als het ware een van de mogelijkheden van "function creep" weer dit is iets wat in de toekomst kan gebeuren wanneer **real time gezichtsherkenning** met  in combinatie met algoritmes en misdrijf data gedaan kan worden.&#x20;
