Big data: inzicht in de risico's
Big data: insight into the risks
Een paar jaar geleden werd data nog vaak het nieuwe goud genoemd. Tegenwoordig noemen we data echter steeds vaker de nieuwe olie. Dat past beter, want naast het feit dat slim gebruik maken van data leidt tot allerlei innovaties zitten er ook negatieve kanten aan het inzetten van data om de maatschappij te besturen. Worden onze rechten wel voldoende beschermd als we op basis van onze digitale profielen volledig geautomatiseerd in hokjes worden gegooid?
We willen met Bits of Freedom structureel nadenken over deze problemen en de bijbehorende oplossingen. Daarom organiseerden we in maart 2016 samen met onze Poolse evenknie Panoptykon een tweedaagse bijeenkomst over de 'quantified society'. Met 24 internationale experts hebben we het huidige landschap rondom dit onderwerp in kaart gebracht en zijn thema's zoals discriminatie door algoritmes of de manier waarop verantwoordelijkheid voor algoritmes zou moeten worden vormgegeven verder uitgediept. Cathy O'Neil gaf tijdens een bijeenkomst een korte cursus data science. Later in het jaar kwam haar bestseller Weapons of Math Destruction uit. Een aanrader omdat O'Neil daarin glashelder uitlegt op welke manieren de inzet van algoritmes als 'wapens' tot slachtoffers leidt.
De Wetenschappelijke Raad voor Regeringsbeleid (WRR) schreef halverwege het jaar een belangrijk rapport: Big data in een vrije en veilige samenleving. De WRR stelt daarin de vraag hoe big data voor een effectiever veiligheidsbeleid gebruikt kan worden zonder dat daarbij de waarborgen voor privacy verloren gaan. Naar aanleiding van het rapport (en onze eerdere oproep op een visie op privacy van de regering) werden we door de ministers van Veiligheid en Justitie én van Binnenlandse Zaken uitgenodigd om een groep privacybewuste experts te verzamelen en met die groep ons perspectief te komen geven.
A few years ago, data was frequently referred to as ‘the new gold’. Nowadays, it’s increasingly dubbed ‘the new oil’. A better fit, because besides the fact that making smart use of data leads to all kinds of innovations, there are also negative aspects to implementing data to steer society. Are our rights sufficiently protected if, based on our digital profile, we are automatically pigeon- holed?
At Bits of Freedom, we want to structurally think about these problems and the accompanying solutions. This is why, in March 2016, we organised a two-day meeting about 'quantified society', in collaboration with our Polish counterpart Panoptykon. Together with 24 experts, we identified the current landscape surrounding this topic and explored themes such as discrimination through algorithms, or the way in which responsibility for algorithms should be further developed. During one session, Cathy O'Neil gave a short course about data science. Later in the year, her bestseller Weapons of Math Destruction was released. Highly recommended, as O’Neil explains clearly the ways in which the use of algorithms as ‘weapons’ leads to victims.
Halfway through the year, the Scientific Council for Government Policy (WRR) wrote a significant report: Big data in a free and safe society. In this report, the WRR poses the question of how big data can be used for a more effective security policy whilst at the same time safeguarding fundamental rights. Following the report, (and our earlier call for a vision on privacy from the government), we were invited by the ministers of Security and Justice and Home Affairs to bring together a group of privacy-conscious experts to come and share our perspective on these matters.
Zo'n gesprek is een mooie kans, maar tegelijkertijd is het heel moeilijk om in een klein uurtje alle belangrijke punten glashelder over te brengen. Ik heb dus heel veel energie gestopt in het vinden van en het afstemmen met de experts. Samen met vertegenwoordigers van de Nederlandse Vereniging voor Journalisten, het Public Interest Litigation Project, Internet Society Nederland, de Nederlandse Vereniging voor Strafrechtadvocaten, Privacy First en het Privacy & Identity Lab schreven we een brief met onze belangrijkste punten. We maakten duidelijk dat met ongerichte surveillance en een gebrek aan doelbinding belangrijke principes van de rechtsstaat worden losgelaten, dat de ontwikkeling van nieuwe technische mogelijkheden de overheid niet ontslaat van de plicht om de noodzaak van alle inbreuken op privacy aan te tonen en stipten een aantal van de schadelijke effecten binnen een democratische rechtsstaat aan. Het gesprek en de brief hebben geleid tot een genuanceerde en kritische kabinetsreactie op het WRR rapport en inmiddels worden we ook binnen andere big data-trajecten van de overheid al vroeg betrokken om als experts advies te komen geven. Een resultaat waar we trots op zijn.
Het afgelopen jaar hebben we ook nog op een heel andere manier aandacht besteed aan de centrale rol die data speelt in ons leven. Samen met Paradiso organiseerden we een Google-examen. Aan een volle zaal stelde Joris Luyendijk de vraag: Google weet veel over jou, maar wat weet jij eigenlijk over Google? Het publiek zat met een stemkastje op schoot en kon vragen beantwoorden over de geschiedenis van Google, fascinerende Google-projecten zoals de robot Pepper of de gezondsheidspil van Calico, en over de politieke rol van Google. De vragen werden geïllustreerd met video's en toegelicht door experts zoals ex-Googler Barbara Davis en Next Web CEO Boris Veldhuijzen van Zanten. Zelfs wij hadden niet alle vragen goed!
Together with representatives of the Dutch Society for Journalists, the Public Interest Litigation Project, Internet Society Nederland, the Dutch Society for Criminal Lawyers, Privacy First and the Privacy & Identity Lab, I drafted a letter outlining our most important issues. We made it clear that untargeted surveillance and lack of purpose limitations means that important principles of the rule of law are being neglected, that the development of new technological possibilities does not relieve the government of its obligation to demonstrate the necessity of all violations of privacy and we pointed out some of the harmful effects this security policy could have within a democratic constitutional state. This discussion and our letter resulted in a nuanced and critical cabinet response to the WWR report and we are now being involved in the early s
Over the past year, we have also focused in a completely different way on the key role that (big) data plays in our lives. Together with the Paradiso, we organised a Google exam. Joris Luyendijk, to a packed audience, posed the question: Google knows a lot about you, but what do you actually know about Google? The audience, using a voting box, were able to answer questions about the history of Google, about fascinating Google projects such as the robot Pepper or Calico’s health pill, and about Google’s political role. The questions were illustrated with videos and explained by experts such as ex-Googler Barbara Davis and Next Web CEO Boris Veldhuijzen van Zanten. And no, even we didn’t get all the questions right!