Afstudeerstage Modelling en Advanced Analytics in Utrecht

Fair algorithms
Financiële instellingen maken steeds meer gebruik van algoritmen en modellen om hun processen efficiënter te maken en de dienstverlening te personaliseren. Denk bijvoorbeeld aan de inzet van een algoritme dat beslist of een krediet verstrekt wordt aan een klant. De beschikbaarheid van goedkope data storage, en daarmee de zogenaamde “big data” en toegenomen rekenkracht maakt het ook haalbaar om zeer fijnmazige “risicoprofielen” op te stellen via machine & statistical learning technieken.

Bij het gebruik van dergelijke technieken ligt ook onbedoelde discriminatie op de loer. Tot ca. 10 jaar terug werd vaak gedacht dat de inzet van algoritmen zou leiden tot minder discriminatie, omdat technologie waarden-neutraal is. Inmiddels is duidelijk geworden, zie bijv. het boek of het rapport , dat de automatiseringsslag ook onbedoelde zij-effecten kan hebben. De vraag rijst hoe we algoritmen kunnen “opvoeden”.
 
Opdracht

• In kaart brengen van verschillende definities van “fairness” van een algoritme. Reflectie op de bruikbaarheid van deze definities voor een selectie van concrete algoritmen/toepassingen (binnen de Volksbank).
• Onderzoeken welke methoden beschikbaar zijn om de “fairness” van een algoritme te toetsen en deze toepassen op een Volksbank algoritme (o.b.v. gesimuleerde data / echte data).
• Reviewen van de beschikbare methoden om een “fair” algoritme te ontwikkelen (“fairness by design”) en een algoritme van de Volksbank aanpassen zodanig dat deze fair is. Hierbij moeten de kosten van fairness, in termen van een vermindering van ‘performance’, ook in kaart gebracht worden.

Literatuur

• Binns, R. (2018). Fairness in Machine Learning: lessons from political philosophy.  In: Proceedings of Machine Learning Research 81, Conference on Fairness, Accountability, and Transparency.
• Boyd, D. and K. Crawford (2012). Critical questions for big data. Information, Communication & Society 15(5), pp.662-679.
• Caliskan, A., Bryson, J. J., en Narayanan, A. (2017).  Semantics derived automatically from language corpora contain human-like biases. Science 356 (6334), pp.183-186.
• Dwork, C., M. Hardty, T. Pitassiz, O. Reingoldx, and R. Zemel (2011). Fairness through awareness. ITCS `12 Proceedings of the 3rd Innovations in Theoretical Computer Science Conference.
• Kusner, M.J., J. Loftus, C. Russell, and R. Silva (2017). Counterfactual fairness. In: Advances in neural information processing systems 30 (NIPS).’
• Zemel, R., Y.L. Wu, K.  Swersky, and T. Pitassi (2013). Learning fair representations. Proceeding of the 30th Internation Conference of Machine Learning.

Wij vragen

• Je volgt een wo-opleiding in de richting van Econometrie, Mathematische Statistiek of Machine Learning

Wat krijg je van ons?

•     Aantrekkelijke stagevergoeding van €600 tot €700,- p/mnd
•     Reiskostenvergoeding
•     Laptop in bruikleen
•     Professionele begeleiding
•     Veel eigen verantwoordelijkheid

de Volksbank
De organisatie achter ASN Bank, BLG Wonen, Regiobank en SNS, dat is de Volksbank. Met een balanstotaal van € 61 miljard is de Volksbank de vierde retailbank van Nederland. Groot genoeg om jouw persoonlijke ambities waar te maken en compact genoeg om zichtbaar impact te hebben. Door de korte lijnen zit je snel met beslissers aan één tafel. Onze cultuur is informeel en down-to-earth. Bij ons kun je jezelf zijn en werk je samen met een diverse club van zo’n 4.500 collega’s aan een omslag in de bankenwereld. Met lef, optimisme en innovatiedrang brengen wij de menselijke maat terug in bankieren. Dat wil zeggen dat we oprecht de belangen van mens, milieu en maatschappij voorop stellen en verantwoorde keuzes maken in onze bedrijfsvoering. Bouw jij mee aan de bank van de toekomst?