14 oktober 2020

Met een mini-webinar getiteld “Responsible AI & Corona” heeft ALLAI het gelijknamige project zojuist formeel gelanceerd op WorldSummitAI.

Waarom dit project?

Allereerst kan AI een belangrijke rol spelen in deze crisis. AI kan bijdragen aan het begrip van de verspreiding van het virus, aan het zoeken naar een vaccin en aan de behandeling van COVID-19. Het kan ook beleidsmaatregelen sturen en inzicht krijgen in de impact op lange termijn.

Aan de andere kant weten we echter dat AI erg invasief kan zijn en nadelige effecten kan hebben. We zien een wildgroei aan invasieve AI-toepassingen in deze crisis. Het scannen van termperatuur op afstand scannen. Wearables die de zuurstof in ons bloed meten. Gezichtsherkenning die het gebruik van gezichtsmaskers of social distancing detecteert.

Maar ook toepassingen voor het volgen van die werknemers, nu velen van ons thuis werken. Of beoordelingsalgoritmen, zoals het Britse algoritme dat studenten te laag beoordeelde waardoor velen kansen op hun gedroomde vervolgopleiding in rook op zagen gaan.

In tijden van crisis hebben we de neiging om sneller naar dit soort ‘invasieve’ technologie te krijgen en ‘een oogje dicht te knijpen’ als het gaat om fundamentele rechten, ethische waarden en zelfs effectiviteit. We zijn geneigd te denken dat nood wet breekt en het motto is vaak: baat het niet dan schaadt het niet. En we zijn geneigd te geloven dat een invasieve technologie die schadelijk is, na de crisis wel weer zal worden ontmanteld. Helaas hebben eerdere crises aangetoond dat als een technologie er eenmaal is, deze meestal niet meer verdwijnt.

En daarom vinden we dat deze crisis verantwoorde AI nodig heeft. Ondanks de urgentie, of beter gezegd, vanwege de urgentie, nu meer dan ooit. Om ervoor te zorgen dat AI daadwerkelijk helpt bij het aanpakken van de Corona-crisis, zonder daarbij de samenleving schade te berokkenen.

Wat houdt het project in?

• We zullen een Observartory opzetten waar we de verschillende AI-toepassingen die in deze crisis worden gebruikt in kaart brengen. Zowel medisch als sociaal.
• We organiseren expertsessies voor beleidsmakers, artsen en de media om het bewustzijn en de kennis over de noodzaak van verantwoorde AI tijdens deze crisis te vergroten.
• We gaan onderzoeken wat Responsible AI in crisistijden nu eigenlijk inhoudt. Met welke afwegingen we te maken hebben en hoe we principes in praktijk brengen.
• We zullen expertinterviews houden en relevant nieuws brengen.
• We zullen een beperkt aantal Quickscans uitvoeren, waarbij we AI-toepassingen onderwerpen aan een eerste snelle beoordeling of ze aansluiten bij de elementen van verantwoorde AI.

Experts

Het project wordt geleid door Virginia Dignum (wetenschappelijk leider), medeoprichter ALLAI en hoogleraar ethische en sociale AI en Catelijne Muller (projectleider), voorzitter van ALLAI en expert in AI & recht, democratie en samenleving.

We zijn vereerd dat we voor dit project een groot aantal experts uit verschillende vakgebieden aan boord hebben:

• Frank Dignum, Professor Socially Aware AI, Universiteit van Umeå
• Nathali Smuha, Assistent Docent & Onderzoeker (EU) Recht & AI, KU Leuven
• Jan van Gemert, Hoofd Computer Vision Lab, TU Delft
• Andreas Theodorou, PD Fellow Computer Science, Umeå University
• Gabrielle Speijer, MD oncologie-radiologie, Haga Ziekenhuis, eigenaar Catalyzit
• Roel Dobbe, Assistant Professor ‘security, sustainability and democratization of algorithmic systems and complex digital infrastructures TU Delft, Postdoc. AINow Institute, New York
• Frederik Zuiderveen Borgesius, Professor ICT & Privaatrecht, Radboud Universiteit
• Dagmar Monett-Diaz, Professor Computerwetenschappen, Berlin School of Economics and Law
• Catholijn Joncker, Professor Explainable AI, TU Delft
• Filippo Santoni de Sio, Universitair docent Ethiek & Technologie, TU Delft
• Bart Geerts, MD, Msc, PhD, CEO Healthplus AI

Projectpage | Key data | Doelstellingen