Mag ChatGPT een hypotheekaanvraag beoordelen?
Kunstmatige intelligentie: toejuichen of in toom houden?
Grok en ChatGPT zijn nog verre van foutloos. AI’s hallucineren met grote regelmaat, over allerlei onderwerpen. Toch moeten we nadenken over de implementatie van kunstmatige intelligentie in overheid en dienstbaarheid. Hoe lang zal het duren voordat AI een hypotheekaanvraag kan beoordelen?
Het Europees Parlement hangt van procedures aan elkaar. Zo is er een compleet draaiboek om als parlement tot een meerderheidsmening te komen, noodzakelijk voor wetgeving.
Het wetgevingsproces van de EU begint met een voorstel van de Europese Commissie. Dit voorstel gaat naar het Europees Parlement en de Raad van Ministers. In het Parlement stelt de vaste commissie voor dat onderwerp een rapport op. Dat gaat onder leiding van een aangewezen Europarlementariër, de rapporteur. (Ook voor deze keuze is een uitgebreide procedure achter gesloten deuren. Mijn partijgenoten en ik zijn in ieder geval uitgesloten wegens verkeerde mening.)
Vervolgens benoemen de andere groepen elk een schaduwrapporteur als gesprekspartner. Ik zag deze week dat ik er nu 21 op mijn naam heb staan. Het opgestelde rapport bevat analyses, amendementen en aanbevelingen. De rapporteur stelt de definitieve inhoud vast maar denkt vanzelfsprekend na over waar een meerderheid voor is. Er wordt over gestemd in de parlementaire commissie en tot slot ook nog in de plenaire vergadering.
Dit rapport is de positie van het Parlement en heeft invloed op de uiteindelijke wetgeving. De Raad en het Parlement onderhandelen in maximaal drie lezingen om tot overeenstemming te komen. Na goedkeuring wordt de wet aangenomen en gepubliceerd. Dit proces heet de gewone wetgevingsprocedure.
Maar het Europees Parlement kan ook aan de slag met zaken zonder dat de Europese Commissie de aftrap geeft: een eigen-initiatief-verslag. Dat is een niet-wetgevend rapport dat parlementsleden op eigen initiatief opstellen over een specifiek onderwerp. Het doel is om aandacht te vragen, beleid te beïnvloeden of aanbevelingen te doen aan de Europese Commissie, de Raad of andere instellingen.
Dit alternatieve verslag wordt op dezelfde manier opgesteld, besproken en er wordt over gestemd in commissie en de plenaire vergadering, maar heeft geen bindende werking. Het weerspiegelt de positie van het Parlement.
Gaelic football, jeu de boules en het spel met AI
Soms zijn het stokpaardjes. Zo was er een verslag over de promotie van traditionele Europese sporten, dat pleitte voor het behoud en de promotie van sporten zoals Gaelic football en jeu de boules. Ik heb niet opgezocht of rapporteur Tomasz Frankowski zelf een kwijnende sport beoefende. Of het verslag over de rol van cultuur en kunst in het versterken van Europese identiteit, dat pleitte voor meer EU-steun voor culturele festivals en kunstprojecten om ‘Europese cohesie’ te bevorderen. Het is de vraag of er ‘Europese kunst’ is en of dat überhaupt in staat is cohesie te bevorderen, maar rapporteur Salima Yenbou leek ervan overtuigd.
Er zitten ook daadwerkelijk interessante zaken tussen de initiatief-verslagen. Toen de commissie economische zaken kwam met het onderwerp ‘het effect van kunstmatige intelligentie op de financiële sector’, stak ik mijn vinger op om namens mijn groep, de Patriots for Europe, mee te discussiëren en te schrijven. Deze week hadden we de eerste bijeenkomst.
Mijn belangstelling hiervoor werd getrokken door de razendsnelle opkomst van kunstmatige intelligentie maar ook door het naïeve vertrouwen dat ik steeds meer zie. Ik heb nog geen enkel foutloos stuk gezien wanneer ik ChatGPT of Grok vraag zaken voor me op te zoeken. Dus waarom zou het wel goed gaan als ik deze producten vraag een hypotheekaanvraag te beoordelen? Gaat dat beter dan met traditionele software?
De rapporteur, mevrouw Arba Kokalari van de christendemocraten, had alvast een eerste aanzet opgesteld. Die viel me niet mee. Verder dan gemeenplaatsen zoals de noodzaak van een ‘coherente implementatie’, ‘duidelijke definities’ en ‘de gevaren van overregulering’ kwam ze niet. Er was wel een indrukwekkende lijst van belanghebbenden die ze al geraadpleegd had, waaronder banken en consumentenorganisaties. Maar het was uit het stuk niet duidelijk op te maken waar de Europese financiële sector nu concreet op dit moment tegenaan loopt.
Op zich is een dergelijk lijstje van voordelen en nadelen en eventuele problemen wel op te stellen. Kunstmatige intelligentie biedt grote kansen voor de financiële sector, zoals snellere data-analyse, efficiëntere processen, betere risicobeheersing en gepersonaliseerde klantendiensten. Dit kan financiële dienstverlening in Europa versnellen en goedkoper maken. Automatisering van taken zoals kredietbeoordelingen, fraude-detectie en klantenservice via chatbots verbetert de veiligheid en klantervaring. In vermogensbeheer liggen er kansen voor AI bij marktanalyse en patroonherkenning.
Maar er zijn zoals altijd zorgen over privacy, en wat ik in deze bijeenkomst de ethiek van geautomatiseerde beslissingen noemde. Zeker dit laatste is iets waar ik de nadruk op zal leggen in de verdere discussie. Ik denk dat ‘computer says no’ geen verbeterde klantervaring is. Daarnaast vereist de implementatie van AI-technologieën aanzienlijke investeringen, ook in de organisatiecultuur. Investeringen die makkelijker te dragen zijn door de grote conglomeraten dan door de kleine, lokale banken en financiële dienstverleners.
De verhouding tussen deze twee is niet in iedere lidstaat dezelfde en verdient dus aandacht. In tijden van permanent lage rentevoeten, lage rendementen, hoge nalevingskosten van vooral EU-regelgeving en grote investeringen in digitalisering, moet kostenbeheersing voor de financiële sector absoluut centraal staan in een eventuele Europese AI-strategie.
Angst voor technologische ontwikkelingen
Met dit in gedachten was ik naar de vergadering gegaan. De meeste politieke groepen waren vertegenwoordigd. Vanzelfsprekend waren er de gebruikelijke doemdenkers die iedere ontwikkeling toejuichen zolang er niets wezenlijks verandert. Maar de rapporteur verraste mij totaal. Ze wees er in haar openingsverhaal op dat kunstmatige intelligentie de hoop op groei van arbeidsproductiviteit levend houdt. Dat ze geen wegzakkend continent wil maar juist een welvarend continent dat de concurrentie met de rest van de wereld aankan. Dat de financiële sector in de EU al de meest gereguleerde op aarde is. Dat er niet een gebrek is aan regels maar aan handhaving van regels. En dat we niet zo bang moeten zijn voor technologische ontwikkelingen.
Nou, daar ging een fors deel van mijn voorbereide tekst. Ik kon nog zeggen dat ik in haar eerste rapport geen duidelijke lijn kon ontdekken, en ik heb mijn lijstje van voordelen en nadelen opgenoemd. En vervolgens gezegd dat we vooral enthousiast naar de mogelijkheden moeten kijken. Dit zijn immers hele mooie ontwikkelingen.
De rapporteur wist als slotopmerking te vertellen dat ze pas een paar uur van tevoren haar verhaal had geschreven terwijl het rapport al eerder was opgesteld op neutrale toon. Dat kwam op mij bijzonder positief over want dit geeft volop ruimte voor discussie.
Natuurlijk, het is maar een eigen initiatief van het Europees Parlement. Er ligt geen wetsvoorstel, gelukkig niet. En ik heb nog zoveel andere dingen liggen. Maar het is goed dat we alvast de eerste gedachten uitwerken. Dat we zien hoe de verhouding tussen huiver en overdreven enthousiasme ligt bij de mensen die uiteindelijk met hun stem aan de samenleving beperkingen opleggen. Want kunstmatige intelligentie is een blijvertje, en de financiële sector ook.
— Auke Zijlstra is Europarlementariër namens de PVV. Voor NN schrijft hij over het wel en vooral wee in Brussel. Op X is hij te vinden als @EconoomZijlstra. Zijn eerdere Berichten uit Brussel zijn te vinden op deze pagina.
Aan- of aanmelden voor notificaties van separate onderdelen van Nijmans Nieuwsbriefje doet u via uw accountpagina. Normaliter is de commentfunctie alleen open voor paid subscribers. Omdat Auke een volksvertegenwoordiger is, zijn ze onder zijn bijdragen voor allen geopend.
Toejuigen of in toom houden? Het is denk ik...én in toom houden.
The famous quote;
"A computer can never be held accountable, therefore a computer must never make a management decision".
Originated from IBM's training materials in 1979. It highlights the historical belief that, given computers cannot be held responsible, decision-making power should remain with human managers. This quote resurfaces in modern discussions about AI and machine learning, sparking debates about the ethical implications of automating decision-making processes.
Here's a breakdown of the quote's meaning and significance:
Accountability:
The core idea is that computers are not legally or morally responsible for their actions. This contrasts with human beings, who can be held accountable for their decisions and their consequences.
Decision-Making:
The quote suggests that because computers lack accountability, they should not be entrusted with tasks that require judgment or could lead to significant consequences, particularly in management.
Historical Context:
The quote was created in a time when AI was in its early stages, and there was less understanding of its potential and limitations.
Modern Relevance:
As AI and automation become more prevalent in various fields, the question of accountability for AI-driven decisions is increasingly important. This has led to discussions about how to ensure responsible AI practices and how to address potential biases or errors in AI systems.
Current Challenges:
The IBM quote raises a critical point about the potential for AI to exacerbate existing biases or make decisions that are unfair or harmful. It highlights the need for careful consideration of the ethics and legal implications of AI decision-making.
Ik heb het even aan Claude Sonnet 4 gevraagd.
"Mag een AI systeem hypotheekaanvragen beoordelen?
In Nederland mogen AI-systemen hypotheekaanvragen beoordelen, maar er gelden wel strikte regels en beperkingen.
Wat is toegestaan:
AI mag worden gebruikt als ondersteuning bij hypotheekbeoordelingen, bijvoorbeeld voor het analyseren van financiële gegevens, risico-inschatting en het maken van voorlopige beoordelingen.
Belangrijke vereisten:
Menselijke controle: Een mens moet altijd de uiteindelijke beslissing nemen of kunnen ingrijpen
Transparantie: Consumenten hebben recht op uitleg over hoe de beslissing tot stand is gekomen
Non-discriminatie: Het systeem mag niet discrimineren op basis van beschermde kenmerken zoals geslacht, etniciteit of religie
Nauwkeurigheid: De AI moet betrouwbaar en accuraat zijn
Relevante wetgeving:
De AVG (privacywetgeving) geeft consumenten rechten bij geautomatiseerde besluitvorming
De Wet gelijke behandeling verbiedt discriminatie
De aankomende EU AI Act zal extra eisen stellen aan AI-systemen in de financiële sector
In de praktijk:
Veel Nederlandse banken gebruiken al AI-ondersteuning bij hypotheekaanvragen, maar altijd met menselijke supervisie. Complete automatisering zonder menselijke betrokkenheid is problematisch vanwege de complexiteit van hypotheekbesluiten en de impact op consumenten.
Bent u geïnteresseerd in een specifiek aspect van AI bij hypotheken, zoals de technische implementatie of de juridische aspecten?"