Er zijn juist meer ICT'ers nodig (column: Erdinç Saçan)

Met AI kun je tegenwoordig in een middag een app bouwen. Een paar prompts invoeren, wat klikken en publiceren. Of te wel: vibe coding. Je beschrijft wat je wilt hebben, AI schrijft de code en voor je het weet staat er iets werkends op je scherm.

Begrijp me niet verkeerd: ik vind dat fantastisch. Wil je een script maken dat automatisch je mailbox opruimt? Prima. Wil je een prototype bouwen om een idee te testen of aan collega's te laten zien? Nog beter.

Maar een recente gebeurtenis in Zwitserland laat zien waar het mis kan gaan. Een medisch professional bouwde met behulp van AI een eigen patiëntensysteem. Patiëntgegevens werden geïmporteerd, consulten werden doorgestuurd naar AI-diensten en het systeem werd online gezet. Vervolgens bleek dat een securityspecialist binnen korte tijd toegang kon krijgen tot alle patiëntdossiers.

Het systeem werkte. Dat was juist het probleem. Omdat het werkte, werd het gebruikt.

Romano Roth verwoordde het treffend op LinkedIn: dit is niet de democratisering van software, maar de democratisering van aansprakelijkheid. Zodra software echte persoonsgegevens verwerkt, houdt het verhaal niet op bij een werkende applicatie. Dan gaat het over beveiliging, privacy, wetgeving, toegangsrechten, beheer en verantwoordelijkheid.

Dat sluit mooi aan bij een recent artikel van onderzoekers Arvind Narayanan en Sayash Kapoor. Zij beschrijven softwareontwikkeling als veel meer dan code schrijven. Eerst moet je bepalen wat je gaat bouwen. Daarna volgt de uitvoering. Vervolgens moet je controleren of het veilig, betrouwbaar en verantwoord gebruikt kan worden. Juist die eerste en laatste stap blijken vaak het meeste werk te kosten.

Dat zie ik ook terug in het onderwijs. Studenten kunnen tegenwoordig in korte tijd indrukwekkende dingen maken. Een chatbot, een dashboard of zelfs een complete applicatie. Maar tijdens gesprekken met studenten merk ik dat de interessantste vragen steeds minder over code gaan. Waar worden gegevens opgeslagen? Wie heeft toegang? Welke risico's zitten er in het systeem? Wat gebeurt er als een AI-model een verkeerde beslissing neemt? En wie is daarvoor verantwoordelijk?

Misschien is dat wel de grootste misvatting van dit moment. Dat AI ervoor zou zorgen dat we minder ICT'ers nodig hebben. Terwijl het tegenovergestelde gebeurt. Hoe makkelijker het wordt om software te bouwen, hoe belangrijker het wordt dat er mensen zijn die begrijpen hoe systemen werken, risico's herkennen en de gevolgen van keuzes kunnen overzien. Alleen moet ict-onderwijs zich dan ook hierop aanpassen! Zo snel mogelijk.

Erdinç Saçan geeft les aan Fontys Hogeschool ICT en is AI-expert. Vorig jaar verscheen van hem het boek AI voor Iedereen. Lees hier zijn eerdere columns voor Bron.