De machine zei twaalf, het was zesentwintig
AI is een geweldig gereedschap en een slechte getuige. Wat een verkeerde looptijd in een reisgids leert over waar je een machine wel en niet op vertrouwt.
Toen ik met AI die buurtgids voor Lissabon maakte, ging het op één punt overtuigend mis. Een restaurant stond vermeld op twaalf minuten lopen. In werkelijkheid was het zesentwintig. De machine had het niet berekend, ze had het overgeschreven van een eerdere gids voor een ander adres, en het met volle stelligheid gepresenteerd.
Dat is het patroon om te onthouden. Een taalmodel is vloeiend en zelfverzekerd, ook als het niets weet. Het klinkt nooit onzeker. De fout zat niet in de rekenkracht, die is enorm, maar in het gemak waarmee ze een aanname voor een feit verkocht.
Waar je het wél op vertrouwt
De oplossing was niet de machine wantrouwen, maar haar verankeren. We toetsten elke looptijd aan echte transitdata als ijkpunt, en bouwden pas daarna een model dat de rest kon uitrekenen. Toen klopte het wel. De machine was uitstekend in het werk, zodra ze een grond onder de voeten had die ze niet zelf verzon.
Zo gebruik je dit gereedschap. Niet als orakel dat je gelooft, maar als vakman-assistent die je controleert. De verantwoordelijkheid voor wat waar is, blijft bij jou. Dat is geen tekortkoming van de techniek. Het is de afspraak.