Kort samengevat: De Waymo terugroepactie van 4.000 zelfrijdende taxis is officieel aangekondigd. De robotaxis van Waymo negeerden herhaaldelijk borden over wegwerkzaamheden en de NHTSA onderzoekt de software van elke zelfrijdende taxi.

Waymo kampt met een hardnekkig probleem met wegwerkzaamheden op snelwegen. Maar liefst dertien keer gebeurde het dat de robotaxis gewoon doorreden waar wegwerkzaamheden aan de gang waren, ondanks duidelijke waarschuwingsborden. Zes incidenten vonden plaats in Phoenix, Arizona, en zeven in San Francisco, Californie. De incidenten speelden zich af in april en mei van dit jaar.

Op 19 mei haalde Waymo al zijn zelfrijdende taxis van de snelweg als voorzorgsmaatregel. Nu volgt een officiele terugroepactie van 4.000 voertuigen. Het is de zesde recall voor Waymo in korte tijd, wat vragen oproept over de betrouwbaarheid van de technologie.

Alweer de zesde recall

De geschiedenis van Waymo recalls is veelbewogen. In mei moesten taxis al terugkomen omdat ze door ondergelopen wegen bleven rijden, wat gevaarlijke situaties opleverde. Daarvoor waren er problemen met het herkennen van schoolbussen en het begrijpen van hun gedrag op de weg. De Amerikaanse verkeerswaakhond NHTSA onderzoekt de software van Waymo nu op bredere schaal.

Waymo zegt tegen TechCrunch: "We hebben een verbeterpunt vastgesteld bij wegwerkzaamheden op snelwegen. We hebben de activiteiten vorige maand vrijwillig beperkt, toezichthouders proactief geinformeerd en een vrijwillige software-terugroepactie ingediend bij de NHTSA." Het bedrijf werkt aan een oplossing, maar die is nog niet beschikbaar.

Wat dit betekent voor AI-veiligheid

In Nederland zijn zelfrijdende taxis nog niet op de weg, maar Waymo heeft ambitieuze uitbreidingsplannen. Het bedrijf wil dit jaar in twintig extra steden gaan rijden, waaronder Londen in het Verenigd Koninkrijk. De Waymo terugroepactie laat zien dat de technologie nog volop in ontwikkeling is, vooral bij onverwachte situaties zoals wegwerkzaamheden.

Waymo zelf zegt dat het nog steeds veilig is: op 250 miljoen autonoom gereden kilometers waren er dertien keer minder ernstige verwondingen en dodelijke crashes dan bij menselijke bestuurders. Maar elke edge case die fout gaat, vertraagt het vertrouwen in autonoom rijden bij het grote publiek. De Waymo terugroepactie is een reality check voor de hele sector van zelfrijdende voertuigen.

Bespreek dit met andere AI-makers in de KREATE Community.