Waymo najwyraźniej nie czyta znaków. Robotaksówki regularnie wjeżdżały na zamknięte autostrady

Samochody autonomiczne miały wyeliminować ludzkie błędy. Tymczasem okazuje się, że sztuczna inteligencja także potrafi podejmować zaskakująco złe decyzje. Waymo właśnie ogłosiło akcję przywoławczą obejmującą 3871 robotaksówek po tym, jak pojazdy tej firmy regularnie trafiały tam, gdzie nie powinny się znaleźć - na zamknięte odcinki autostrad objęte pracami drogowymi.

Waymo ma problem z rozpoznawaniem zamkniętych odcinków dróg

Sprawa dotyczy samochodów wyposażonych w piątą generację systemu autonomicznej jazdy Waymo. Firma zgłosiła problem do amerykańskiej agencji NHTSA i rozpoczęła procedurę aktualizacji oprogramowania.

Według dokumentów regulatora odnotowano co najmniej 13 przypadków, w których autonomiczne taksówki wjechały na zamknięte fragmenty autostrad. Sześć takich zdarzeń miało miejsce w Phoenix, siedem odnotowano w San Francisco.

Nie były to pojedyncze błędy wynikające z wyjątkowo skomplikowanej sytuacji drogowej. Skala problemu okazała się na tyle duża, że producent zdecydował się ograniczyć działanie swoich pojazdów.

Do czasu wdrożenia poprawki robotaksówki nie będą korzystać z autostrad w takim zakresie jak wcześniej. Nowa wersja oprogramowania ma nauczyć samochody rozpoznawania stref robót drogowych oraz unikania zamkniętych odcinków tras.

To brzmi zabawnie, ale jest skrajnie niebezpieczne

Problem w tym, że za barierami bardzo często znajdują się pracownicy, ciężki sprzęt, a nawierzchni może po prostu... nie być.

Człowiek może błędnie ocenić sytuację, ale zazwyczaj szybko wyłapuje swój błąd - o ile nie jest pod wpływem różnych substancji. Komputer analizuje zaś dane z czujników, kamer i map. Jeżeli któryś z tych elementów zawiedzie, system może podjąć decyzję, która z perspektywy człowieka wydaje się całkowicie nieracjonalna.

To kolejna wpadka Waymo w krótkim czasie

To nie pierwszy przypadek, gdy Waymo musi poprawiać swoje oprogramowanie po nieoczekiwanych zachowaniach pojazdów. Zaledwie miesiąc wcześniej firma przeprowadziła inną akcję przywoławczą. Tym razem autonomiczne samochody miały problem z oceną sytuacji podczas gwałtownych opadów i lokalnych podtopień w Teksasie. Jeden z pojazdów wjechał na zalaną drogę i utknął.

Po tym zdarzeniu Waymo zaktualizowało mapy oraz zwiększyło ograniczenia związane z niekorzystnymi warunkami pogodowymi. Lista problemów jest jednak dłuższa.

W styczniu robotaksówka Waymo potrąciła dziecko, które wybiegło na jezdnię zza zaparkowanego SUV-a. Firma podkreśla, że pojazd wykrył zagrożenie i znacząco zmniejszył prędkość przed kontaktem. Sprawa nadal pozostaje przedmiotem dochodzenia.

Autonomiczne samochody nadal są dalekie od doskonałości

Przypadek Waymo dobrze pokazuje największy problem współczesnych systemów autonomicznej jazdy. W większości sytuacji działają bardzo dobrze. Potrafią przejechać tysiące kilometrów bez błędów i często zachowują się ostrożniej niż ludzie.

Jednocześnie jednak wystarczy jedna nietypowa sytuacja, aby pojawiły się problemy, których kierowca prawdopodobnie uniknąłby bez większego wysiłku. Robotaksówka wjeżdżająca na zamkniętą autostradę czy samochód autonomiczny ignorujący zalaną drogę pokazują, że technologia nadal ma poważne ograniczenia.

Możecie jednak spać spokojnie. W Polsce Waymo raczej szybko się nie pojawi. Za to takie robotaksówki zamówicie niebawem w Londynie. To pierwsze europejskie miasto, które je wprowadza.