Naukowcy oszukali Autopilota i zmusili Teslę do awaryjnego hamowania [FILM]
Już w przyszłym tygodniu pierwsze pojazdy od Tesli staną się w pełni autonomiczne, tymczasem naukowcy wykryli błędy w oprogramowaniu, które mogą doprowadzić do groźnych incydentów na drodze.
Eksperci z Uniwersytetu Ben Guriona w Beer Szewie w Izraelu przygotowali eksperyment, w trakcie którego w bardzo prosty sposób udało się im oszukać systemy autonomiczne znajdujące się na pokładzie Modelu X od Tesli i zmusić pojazd do gwałtownego zahamowania.
Na początek użyli projektora, za pomocą którego wyświetlili obraz ludzkiej sylwetki na drodze oraz znaku ograniczenia prędkości. W obu przypadkach auto zwolniło, a nawet gwałtownie zatrzymało się. Najnowszy test polegał na umieszczeniu małego wyświetlacza przy drodze. Wyświetlana była na nim reklama burgerów, w której użyto symbolu znaku stop.
Model X gwałtownie zatrzymał się w trakcie jazdy, zupełnie jakby dojechał do drogi z pierwszeństwem przejazdu i ustawionym przy niej znakiem stop. Inżynierowie wskazują, że gdyby reklama taka pojawiła się na wyświetlaczach przy głównych drogach, pojazdy Tesli mogłyby zatrzymywać się w miejscu i wówczas na pewno doszłoby do groźnych incydentów.
Symbol znaku stop pojawił się w reklamie tylko na 500 ms, a to już wystarczyło do reakcji Autopilota. Problemem jest tutaj system bazujący na kamerach, a nie na na technologii LiDAR. Auta wyposażone w ten radar o wiele lepiej mapują otoczenie pojazdu i bez problemu wykrywają elementy, które nie są bezpośrednio związane z infrastrukturą drogową.
Chociaż w naturalnych warunkach może się to nigdy nie zdarzyć, naukowcy uważają, że ten patent mogą wykorzystać cyberprzestępcy dla zabawy, w celu sparaliżowania jakiegoś miasta. Na świecie coraz częściej zdarza się bowiem, że hakowane są cyfrowe billboardy reklamowe w celu wyświetlania na nich jakichś informacji.
Trzeba tutaj podkreślić, że inżynierowie przeprowadzili testy na dwóch wersjach oprogramowania pokładowego, starszej i najnowszej, która obecnie jest w użyciu we wszystkich pojazdach tej marki. W obu przypadkach ich sztuczka zadziałała, co pokazuje, jak wciąż niedopracowane są to technologie.
Naukowcy podkreślają, że nie robią takich testów z nudów i dla zabawy, przyświeca im cel wykrycia jak największej ilości błędów i współpraca z inżynierami, by je szybko usunęli, tym samym zapewniając większe bezpieczeństwo posiadaczom takich pojazdów.
Źródło: GeekWeek.pl/Ben Guriona University / Fot. Ben Guriona University
