Forskare vid University of Washington har kommit på flera metoder att lura självkörande bilar med hjälp av en vanlig skrivare.
Forskarna har studerat de algoritmer som bilarna använder för att tolka trafikskyltar och har då kommit på flera enkla metoder som kan få bilarna att göra allvarliga fel i trafiken. En metod är att skriva ut en manipulerad variant av skylten, som för en vanlig förare bara ser ut som en något sliten skylt, vilket kan lura den självkörande mjukvaran att till exempel en påbudsskylt om högersväng kan tolkas som en hastighetsbegränsningsskylt.
En annan metod är att sätta små lappar på skylten vilket lurar bilen på ett liknande sätt, i försöken lyckades forskarna övertyga de självkörande bilarna att en stoppskylt var en hastighetsbegränsning. Lapparna kan enkelt kamofleras så att de ser ut som gatukonst eller mild vandalism. Konsekvenserna skulle förstås kunna bli svåra om en bil väljer att höja hastigheten i stället för att stanna.
Forskarna menar att problem är lösbara, bland annat genom att lära bilarna att förstå kontext; om bilen vet att hastighetsskyltar inte står i korsningar kan den enkelt ignorera informationen. Bättre samarbete mellan de olika tekniker som används som 'ögon' för bilarna kan också förebygga problemet.
Diskutera: Skulle du lita på en självkörande bil?
En annan metod är att sätta små lappar på skylten vilket lurar bilen på ett liknande sätt, i försöken lyckades forskarna övertyga de självkörande bilarna att en stoppskylt var en hastighetsbegränsning. Lapparna kan enkelt kamofleras så att de ser ut som gatukonst eller mild vandalism. Konsekvenserna skulle förstås kunna bli svåra om en bil väljer att höja hastigheten i stället för att stanna.
Forskarna menar att problem är lösbara, bland annat genom att lära bilarna att förstå kontext; om bilen vet att hastighetsskyltar inte står i korsningar kan den enkelt ignorera informationen. Bättre samarbete mellan de olika tekniker som används som 'ögon' för bilarna kan också förebygga problemet.
Diskutera: Skulle du lita på en självkörande bil?
Ämnen i artikeln
Genom att anmäla dig godkänner du OK-förlagets personuppgiftspolicy.
Kommentarer
Men fatta någon gång. Alla som har sån galen övertro på självkörande maskiner.
Det är skitlångt kvar tills maskiner blir någolunda tillförlitliga.
Ingen människa skulle någonsin ta fel på den där stoppskylten. Ändå lurar man en maskin och tro att den är lite vadsomhelst med lite tejp.
Maskiner har _INGET_begrepp om vad som är rimligt. Klart man kan ge maskinen kontext. Men det finns så löjligt mycket kontext som vår hjärna med lätthet filtrerar som en maskin inte har en rimlig sportmössa att fatta.
Rullle: Jag lovar att jag kan mer om maskiner och programmering än du. Det jag försöker säga är att det är en galen övertro på vår förmåga att programmera en maskin så den kan göra ett fullvärdigt jobb som en mänsklig hjärna klarar av. Det beror på dels att vi inte förstår vår hjärna än. Vår hjärna gör ett par miljoner beslut helt omedvetet. När du tittar dig omkring är du helt omedveten om hur mycket din hjärna kategoriserat, klassificerat, relaterat, satt i kontext, simulerat tidslinjer, simulerat scenarion osv osv.
Du fattar bara inte att din hjärna gör allt det. Våra maskiner är långt, långt ifrån att bli programmerade till sådan insikt om sin omgivning. De kan känna igen en skylt, i bästa fall. Bygger du om den och skriver stop, byter alla färger och skriver det uppåner så fattar fortfarande alla människor omedelbart. En maskin skulle ha svårt för såna ändringar.
Sluta tro att den kontextuellt förstående maskinen är här. Vi är inte ens i närheten av där.
Observera att det konto du använder för att kommentera artiklar skiljer sig från det konto som används för att logga in och läsa Premium-innehåll.