noviembre 29, 2020

Autopilot y Mobileye Driver-Assist Systems engañados por un proyector

2 min read
Muestra del funcionamiento del Mobileye Driver-Assist Systems

Realmente no puedes comprar un auto sin conductor todavía. Lo que puede comprar es un vehículo con sistemas avanzados de asistencia al conductor (ADAS), pero una advertencia justa: esa tecnología avanzada puede verse obstaculizada por algo tan falso como una imagen proyectada en la carretera. El investigador de la Universidad Ben-Gurion, Ben Nassi, recientemente engañó a la SUV de Tesla Model X con la versión de hardware 2.5 a través de un proyector seis meses después de engañar un sistema de asistencia al conductor Mobileye 630 Pro. Entonces, si bien los sistemas de seguridad activa se están volviendo más inteligentes, claramente no se puede confiar en ellos para comprender completamente el ingenio de los humanos.

Nassi pudo obtener tanto el Tesla Model X con Autopilot como el sistema Mobileye para registrar las imágenes proyectadas. El vehículo de Mobileye fue engañado para creer que el límite de velocidad había cambiado. En un caso, el nuevo límite de velocidad se mostró solo brevemente (125 milisegundos) en una cartelera digital. Eso es demasiado rápido para que un humano lo note, pero lo suficiente para el auto.

El Model X disminuyó la velocidad cuando se colocó una proyección de Elon Musk en la carretera y ajustó su camino cuando se mostraron un par de líneas amarillas en el frente del automóvil. En ambos casos, Nassi mostró lo que el automóvil percibió al encontrarse con estos elementos proyectados.

Nassi llama a este fantasma “Fantasma del ADAS”.

Como señaló Ars Technica, las ramificaciones de estos ataques de proyección son que alguien podría apuntar a un automóvil o conductor con un proyector conectado a un avión no tripulado. Podrían hacer que los neumáticos del vehículo se acelere, pise los frenos o gire hacia otro carril.

El resultado podría ser catastrófico. Pero también es un recordatorio de que los conductores deben prestar atención a la carretera mientras sus vehículos utilizan el piloto automático y otras funciones avanzadas de asistencia al conductor. Los robots aún no están listos para conducirnos si una simple proyección puede engañarlos.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *