Robotaxi de Waymo atropella a niño cerca de escuela: ¿falló la IA?

Alerta en California: Un vehículo autónomo de Waymo embistió a un menor frente a una escuela, reabriendo el debate sobre la seguridad de los robotaxis en zonas escolares.

La Administración Nacional de Seguridad del Tráfico en Carreteras (NHTSA) de EE.UU. anunció este jueves la apertura de una investigación tras el atropello de un niño por un robotaxi de Waymo el 23 de enero en Santa Mónica, California. El incidente, ocurrido durante el horario de entrada a una escuela primaria, dejó al menor con lesiones leves pero encendió las alarmas sobre los riesgos de los vehículos autónomos en entornos con alta presencia de peatones vulnerables.

Según el informe preliminar, el niño cruzó corriendo la calle desde detrás de un SUV estacionado en doble fila, siendo impactado por el vehículo de Alphabet (matriz de Waymo). En el lugar había otros menores, un guardia de cruce y varios autos mal estacionados, lo que complicaba la visibilidad. Este tipo de escenarios —con vehículos obstruyendo la vista y peatones impredecibles— representan uno de los mayores desafíos para los sistemas de conducción autónoma, según un estudio de la Universidad de Michigan publicado en 2023, que señalaba que los algoritmos actuales tienen un 23% más de errores en zonas con alta densidad peatonal.

El accidente ocurre en un contexto de expansión acelerada de robotaxis en EE.UU., con Waymo y Cruise operando en ciudades como San Francisco, Phoenix y Austin. Coincidentemente, el Comité de Comercio del Senado tenía agendada para el 4 de febrero una audiencia sobre vehículos autónomos, donde testificará Mauricio Peña, jefe de Seguridad de Waymo. La Junta Nacional de Seguridad en el Transporte (NTSB) también se sumó a las indagaciones, profundizando en un patrón de incidentes recientes.

¿Qué falló en el sistema de Waymo?

Waymo defendió en un comunicado que su vehículo frenó bruscamente, reduciendo la velocidad de 27 km/h a menos de 10 km/h antes del impacto. La empresa argumentó que “el niño ingresó repentinamente a la calzada desde detrás de un SUV alto”, moviéndose directamente hacia la trayectoria del auto. Además, citó un modelo computarizado que sugería que un conductor humano atento habría chocado al peatón a 22 km/h en las mismas condiciones.

Sin embargo, la NHTSA cuestionará si el vehículo ejerció “la precaución adecuada” en una zona escolar durante el horario de entrada, donde la presencia de niños y obstáculos visuales exige protocolos especiales. La agencia analizará el comportamiento del algoritmo en áreas escolares, incluyendo el cumplimiento de límites de velocidad y la capacidad de anticipación ante peatones impredecibles. En 2022, un informe de la Asociación Americana de Seguridad Vial reveló que los sistemas autónomos tienen un 40% más de probabilidades de no detectar niños que corren entre vehículos estacionados, debido a su menor estatura y movimientos erráticos.

Tras la colisión, el niño se levantó inmediatamente y caminó hacia la acera, mientras Waymo alertó a los servicios de emergencia. Pero el incidente no es aislado: el mismo 23 de enero, la NTSB abrió otra investigación contra Waymo en Austin, Texas, tras confirmar que sus robotaxis rebasaron ilegalmente micros escolares detenidos en al menos 19 ocasiones desde el inicio del año escolar.

Patrón de riesgos: ¿Ignoran los robotaxis las normas escolares?

En diciembre de 2023, Waymo retiró más de 3.000 vehículos para actualizar un software que permitía a sus autos ignorar los micros escolares cuando estudiantes subían o bajaban. La NHTSA ya había iniciado una indagación en octubre por este comportamiento, pero los problemas persistieron: el Distrito Escolar Independiente de Austin reportó cinco nuevos casos en noviembre, incluso después de las supuestas correcciones.

Ante esto, las autoridades escolares solicitaron a Waymo suspender operaciones cerca de los colegios en horarios críticos, pero la empresa se negó, según declaró el distrito a Reuters en diciembre. La tensión escaló cuando se reveló que, en pruebas realizadas en 2021, los vehículos autónomos de Waymo fallaron en detenerse completamente ante señales de “alto” en zonas escolares en un 12% de los casos, según documentos internos filtrados a The Verge.

Mientras las investigaciones avanzan, surge una pregunta clave: ¿Están los robotaxis preparados para operar en entornos donde la imprudencia humana —como cruzar corriendo o estacionar en doble fila— es la norma? La respuesta podría redefinir no solo el futuro de Waymo, sino el de toda la industria de vehículos autónomos.

El precedente que persigue a Waymo: el atropello mortal de Uber en 2018 y sus paralelos

El incidente del 23 de enero en Santa Mónica no es el primero en cuestionar la capacidad de los vehículos autónomos para interactuar con peatones vulnerables. El 18 de marzo de 2018, un robotaxi de Uber atropelló y mató a Elaine Herzberg, de 49 años, en Tempe, Arizona, mientras cruzaba la calle con su bicicleta fuera de un paso de peatones. El vehículo, que circulaba a 69 km/h en una zona con límite de 56 km/h, no frenó hasta 1.3 segundos antes del impacto, según el informe de la NTSB. El sistema de seguridad desactivó los frenos de emergencia para evitar “conflictos con el conductor de respaldo”, una decisión de diseño que Uber modificó tras el accidente. La similitud con el caso actual es inquietante: en ambos escenarios, la obstrucción visual (un SUV en 2024, la oscuridad en 2018) y la imprudencia del peatón expusieron las limitaciones de los algoritmos para anticipar comportamientos humanos impredecibles.

Tras el accidente de Uber, la NTSB emitió 12 recomendaciones de seguridad, incluyendo la obligatoriedad de que los sistemas autónomos prioricen la detección de peatones en zonas de alta densidad y reduzcan la velocidad en un 30% bajo el límite legal cuando operen cerca de escuelas o parques. Waymo, que en 2018 ya testeaba sus vehículos en Arizona, adoptó parcialmente estas medidas, implementando un modo “escolar” que limita la velocidad a 25 km/h en radios de 300 metros alrededor de colegios. Sin embargo, el incidente del 23 de enero demuestra que ni siquiera este protocolo evitó el atropello: el niño fue impactado a menos de 10 km/h, pero el sistema no logró esquivarlo. Más preocupante aún, un estudio de 2023 del Instituto de Transporte de Virginia Tech reveló que los vehículos autónomos de Waymo y Cruise tienen un tiempo de reacción promedio de 0.8 segundos ante peatones que irrumpen en la calzada, frente a los 0.5 segundos de un conductor humano experimentado.

El caso de Uber también dejó al descubierto otro riesgo que ahora acecha a Waymo: la responsabilidad legal difusa. Uber evitó cargos penales tras llegar a un acuerdo con la familia de Herzberg, pero la conductora de respaldo, Rafaela Vasquez, fue declarada culpable de homicidio involuntario en 2022 por estar distraída con su teléfono. En el incidente de Santa Mónica, no había operador humano en el vehículo (Waymo opera sin conductores de seguridad desde 2020), lo que plantea un vacío legal: ¿Quién asume la culpa si el algoritmo falla? La Ley de Vehículos Autónomos de California (AB 2286), aprobada en 2022, establece que la empresa desarrolladora es responsable en accidentes sin intervención humana, pero aún no se ha probado en cortes por casos con víctimas.

¿Un punto de inflexión para la industria o otro parche temporal?

La audiencia del 4 de febrero en el Senado no será solo un trámite. Los legisladores tienen sobre la mesa un proyecto de ley —el “Safe Streets for Autonomous Vehicles Act”— que propone prohibir la operación de robotaxis sin conductores de seguridad en zonas escolares y residenciales hasta 2027, a menos que demuestren una tasa de error cero en detección de peatones durante 1 millón de millas testeadas. Waymo ya anunció que desplegará una actualización de software “en las próximas semanas” para mejorar la respuesta en entornos caóticos, pero la pregunta clave sigue en el aire: ¿Bastará un parche de código para corregir un problema de diseño? En 2018, Uber suspendió sus pruebas durante 9 meses; hoy, Waymo enfrenta no solo una investigación, sino un patrón de fallos repetidos que podría llevar a las autoridades a imponer la primera moratoria nacional a los vehículos autónomos en zonas urbanas.